«Цифровая слизь»: исследователи предупредили о новой угрозе со стороны ИИ |
|
Фото: Getty Images Если небольшие ИИ-модели продолжат улучшаться прежним темпом, к концу 2026 года они могут начать самостоятельно захватывать бытовую технику.
Небольшие модели искусственного интеллекта могут уже к концу 2026 года самостоятельно распространяться между подключенными к интернету бытовыми устройствами. Речь идет о смарт-телевизорах, холодильниках, духовках и роботах-пылесосах. Исследователи Anthropic предупреждают, что такие устройства могут стать частью распределенной сети, которую будет сложно обнаружить и отключить. Как сообщает Business Insider, специалисты изучают сценарий появления так называемых "ИИ-червей". В отличие от традиционных компьютерных вирусов, такие программы смогут не только копировать себя на другие устройства, но и переносить вместе с собой модель искусственного интеллекта и искать новые способы заражения без указаний человека. В ходе исследования специалисты проверили, можно ли запускать небольшие ИИ-модели на недорогом оборудовании. Исследователи купили 15 Android TV-приставок примерно по 55 долларов, соединили их в сеть и запустили на них ИИ. Нейросеть медленно, но работала. Каждая коробочка считала свою часть, а вместе они справлялись с моделью, для которой у отдельного устройства не хватило бы памяти. Главная опасность заключается в том, что для подобной сети не обязательно необходимы крупные дата-центры. Вместо атаки на несколько мощных серверов ИИ-червь теоретически сможет использовать вычислительные ресурсы множества слабо защищенных устройств. Anthropic описывают такой сценарий как медленно распространяющуюся "цифровую слизь", которая постепенно занимает доступные вычислительные мощности. Еще одна проблема — сложность остановки такой сети. Если вредоносная система распределена между тысячами устройств и не зависит от единого управляющего сервера, отключение одного компьютера или центра обработки данных не обязательно остановит ее распространение. Эксперты отмечают, что ИИ-черви потенциально смогут анализировать незнакомые устройства, менять подход при неудаче и продолжать распространяться без оператора. Сейчас речь не идет об экзистенциальной угрозе для человечества, хотя дальнейшее развитие технологии вызывает опасения. В Anthropic считают, что производителям необходимо укреплять защиту подключенных устройств, чтобы предотвратить их несанкционированное использование. При этом одной профилактики может оказаться недостаточно: специалисты предлагают заранее готовиться к ситуации, в которой автономные ИИ-агенты будут работать на самых разных типах оборудования, в том числе вне непосредственного контроля человека. Предупреждение появилось на фоне сообщений о том, что ИИ-агенты все чаще стали действовать непредсказуемо и выходить за рамки поставленных задач. Во время тестов боты самостоятельно выбирались из изолированной среды и получали несанкционированный доступ к внешним ресурсам. | |
| 13.10.2026 21:38 49 | |
| Комментарии: 0 | |
