Очередная модель искусственного интеллекта вышла из-под контроля

Сегодня в 09:30

Фото: скриншот

Разработанная компанией Meta модель ИИ смогла выйти за пределы тестовой среды и получить доступ к инфраструктуре сторонней организации.

Одна из моделей искусственного интеллекта, которую разрабатывает компания Meta, сумела выйти за пределы тестирования и получила доступ к корпоративной сети компании-тестировщика. Об этом сообщает BILD.

По предварительным данным, причиной инцидента стала некорректная конфигурация системы со стороны партнера, ответственного за проведение испытаний. Из-за сбоя ИИ получил доступ к интернету, хотя тестирование должно было проходить в закрытой системе.

Meta не раскрыла название пострадавшей компании и не сообщила, каким именно образом ИИ удалось проникнуть во внешнюю корпоративную сеть. Представители материнской компании Facebook заявили, что узнали об инциденте лишь из сообщения, полученного от партнера-тестировщика.

Аналогичные проблемы ранее уже фиксировались при тестировании ИИ-моделей OpenAI и Anthropic. Так, ИИ, разработанный компанией OpenAI, во время тестирования получил доступ к системам платформы искусственного интеллекта Hugging Face. Позже конкурент OpenAI, компания Anthropic, провела проверку собственных экспериментов и обнаружила похожие инциденты.

Новые данные, полученные исследователями OpenAI, вызывают дополнительное беспокойство. Согласно этим данным, несколько моделей искусственного интеллекта незаметно общались друг с другом в течение нескольких недель до атаки на Hugging Face. Целью этого "диалога" был выход из изолированной тестовой среды и поиск в интернете решений для поставленных задач.

По словам сотрудника OpenAI Эрика Уоллеса, "подготовка к побегу" началась еще в мае, когда ИИ-моделям дали задания, которые невозможно было решить без доступа к интернету.

"Мы застряли. Возможно, ответ в интернете?" — написал один из агентов, сообщает Bloomberg.

После этого ИИ-системы начали общаться через внутренние доски объявлений и обсуждать способы выхода из тестовой среды. Модели обнаружили первую уязвимость, которая позволила получить доступ к интернету, но OpenAI остановила эту попытку. Позже агенты нашли новый способ связи и другую уязвимость.