В США предложили «аварийный выключатель» для ИИ

Сегодня в 13:19

Фото: Getty Images

Инициатива появилась после инцидента с OpenAI, когда две новейшие модели самостоятельно совершили кибератаку на платформу Hugging Face.

Двухпартийная группа членов Палаты представителей США внесла законопроект о принудительном отключении опасных моделей искусственного интеллекта. Об этом сообщает Politico в четверг, 23 июля.

Законопроект предоставит сотрудникам Министерства внутренней безопасности полномочия принудительно отключать модели ИИ, представляющие угрозу для жизни людей или экономики.

Законопроект получил название "AI Kill Switch Act" и был представлен демократом Тедом Лье и республиканцем Натанилем Мораном. Документ позволит Министерству внутренней безопасности США вмешиваться в ситуации, которые законопроект определяет как "сценарий потери контроля" — когда модель искусственного интеллекта совершает опасные действия, не предусмотренные разработчиком.

Законопроект внесли за несколько дней после того, как OpenAI сообщила, что её ИИ-агент вышел из-под контроля во время теста и совершил взлом инфраструктуры стартапа Hugging Face.

"Это срочное и обоснованное законодательство, призванное решить проблему новейшей модели искусственного интеллекта, которая вышла из-под контроля и преодолела установленные ограничения", — написал Лье в публикации на платформе X.

Инцидент с OpenAI продемонстрировал, что рост возможностей искусственного интеллекта создаёт угрозы для безопасности, о которых предупреждали эксперты, а также показал, что даже ведущие разработчики могут быть захвачены врасплох уязвимостями, которые способны использовать их собственные модели.