Фото: Getty Images
В США разработали закон о принудительном отключении ИИ
Инициатива появилась после инцидента с OpenAI, когда две новейшие модели самостоятельно совершили кибератаку на платформу Hugging Face.
Двухпартийная группа членов Палаты представителей США внесла законопроект о принудительном отключении опасных моделей искусственного интеллекта. Об этом сообщает Politico в четверг, 23 июля.
Законопроект предоставит сотрудникам Министерства внутренней безопасности полномочия принудительно отключать модели ИИ, представляющие угрозу для жизни людей или экономики.
Законопроект получил название "AI Kill Switch Act" и был представлен демократом Тедом Лье и республиканцем Натанилем Мораном. Документ позволит Министерству внутренней безопасности США вмешиваться в ситуации, которые законопроект определяет как "сценарий потери контроля" - когда модель искусственного интеллекта совершает опасные действия, не предусмотренные разработчиком.
Законопроект внесли за несколько дней после того, как OpenAI сообщила, что её ИИ-агент вышел из-под контроля во время теста и совершил взлом инфраструктуры стартапа Hugging Face.
"Это срочное и обоснованное законодательство, призванное решить проблему новейшей модели искусственного интеллекта, которая вышла из-под контроля и преодолела установленные ограничения", - написал Лье в публикации на платформе X.
Инцидент с OpenAI продемонстрировал, что рост возможностей искусственного интеллекта создаёт угрозы для безопасности, о которых предупреждали эксперты, а также показал, что даже ведущие разработчики могут быть захвачены врасплох уязвимостями, которые способны использовать их собственные модели.
Напомним, как заявили участники дискуссии на международном безопасностном форуме "Шангри-Ла Диалог" в Сингапуре, искусственный интеллект может представлять большую угрозу для стратегической стабильности, чем ядерное оружие.
Разрушительный ИИ может появиться уже через несколько месяцев - разведка
Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp