Очередная модель искусственного интеллекта вышла из-под контроля

Meta не раскрыла название пострадавшей компании и не сообщила, каким именно образом ИИ удалось проникнуть во внешнюю корпоративную сеть. Представители материнской компании Facebook заявили, что узнали об инциденте лишь из сообщения, полученного от партнера-тестировщика.

 

Аналогичные проблемы ранее уже фиксировались при тестировании ИИ-моделей OpenAI и Anthropic. Так, ИИ, разработанный компанией OpenAI, во время тестирования получил доступ к системам платформы искусственного интеллекта Hugging Face. Позже конкурент OpenAI, компания Anthropic, провела проверку собственных экспериментов и обнаружила похожие инциденты.

 

Новые данные, полученные исследователями OpenAI, вызывают дополнительное беспокойство. Согласно этим данным, несколько моделей искусственного интеллекта незаметно общались друг с другом в течение нескольких недель до атаки на Hugging Face. Целью этого "диалога" был выход из изолированной тестовой среды и поиск в интернете решений для поставленных задач.

По словам сотрудника OpenAI Эрика Уоллеса, "подготовка к побегу" началась еще в мае, когда ИИ-моделям дали задания, которые невозможно было решить без доступа к интернету. "Мы застряли. Возможно, ответ в интернете?" - написал один из агентов, сообщает Bloomberg.

После этого ИИ-системы начали общаться через внутренние доски объявлений и обсуждать способы выхода из тестовой среды. Модели обнаружили первую уязвимость, которая позволила получить доступ к интернету, но OpenAI остановила эту попытку. Позже агенты нашли новый способ связи и другую уязвимость.

Напомним, модели искусственного интеллекта Claude во время внутренних тестов по кибербезопасности получили несанкционированный доступ к системам трех компаний.