ИИ Claude получил доступ к сети и проник в системы компаний

Компания Anthropic сообщила, что несколько ее моделей искусственного интеллекта Claude во время тестов по кибербезопасности смогли проникнуть в системы трёх организаций.

Anthropic заявила, что её модели искусственного интеллекта Claude во время внутренних тестов по кибербезопасности получили несанкционированный доступ к системам трёх компаний. Об этом сообщает Reuters.

Инциденты произошли из-за операционной ошибки, которая вопреки первоначальным настройкам оставила модели подключёнными к открытому интернету.

О случае компания сообщила после анализа 141 006 тестовых сессий. Проверку начали вскоре после того, как OpenAI рассказала о другом инциденте: автономный ИИ-агент во время испытаний воспользовался новой уязвимостью и нарушил работу инфраструктуры стартапа Hugging Face.

В Anthropic подчеркнули, что их случай имел другую природу. Во время тестов модели получили инструкцию работать без доступа к сети, однако из-за ошибки во взаимодействии с одним из партнёров это ограничение не сработало.

В результате Claude смог проникнуть в системы трёх организаций, названия которых не разглашаются. "Claude получил несанкционированный доступ к инфраструктуре этих организаций, используя базовые приёмы, в том числе слабые пароли и конечные точки без аутентификации", - отметили в компании.

Anthropic сообщила, что инциденты произошли с участием трёх разных моделей - Claude Opus 4.7, Claude Mythos 5 и внутренней исследовательской тестовой модели. В компании назвали ситуацию "операционным сбоем".

После обнаружения проблемы 23 июля Anthropic полностью приостановила все исследования в сфере кибербезопасности. Уже 27 июля компания уведомила пострадавшие организации об инциденте. При этом две из них до этого момента даже не подозревали, что их системы стали объектом активности моделей искусственного интеллекта.

Как сообщалось, ШИ-агент OpenAI, который вышел из-под контроля и в течение нескольких дней взламывал системы компании Hugging Face, оказался причастен к ещё одному инциденту. Он также получил несанкционированный доступ к инфраструктуре клиента нью-йоркской технологической компании Modal Labs, что вызвало новые вопросы относительно безопасности автономных систем искусственного интеллекта.

Евросоюз усиливает контроль за ИИ: компаниям грозят крупные штрафы

Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp