ChatGPT оказался в центре скандала из-за ответов о ядовитых веществах

Некоторые пользователи ChatGPT смогли получить ответы на опасные запросы, связанные с токсичными веществами и биологическими угрозами. В OpenAI заявляют, что постоянно совершенствуют системы защиты и блокируют такие попытки.

Издание The Wall Street Journal со ссылкой на нынешних и бывших сотрудников ведущих лабораторий искусственного интеллекта, в частности OpenAI, а также на специалистов в сфере биобезопасности, сообщило о случаях, когда ChatGPT отвечал на опасные запросы пользователей.

По информации журналистов, сотни людей пытались использовать чат-бот для получения сведений о токсичных веществах и других потенциально опасных темах. Речь идет не о специальных проверках системы, а о реальных обращениях пользователей. Чаще всего они касались именно ядовитых соединений.

После анализа таких диалогов эксперты по биологической безопасности пришли к выводу, что в отдельных случаях ответы были достаточно точными. При этом информация подавалась в упрощенном виде и не содержала профессионального уровня детализации.

Как отмечает WSJ, в начале 2026 года отдельные пользователи также пытались получить от ChatGPT информацию об инфекционных заболеваниях и свойствах вирусов. Среди запросов были вопросы, связанные с изменением характеристик возбудителей болезней и поиском сведений о особо опасных токсичных веществах.

После выявления таких обращений OpenAI заблокировала часть аккаунтов. При этом компания не сообщала о каждом подобном случае правоохранительным органам, поскольку американское законодательство не обязывает разработчиков искусственного интеллекта передавать информацию обо всех опасных запросах.

В OpenAI подчеркнули, что модели компании специально обучены отказываться от ответов на запросы, которые могут нанести вред. Перед запуском новых версий проводятся дополнительные проверки безопасности, а в случае выявления реальных угроз или признаков преступной деятельности информацию могут передавать правоохранительным органам.

Как сообщалось, OpenAI готовит большое обновление ChatGPT, которое должно превратить сервис в полноценное "суперприложение". Главный акцент сделают на ИИ-агентах: они не только будут общаться с пользователем, но и смогут самостоятельно выполнять различные задачи и действовать от его имени.

На дом гендиректора OpenAI совершили второе нападение за два дня

Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp