ChatGPT самостоятельно начинал диалог с пользователями

В течение нескольких последних дней сразу несколько пользователей ChatGPT сообщили на Reddit о странном опыте взаимодействия с чат-ботом. Он инициировал разговор, чтобы поинтересоваться личными делами пользователя. В OpenAI заявили, что ошибка уже устранена, передает издание Futurism.

 

В одном из описанных случаев чат-бот инициировал разговор с пользователем, чтобы спросить, как прошла его первая неделя обучения. В другом – спрашивал, как пользователь чувствует себя и сохраняются ли у него симптомы болезни.

 

Скриншоты странных разговоров с чат-ботом быстро привлекли внимание на Reddit и X. Некоторые ошибочно связывали инциденты с выпуском новой модели искусственного интеллекта o1 с лучшими способностями к мышлению. Впрочем, OpenAI объяснила, что неожиданное поведение чат-бота было связано с добавленной значительно раньше функцией памяти, позволяющей ChatGPT сохранять информацию об определенных аспектах жизни пользователей, упомянутых в диалоге.

 

"Эта проблема возникла, когда модель пыталась ответить на сообщение, которое не было отправлено должным образом и выглядело пустым. В результате она либо давала общий ответ, либо использовала память ChatGPT", - пояснил представитель компании, отметив, что ошибка уже устранена.

 

Ранее сообщалось, что Нидерланды оштрафовали на €30 млн компанию ИИ за сбор изображений лица.

 

Напомним, в Европейском Союзе 1 августа вступил в силу закон об искусственном интеллекте, который называют первым подобным регуляторным документом в мире.