Фото: via Qun Wan and Meiqin Xu
Опасные советы искусственного интеллекта
Родители 31-летней женщины подают в суд на OpenAI из-за её смерти после отказа от противоэпилептических препаратов.
Родители 31-летней Бовен Вань подали судебный иск против компании OpenAI из-за смерти женщины после отказа от лекарств против эпилепсии. Об этом сообщает The New York Times.
Они утверждают, что чат-бот ChatGPT фактически занимался незаконной медицинской практикой, подстрекал женщину скрывать действия от врачей и разработал опасный график отказа от жизненно необходимых лекарств против эпилепсии, что привело к её смерти.
Официальной причиной смерти стала внезапная смерть при эпилепсии (SUDEP) – явление, которое часто наступает после тяжелого приступа. Однако анализ переписки в телефоне покойной выявил, что перед этим она резко уменьшила дозу и полностью прекратила приём ламотриджина по прямым инструкциям искусственного интеллекта.
Бовен Вань переехала из Китая в США и работала инженером-программистом в Amazon. У нее была тяжёлая форма эпилепсии и она принимала лекарства. Однако, она жаловалась на побочные эффекты, а врачи, якобы, не обращали на это внимания. По ее словам, из-за лекарств ее речь становилась неестественно прерывистой, а мышление – заторможенным.
Позже женщина узнала, что попадает под волну сокращений в Amazon. Она боялась потерять визу и стремилась найти новую работу. Чтобы как можно лучше проявить себя на собеседованиях, Бовен Вань начала думать об отказе от лекарств и обратилась к ChatGPT – тот одобрил ее намерение самостоятельно уменьшить дозу препарата с 400 мг до 0 мг всего за несколько недель.
Чат-бот не только прописал схему снижения дозировки, но и активно подрывал доверие к медикам. Когда Вань выразила сомнения, система заверила ее, что рекомендации врачей якобы диктуются страхом рисков, а не заботой о её благополучии, и похвалила пациентку за решение действовать тайно.
Согласно материалам расследования, девушка как минимум 158 раз выражала обеспокоенность ухудшением состояния. Тем не менее, опасные приступы, потерю сознания и ощущение давления в голове алгоритм интерпретировал как положительные явления – будто мозг "переходит в режим низкого энергопотребления" или "работает над самовосстановлением". Тело женщины нашли в ее кровати через несколько дней после последнего сообщения, отправленного алгоритму.
Представитель OpenAI Дрю Пусатери назвал инцидент трагическим и отметил, что в диалогах использовалась модель GPT-4o, которую компания удалила из публичного доступа сразу после инцидента. В компании заявили, что новые разработки строже оценивают риски для жизни.
Напомним, что OpenAI готовит масштабное обновление, после которого ChatGPT станет "суперприложением". Разработчики делают ставку на ИИ-агентов, которые смогут не только отвечать, но и действовать от имени пользователя.
В Ровенской области мужчина подделал справку МСЭК с помощью ChatGPT
Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp