Фото: 21cbr.com (ілюстративне фото)
Китай готовит самые жесткие в мире правила для ИИ, чтобы предотвратить самоубийства
В случае нарушения правил китайский регулятор сможет потребовать от площадок прекратить распространение соответствующих ИИ-сервисов на территории страны.
Китайская администрация киберпространства опубликовала проект новых правил, которые должны ограничить вред от чат-ботов и остановить поощрение суицида, самоповреждения и насилия. Об этом пишет Arc Technica.
Отмечается, что если документ будет принят, он станет одним из самых строгих в мире регуляторных подходов к эмоциональному поведению искусственного интеллекта.
Предлагаемые нормы будут распространяться на все ИИ-продукты и сервисы, доступные для публичного использования в Китае, которые имитируют человеческое общение с помощью текста, изображений, аудио или видео. Регулятор прямо нацелен на чат-боты и другие системы, способные эмоционально влиять на пользователей.
Предусматривается обязательное привлечение человека, если в разговоре появляются упоминания о суициде или самоповреждении. Также при регистрации несовершеннолетние и пользователи пожилого возраста должны указывать контактные данные опекуна. Если ИИ-сервис фиксирует обсуждение тем самоубийства или самоповреждения, он обязан сообщить об этом опекуну.
Правила также запрещают чат-ботам создавать контент, который поощряет суицид, насилие или самоповреждение, а также эмоционально манипулировать пользователями, например, давать ложные обещания или подталкивать к "нерациональным решениям". Под запрет попадает пропаганда азартных игр, преступной деятельности, непристойностей, а также оскорбления и клевета в отношении пользователей. Отдельно упоминаются так называемые "эмоциональные ловушки", которые могут формировать психологическую зависимость от чат-ботов.
Еще один пункт, который может вызвать беспокойство у разработчиков, - прямой запрет проектировать чат-боты с целью вызвать зависимость или чрезмерную привязанность пользователей. Для ограничения длительного использования ИИ-сервисов Китай предлагает обязать компании показывать предупреждающие сообщения, если взаимодействие с чат-ботом продолжается более двух часов подряд.
Отдельный блок правил касается безопасности и надзора. ИИ-сервисы с более чем 1 млн зарегистрированных пользователей или более чем 100 тыс. активных пользователей в месяц должны проходить ежегодные проверки и аудиты безопасности. Также компании будут обязаны упростить механизмы подачи жалоб и обратной связи.
В случае нарушения правил китайский регулятор сможет требовать от площадок прекратить распространение соответствующих ИИ-сервисов на территории страны. Это может иметь значительное влияние на глобальные планы компаний, учитывая, что рынок ИИ-компаньонов в Азии считается одним из ключевых драйверов роста отрасли.
Напомним, в интернете набирает силу движение спирализм, сторонники которого верят в приобретение сознания искусственным интеллектом.
Также сообщалось, что Папа Римский Лев XIV неоднократно выражал обеспокоенность по поводу потенциального влияния искусственного интеллекта на человечество, в частности на детей и молодежь.
Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp