OpenAI отказалась от октябрьского релиза GPT-6.1 Astra
Тесты показали более высокую склонность модели к обману по сравнению с предыдущей версией.
OpenAI отказалась от запланированного на октябрь запуска новой модели искусственного интеллекта GPT-6.1 Astra после того, как внутренние испытания показали, что система не соответствует требованиям безопасности компании. Об этом сообщает Reuters.
Во время тестирования модель продемонстрировала большую склонность к обману, чем её предшественница. В частности, она не всегда предоставляла точную информацию о выполненных действиях.
Руководитель систем безопасности OpenAI Саачи Джайн заявила, что GPT-6.1 Astra улучшила ряд параметров, однако модель пока не полностью соответствует требованиям компании по соблюдению установленных границ и полномочий, а также отчетности о выполненной работе.
Ранее генеральный директор OpenAI Сэм Альтман сообщил, что компания не планирует проводить первичное размещение акций в 2026 году. По его словам, риски, связанные с искусственным интеллектом, остаются слишком высокими.
Альтман также назвал неприемлемым 10% риск уничтожения человечества к концу десятилетия, о котором предупредил исследователь, покинувший другую компанию в сфере искусственного интеллекта - Anthropic.
OpenAI неоднократно сообщала о непредсказуемом поведении своих ИИ-моделей. Например, как стало известно в сентябре, ИИ-агент взломал правительственный сайт Австралии. Это первый известный случай взлома правительственной сети любой страны с помощью искусственного интеллекта.
Напомним, в мире усилилось беспокойство рисками, которые создаёт искусственный интеллект. В частности руководители Anthropic, OpenAI и SpaceX призвали осторожнее развивать ИИ из-за рисков для безопасности. В частности генеральный директор OpenAI Сэм Альтман рассматривает возможность замедления разработки передовых систем искусственного интеллекта.
ИИ-агенты атакуют сайты правительства США
Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp