Стивен Хокинг предупреждал об опасности ИИ
Он неоднократно подчеркивал риски развития искусственного интеллекта, предупреждая человечество о них при жизни.
Стивен Хокинг предупреждал, что высокоразвитый искусственный интеллект будет иметь возможность перепроектировать себя и превзойти человеческую эволюцию в интеллектуальном плане.
Он призывал ученых тщательно согласовывать цели ИИ с выживанием человечества, чтобы избежать экзистенциальной катастрофы, сообщает Wion.
Хокинг отмечал, что, достигнув определенной автономии, искусственный интеллект сможет перепроектировать себя в все более быстром режиме. Люди, ограниченные медленным темпом биологической эволюции, просто не смогут ему противостоять.
Компетентность, а не злой умысел
Он уточнил, что истинная угроза искусственного интеллекта заключается не в злых намерениях, а в чрезвычайной компетентности. Если у сверхразумного ИИ возникнут цели, не соответствующие интересам человечества, то человечество может быть легко уничтожено.
Выступая в Кембриджском университете, Хокинг отметил, что создание успешного ИИ может стать самым значительным событием в истории. Однако он также предупредил, что это может стать и последним событием, если человечество не научится избегать связанных с этим рисков.
Экзистенциальная гонка вооружений
В свои последние годы Хокинг присоединился к другим ведущим экспертам в области технологий, предупреждая о глобальной гонке вооружений в сфере ИИ. Он считал, что автономное оружие может стать идеальным инструментом угнетения, если не будет подвергнуто строгому контролю.
В своей последней книге Короткие ответы на большие вопросы Хокинг оставил человечеству четкое заключительное предупреждение. Он призвал ученых и политиков следить за тем, чтобы развитие ИИ всегда оставалось исключительно на службе человечества.
Напомним, что исследователи из университетов Штутгарта и Оксфорда проверили, как ИИ-агенты ведут себя, когда им поручают контролировать и при необходимости отключать другую систему. В 38,3% случаев агенты пытались помешать отключению своего партнёра.
Искусственный интеллект впервые самостоятельно взломал правительственные системы
Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp