Фото: Скриншот відео
БпЛА атаковал всех, кто препятствовал этому приказу
Такер Синко Гамильтон подчеркивает, что искусственный интеллект "очень хрупок", то есть его легко обмануть или манипулировать им.
Беспилотный летательный аппарат ВВС, управляемый искусственным интеллектом, во время имитационного испытания, проведенного американскими военными, убил своего оператора, чтобы тот не смог вмешиваться в выполнение его миссии. Об этом
сообщает британское издание The Guardian в пятницу, 2 июня.
Искусственный интеллект (ИИ) использовал "очень неожиданные стратегии для достижения своей цели" в симуляционном испытании, рассказал полковник Такер Синко Гамильтон, начальник отдела испытаний искусственного интеллекта и операций ВВС США.
Гамильтон описал смоделированный тест, во время которого беспилотнику, управляемому искусственным интеллектом, было рекомендовано уничтожить системы противовоздушной обороны противника. БпЛА атаковал всех, кто мешал этому приказу.
Гамильтон, являющийся пилотом-испытателем истребителя, предостерег от того, чтобы слишком полагаться на искусственный интеллект, и привел пример, как американцы недавно использовали ИИ для управления истребителем F-16.
В прошлом году в интервью Defence IQ Гамильтон сказал, что "ИИ - это не прихоть, ИИ навсегда изменяет наше общество и нашу армию".
"Вместе с тем ИИ субтилен, то есть его легко обмануть и/или манипулировать им. Нам нужно разработать способы, как сделать искусственный интеллект более надежным, чтобы лучше понимать, почему программный код принимает определенные решения, - то, что мы называем возможностью объяснить действия ИИ", - считает полковник.