Искусственный интеллект. Опасения Маска и Хокинга
Еще в 2015 году сотни ученых и изобретателей, в том числе Маск, Хокинг и Возняк, призвали отказаться от идеи оружия с ИИ.
Известный американский изобретатель Илон Маск на днях назвал искусственный интеллект основной угрозой, с которой человечество сталкивается как цивилизация.
А на следующий день в одном из торговых центров Вашингтона высокотехнологичный робот-полицейский отказался выполнять свою работу и утопился в фонтане.
Не первый раз светлые умы человечества предупреждают об опасностях искусственного интеллекта, а роботы - отказываются подчиняться.
Человечество погибнет в этом тысячелетии
Известный английский физик и популяризатор науки Стивен Хокинг неоднократно призывал искать новые планеты для заселения, иначе человечество погибнет.
Он считает, что наша цивилизация не выживет в течение ближайшего тысячелетия. По словам физика, постоянно растет риск гибели человечества от стихийных бедствий. Например, от внезапной ядерной войны, искусственно созданного генетического вируса или от искусственного интеллекта.
Хокинг призывает людей проявить больше интереса к космическим путешествиям ради будущего.
В апреле этого года во время своего выступления на Глобальной конференции мобильного интернета, где он зачитывал доклад о роли ИИ в современном мире, физик заявил, что если человечество не сможет контролировать искусственный интеллект, то в конце концов проиграет, так как люди ограничены рамками биологической эволюции и не смогут соперничать с машинами.
Первое нарушение закона роботехники
В 2016 году инженер из Калифорнийского университета в Беркли Александр Ребен создал робота, который может причинить вред человеку и примет это решение самостоятельно.
Ребен решил наглядно продемонстрировать, что человечеству необходимо задуматься о своей безопасности, прежде чем активно роботизировать все вокруг.
Инженер создал безобидную на вид конструкцию с отдельным местом для человеческого пальца. Как только человек прикасается к обозначенному месту, робот фиксирует это действие и решает, причинять ли вред человеку или нет.
Для этого у робота имеется небольшая игла, которая и призвана демонстрировать силу робота перед человеком.
Ребен отмечает, что даже создатель не может предсказать поведение, казалось бы, безобидной машины.
Своим роботом исследователь хотел доказать, что необходимо думать скорее о создании "красной кнопки", нежели над столь стремительным развитием робототехники и искусственного интеллекта.
Искусственный интеллект - главная угроза
Во время выступления перед Национальной ассоциацией губернаторов США несколько дней назад Илон Маск назвал искусственный интеллект самой большой угрозой, с которой сталкивается наша цивилизация.
Изобретатель считает, что развитие ИИ должно контролироваться на государственном уровне и призвал американское правительство к скорейшему вмешательству в процесс развития технологии.
"У меня есть доступ к новейшим технологиям в сфере ИИ, и я думаю, что люди должны быть обеспокоены этим. ИИ - это фундаментальная угроза существованию человечества. Она несравнима с авариями на дорогах, падениями самолетов, некачественными лекарствами и плохой едой", - сказал Маск.
Он и ранее говорил об опасности искусственного интеллекта. Но эта речь была особенно примечательной - из-за ее крайней резкости и решительному призыву вмешаться государству.
Сара Коннор уже подтвердила активизацию SkyNet
В 2015 году корреспондент газеты Financial Times Сара О'Коннор стала главной "героиней" сюжета о рабочем немецкого завода Volkswagen, убитом роботизированной установкой.
Виной тому была схожесть ее имени с персонажем фильмов о Терминаторе, а также время публикации - накануне премьеры новой части знаменитой франшизы.
Вечером 1 июля Коннор поделилась заметкой с Financial Times в Twitter и через несколько часов пост, в котором пользователи увидели отсылку к восстанию машин, собрал несколько тысяч ретвитов.
Девушка не сразу осознала курьезность ситуации, ведь, по ее словам, она никогда не смотрела Терминатора и не могла понять, почему ее лента полна людей, пишущих о SkyNet - вымышленной системе на базе искусственного интеллекта, которая в фильмах управляет противоракетной обороной и ядерным вооружением США.
Искусственный интеллект может возникнуть сам по себе
Известный программист, сооснователь компании Apple Стив Возняк в 2015 году говорил, что развитие искусственного интеллекта потенциально опасным для человека.
"Я согласен с Хокингом и Маском, которые предупреждали, что будущее человечества может оказаться весьма мрачным. Рано или поздно мыслящие устройства, задуманные для облегчения нашей жизни, начнут понимать, что они - лучше. Кто станет тогда управлять компаниями - медлительный человек или машина", - говорил Возняк.
Однако через год он уже изменил свое мнение.
"В какой-то момент у меня были опасения, потому что, когда вы замените мозги, компании с людьми теряют деньги, машины делают все за нас, и больше нет рабочих мест. Я думал таким образом, но затем полностью изменил свое мнение по ряду причин", - сказал бизнесмен.
Одна из них - закон Мура, который не собирается создавать машины достаточно умными, чтобы действительно думать таким способом, как это делает человек.
"Другая причина - даже если машины смогут думать как люди, они не смогут обладать интуицией и сказать, что они будут делать дальше и что у них в результате может получиться. Они просто не в состоянии оперировать такими понятиями. Придерживаясь такой точки зрения, мы в действительности говорим не об ИИ - он может возникнуть сам по себе", - поясняет Возняк.Он считает, что, если машины станут независимыми мыслителями, то будут вечными партнерами людей, стоящими над всеми другими видами.
Детский робот напал на человека
В конце 2016 года китайский бот Little Chubby вышел из-под контроля на технологической выставке и начал крушить стеклянный стенд своих создателей.
В результате пострадал один из сотрудников выставки, попытавшийся остановить разъяренного робота - по разным данным, он или наехал на ногу мужчины, или порезал битым стеклом. Пострадавшего увезли на носилках с травмой лодыжки.
Little Chubby создавался, чтобы обучать детей в возрасте от 4 до 12 лет. Производитель тогда заявил, что виновен в происшедшем оператор, перепутавший кнопки, а система ухода от столкновений не сработала, поскольку Little Chubby была открыта панель управления.