Порнофейки со звездами. Чем миру угрожает нейросеть

Многие голливудские актрисы стали "героинями" фильмов для взрослых благодаря алгоритму машинного обучения, созданным пользователем Reddit.

Интернет заполнили так называемый порнофейки - фильмы для взрослых, в которых искусственный интеллект и нейросети заменяют лица актрис на изображения знаменитостей.

Благодаря большому количеству фотографий и видео звезд в интернете анимация выглядит крайне достоверной. Среди жертв таких фейков оказались актрисы Галь Гадот, Эмма Уотсон, актрисы из Игры престолов и другие.

Эта технология заставляет задуматься не только об этической стороне вопроса. Она несет в себе опасные для современного общества последствия, поскольку может быть использована для обмана как простых граждан, так и властей.

Корреспондент.net разбирался, что представляет из себя алгоритм создания порнофейков и к чему это может привести.

Может сделать любой

В декабре 2017 года пользователь популярной американской соцсети Reddit под ником DeepFakes выложил в открытый доступ разработанный ним алгоритм, позволяющий создавать реалистичные видео с заменой лица, используя нейросети и машинное обучение.

На своем домашнем компьютере он сделал первый "шедевр": порно с Галь Гадот, известная по главной роли в блокбастере Чудо-женщина.

В работе применялись библиотеки для глубокого обучения Keras и TensorFlow, и открытые алгоритмы машинного обучения.

Сперва система "тренируется" на картинках в Google и роликах в YouTube. В процессе обучения искусственный интеллект сопоставляет фрагменты исходных портретов с видеозаписью, чтобы получить максимально правдоподобный ролик.

После того, как нейросеть разобралась, как выглядит Галь Гадот, то наложила ее модель на ролик 18+ с актрисой похожих пропорций.

В интервью Motherboard DeepFakes рассказал, что из сотен фотографий генерирует миллионы искаженных изображений, чтобы тренировать сеть.

"Когда она готова, и знает, какое лицо мне нужно слепить, достаточно скормить сети чье-то другое лицо. Сеть думает, что это еще одно искаженное изображение, и пытается сделать его похожим на то лицо, с которым она тренировалась", - рассказывал создатель.

Искусственный интеллект. Опасения Маска и Хокинга

Технология пошла в массы, когда другой пользователь, Deepfakeapp, месяц спустя создал программу FakeApp, с помощью который любой желающий без знаний языков программирования, может создавать такие видео. Программу скачали более 100 тысяч раз.

Это приложение бесплатно, находится в открытом доступе и даже предоставляет уроки для новичков.

Сообщается, что для достижения результата пользователю понадобятся всего лишь два видеоролика со знаменитостями в хорошем качестве. Весь процесс создания занимает около 12 часов.

Человечество под угрозой?

Сейчас много говорят о кризисе, связанном с широким распространением фейковых новостей. Уже создано несколько таких фейковых видео с лицом президента США Дональда Трампа.

Пока это очевидные шутки, но несложно представить, насколько эффективными могут быть подобные поделки в пропагандистских целях.

Но такие технологии могут навредить и отдельно взятому человеку. С помощью этой технологии можно вставить в видео лицо не только знаменитостей, но любого человека, если есть достаточное количество его качественных фотографий. Люди все время выкладывают селфи в соцсети, поэтому получить их не трудно.

Новые технологии порноиндустрии, которую часто называют двигателем инноваций, могут найти применение в разных сферах жизни.

Журналист Джон Кристиан в одной из своих статей предсказал худший сценарий, в котором эта технология может быть использована для обмана властей, населения и даже для разжигания международных конфликтов.

Фейковые новости уже воздействуют на общественное мнение. Возможно, они даже способны влиять на итоги выборов, как показало расследование США о вмешательстве России в выборы президента.

Нейросеть: искусственый интеллект в любом смартфоне

Благодаря этйо технологии любой может без особых усилий создавать фейковое видео - от интимного видео со своей бывшей девушкой в качестве "порномести" до выступления государственного деятеля, который может сказать с трибуны все что угодно.

Так, юзер Z3ROCOOL22 совместил фрагменты выступлений президента Аргентины Маурисио Макри и Адольфа Гитлера, создав "нового" политика.

Эта технология имеет потенциал навсегда изменить потребление медиа-контента в интернете.

"Тот факт, что эта технология доступна для каждого, пугает. Из-за этого рушится вся концепция доверия и благонадежности", - считает заслуженный профессор прикладной этики Дебора Джонсон.

Для любви и войн. Как роботы заменяют человека