ИИ Recycle-GAN научился создавать убедительные поддельные видео

Исследователи университета Карнеги — Меллона разработали нейросеть Recycle-GAN, способную создавать фейковые видео. В отличие от других подобных инструментов, новый ИИ способен обучаться без учителя и не ограничен какой-то одной областью применения. С одинаковым успехом Recycle-GAN воссоздаёт человеческие лица, изменяет погоду на видеозаписи и моделирует распускание цветочного бутона.

Принцип работы Recycle-GAN

GAN (генеративно-состязательная сеть) представляет собой две связанных системы. Одна из них генерирует контент, а вторая пытается определить, является ли контент исходным или сгенерированным. По словам разработчиков, сеть Recycle использует «пространственно-временные метки», чтобы связать два изображения.

Учёные провели исследование, предложив 15 испытателям отличить воссозданные нейросетью видео восхода и цветения растений от настоящих. В 28,3 % случаев искусственному интеллекту удалось обмануть наблюдателей.

В то время как одни исследователи создают подобные инструменты, другие отчаянно стараются найти способ отличать подделки от оригиналов. Однако, как заявил профессор Эрик Голдман (Eric Goldman) из Высшей школы права Санта Клары, человечеству стоит «приготовиться к миру, где смешение настоящих и поддельных фото и видео будет в порядке вещей».

На самом деле, все необходимые ресурсы для создания подобных инструментов общедоступны. В конце 2017 года пользователь с говорящим ником Deepfakes опубликовал на Reddit несколько фейковых видеороликов порнографического содержания, доказав, что создание таких подделок доступно даже любителям.