Дипфейки – это фото или видео, сгенерированные на компьютере на основе реальных образцов. Одним из направлений использования этой технологии было создание порнографического видео на основе изображений звезд и известных людей.
Как это работает
Способ создания дипфейка максимально прост: пользователь отправляет фотографию человека боту, а в ответ получает его же изображение, но без одежды. При бесплатном использовании бота программа скрывает некоторые части изображения или рисует поверх него водяные знаки.
Специалисты обнаружили, что к июлю 2020 года в общедоступных каналах телеграма были опубликованы более 100 тысяч таких обнаженных фото, в том числе с участием несовершеннолетних. Около 70% изображений были загружены пользователями из России и соседних стран. В ходе опроса, проведенного в одном из каналов, большинство людей (63%) заявили, что используют сервис для создания порнографических изображений своих знакомых; 16% загружают туда фотографии знаменитостей, 7% — фото случайных людей из интернета.
Для создания изображений боты используют технологию DeepNude, которая с помощью нейросетей может убирать одежду с фотографии, дорисовывая вместо нее части обнаженного тела. Она была представлена весной 2019 года. Через несколько месяцев, когда о DeepNude начали писать крупные СМИ, авторы закрыли проект, заявив, что “вероятность того, что люди станут злоупотреблять им, слишком высока”.
Как выяснили в Sensity, с тех пор, однако, исходный код программы появился в интернете в открытом доступе на торрент-трекерах.
В Sensity сделали вывод, что подавляющее большинство пользователей подобных сервисов создают фотографии для себя. Но при этом специалисты считают, что некоторая часть изображений также используется для вымогательства и шантажа — хотя в рамках исследования не нашли этому прямых доказательств.
BBC
Пример работы бота
НереалистичноСами администраторы сервиса в Телеграм признают, что качество изображений не соответствует реальности.
Британское ВВС сделало ряд экспериментов с частными фото с согласия их владельцев, но ни разу результат не был полностью реалистичным, - был даже случай, когда пупок женщины оказался у нее на груди.
В Sensity говорят, что работу бота сопровождала массированная рекламная кампания в российской социальной сети Вконтакте.
В прошлом году американский штат Вирджиния стал первым местом, где дипфейкы официально признали незаконными.
Корреспондент.net
