История Deepfake: от искусственного интеллекта до фальшивых изображений и видео 🎥🤖

Вопросы манипуляции медиа становятся особенно актуальными во время выборных кампаний, но 2024 год обещает быть особенным по двум причинам: расширение применения технологий deepfake, использующих искусственный интеллект (ИИ), и большое количество выборов по всему миру. Deepfake — это подделка, созданная с помощью ИИ, чаще всего в виде фальшивых видеозаписей с людьми, которые дополняются синтезированным голосом. С учетом того, что в этом году выборы проходят в таких странах, как Индия, США, ЕС и Великобритания, технологии deepfake могут сыграть важную роль в этом процессе.

Давайте рассмотрим несколько знаковых примеров, когда эта технология была использована за последние годы.

DeepDream и банан (2015) 🍌

Все началось в 2015 году, когда Google представил проект, который позже стали называть «DeepDream». Компания проводила эксперимент, чтобы понять, что произойдет, если нейросети, обученные для классификации изображений, начнут генерировать свои собственные изображения. Результатом стали сюрреалистические и часто абстрактные картины, которые продемонстрировали потенциал этой технологии.

Face-swapping с известными личностями (2017) 😱

В 2017 году технологии обработки изображений достигли значительного прогресса, что позволило создавать фальшивые видеоролики с заменой лиц знаменитостей. Сначала такие видео использовались в шокирующих целях, например, в порнографических видео, что вызвало общественное возмущение. Несмотря на это, подобная технология быстро начала развиваться, а её доступность становилась всё шире.

Видеоролик с Джорданом Пилом и Обамой (2018) 🎬

В 2018 году технологии face-swapping начали использоваться не только для фальсификаций, но и для творчества. Одним из ярких примеров стал видеоролик, в котором актёр Джордан Пил использовал образ Барака Обамы, призывая людей «оставаться в курсе». Это стало прорывом в использовании deepfake для творчества.

Dall-E и авокадо-кресло (2021) 🪑

В 2021 году OpenAI выпустил Dall-E — инструмент, который генерирует изображения по текстовым описаниям. Хотя первые результаты не отличались высокой реалистичностью, это был огромный шаг вперед в создании абсолютно новых изображений, а не просто ремиксов старых.

Папа Франциск в пуховике Balenciaga (2023) 🧥

Одним из самых впечатляющих примеров использования AI в 2023 году стал фальшивый снимок Папы Франциска в пуховике Balenciaga. Это изображение быстро стало вирусным, продемонстрировав, как ИИ может создавать фальшивые, но очень реалистичные изображения, которые мгновенно распространяются в сети.

Политические deepfake-изображения 2024 года 🗳️

В 2024 году появились фальшивые изображения Дональда Трампа с чернокожими избирателями, а также с группой чернокожих женщин. Эти картинки вызвали обеспокоенность по поводу манипуляции избирательными предпочтениями с помощью фальшивых визуальных материалов.

Робозвонки с голосом Байдена (2024) 📞

Ещё одним примером использования deepfake-технологий стало появление фальшивых голосов политиков, в частности, голоса президента США Джо Байдена. Он был использован для создания манипулятивных звонков, призывающих демократических избирателей не голосовать.

Технологии deepfake стремительно развиваются и становятся всё более доступными, что вызывает опасения по поводу их возможного использования в разных сферах — от медиа до политики.