Что такое дипфейк: объясняем простыми словами, что значит технология deepfake

В статье GigaChat разбираемся с дипфейками: что это, для чего применяется, какую пользу и опасность несет.

Что такое дипфейк и как это работает

Дипфейк — это технология создания поддельного контента (изображений, видео и аудио) с помощью искусственного интеллекта. Сейчас технология развита настолько, что распознать поддельную запись без специальных знаний и инструментов очень тяжело. Термин дипфейк образован слиянием двух слов: deep learning («глубинное обучение») и fake («подделка»).

Отличие дипфейков от видеомонтажа состоит в том, что нейросеть генерирует визуальный или аудиоконтент с нуля, а не вставляет готовый материал поверх какого-то кадра.

Дипфейки используют, например, для съемки рекламы и образования, но также технологию активно применяют киберпреступники. Получение знаний о дипфейках — это наиболее ценный вклад в защиту себя и окружающих от возможного мошенничества.

Как создаются дипфейки

Дипфейки создают нейросети. Сначала пользователь дает машине исходные данные: фотографии и видео человека (записи голоса, если речь идет о подделке аудиосообщений). Нейросеть изучает мимику, характерные движения, внешность с разных ракурсов, тембр голоса и другие особенности. Чем больше качественных данных, тем более правдоподобный получается результат. Поэтому более уязвимыми становятся люди, изображений и видео которых в интернете больше.

Далее одна часть модели генерирует контент, а другая проверяет, похож ли он на оригинал. За несколько итераций достигается высокое качество результата. В конце нейросеть «накладывает» сгенерированное лицо человека на любой фон, улучшает освещение, создает тени. Если пользователь создает аудиосообщение, нейросеть сначала копирует манеру речи, а затем озвучивает этим голосом любой текст. Эти технические этапы незаметны для пользователя — он просто загружает исходные данные и получает результат (видео- или аудиозапись).

Как и зачем применяются дипфейки

Дипфейки используют в разных сферах: от маркетинга до науки. Приведем несколько примеров:

• Кино (сериалы). Технология позволяет визуально изменять возраст и внешность актеров, создавать цифровых дублеров (каскадеров) и образы уже умерших актеров. Это сокращает траты на производство кино, а в будущем может дать возможность снимать кино исключительно с виртуальными актерами. Логично, что есть люди, выступающие против развития технологии в кино. Большинство из них — режиссеры, операторы, гримеры, кинокритики, актеры и другие специалисты сферы.
• Реклама. Здесь дипфейки тоже используют для создания персонажей, замены лица актера под рынки разных стран, съемки персонализированной рекламы. Это помогает снизить траты на создание рекламы и легче масштабировать кампанию.
• Соцсети. Сейчас есть много ИИ-блогеров — виртуальных людей, которые ведут юмористические, образовательные и другие аккаунты. При этом люди не всегда знают, что подписаны на ненастоящего человека — в сети часто появляются новости о том, что крупный блогер оказался виртуальным. Иногда дипфейки применяют и обычные блогеры, чтобы сделать смешной ролик или «примерить» другую внешность.
• Образование, наука. Дипфейки применяют для реконструкции внешности исторических лиц, восстановления старых видео, создания симуляционных тренажеров для врачей, спасателей и полиции. Конечно, технологию также исследуют специалисты в области ИИ и компьютерного зрения.
• Мошенничество и другие киберпреступления. К сожалению, дипфейки стали еще одним оружием для злоумышленников. Чаще всего они создают ненастоящие видео или аудиозаписи с близкими, коллегами или руководителями жертвы. Кроме того, киберпреступники могут подделывать компрометирующие ролики, чтобы шантажировать жертву (как правило, публичного человека).

Опасности технологии Deepfake

В предыдущем пункте мы уже затронули негативные сценарии использования дипфейков — в этом разберем схемы мошенников подробнее:

• Финансовые преступления. Это наиболее опасный метод обмана на любого человека. С развитием технологий синтеза видео и голоса мошенники получили возможность имитировать кого угодно: сотрудника банка или полиции, родственника, начальника или коллеги. При этом лицо, мимика, тембр, интонация и окружающая обстановка на видео выглядит вполне реалистичной — жертва не подозревает обмана и полностью доверяет собеседнику. Более того, мошенники часто сообщают о какой-то проблеме, например, «сотрудник банка» сообщает жертве о том, что на нее взяли кредит, и предлагает свою помощь. Жертва испытывает страх и соглашается на любые действия, предложенные мошенником, которому она доверяет.
• Шантаж (травля). В большей степени это касается известных личностей, но иногда мошенники создают видео, компрометирующие и обычных людей. Это может быть даже знакомый жертвы, который на что-то обижен и желает зла. Несмотря на то что материал сгенерирован ИИ, жертва может бояться, что окружающие поверят в его подлинность. Некоторые называют это новой, цифровой формой эмоционального насилия.
• Манипуляция общественным мнением. Для этого мошенники создают дипфейки с политиками, бизнесменами, активистами и лидерами мнений. Это может происходить во время предвыборных кампаний и самих выборов, кризисов и других периодов, когда люди склонны реагировать на события менее рационально. Даже если доказать фальшивость контента удалось быстро, он может сохранить влияние на людей.

В результате попыток манипуляций общественным мнением появляются две проблемы:

• Потенциальный рост недоверия к любому контенту, включая новости, заявления политиков и депутатов.
• Возможность отрицать подлинность настоящего контента, прикрываясь развитием технологии deepfake.

Как защититься от дипфейк атак

В первую очередь стоит признать, что мошенничество может коснуться каждого. Иногда поведение жертв кажется глупым — возникает мысль «обман был очевиден, со мной такого точно не будет». В реальности это психологическая защита, которая может помешать вам правильно отреагировать на атаку злоумышленника, если она случится. Несколько других способов защиты от мошенничества:

• Внимание к контенту. Если видите видео с громким заявлением или шокирующим содержанием, проверьте источник и попробуйте найти подтверждение в СМИ или официальных каналах. Обратите внимание на детали: возможно, дипфейк выдает странная мимика или движения человека. Если вы получили звонок (текстовое, голосовое или видеосообщение) с описанием какой-то проблемы (ваш родственник попал в беду, доступ к вашим счетам или вкладам получило третье лицо и т. д.), не впадайте в панику. Лучше взять паузу и проверить информацию: например, зайти в приложение банка или связаться с оператором, позвонить родственнику по другому каналу связи. Не принимайте решения о крупных переводах под влиянием эмоций.
• Защита аккаунтов от взлома. Это нужно, чтобы мошенники не смогли обмануть кого-либо с вашего профиля. Лучше настроить двухфакторную аутентификацию, использовать сложные пароли и не сообщать их чужим людям, даже если они предлагают помощь и гарантируют безопасность.
• Пребывание в контексте. Важно следить за развитием технологий и появлением новых видов мошенничества. Иначе заподозрить обман будет тяжело.
• Сокращение количества личных фото и видео в интернете. Чем больше качественных данных доступно киберпреступникам, тем проще сделать правдоподобный дипфейк. Если есть возможность, удалите старые профили, настройте приватность аккаунтов и не выкладывайте свое лицо крупным планом.
• Базовые принципы безопасности. Они связаны со всеми видами кибермошенничества, а не только с дипфейками. Главные правила: не стоит распространять данные своих банковских карт, коды подтверждений из мессенджеров и СМС и другую приватную информацию. Ни одна организация не будет требовать CCV-код или одноразовый код доступа по телефону или в переписке. Если вас торопят, намеренно усиливают страх (пугают блокировкой счета или потерей накоплений), требуют четко выполнять указания, это серьезный повод насторожиться.

Чтобы проверить контент на подлинность, можно также изучить его метаданные и попробовать найти первоисточник изображения через поиск по фото.

Что делать, если вы стали жертвой

Если вас обманули с использованием дипфейка, сразу зафиксируйте доказательства: сделайте скриншоты с датой и временем, попробуйте найти записи разговоров и так далее. Сообщите о совершенном преступлении в полицию и приложите все материалы. Расскажите о произошедшем близким — это поможет справиться с чувством вины и получить поддержку. Дополнительно можно обратиться за психологической помощью особенно, если вы перевели мошенникам крупную сумму.

Если вы узнали, что кто-то использует ваше лицо, также сохраните все доказательства, включая количество просмотров. Чтобы удалить контент, лучше направить обращение к платформе — как правило, большинство соцсетей запрещает публикацию фейкового контента. Если нужно, обозначьте для своей аудитории, что видео поддельное.

Если дипфейк связан с мошенничеством, заранее предупредите родственников, коллег, партнеров и подчиненных об этом.

Каково будущее данной технологии?

Технология продолжит развиваться. Дипфейки станут более реалистичными: нейросети будут точнее воспроизводить мимику, движения глаз и губ, имитировать текстуру кожи, тени и освещение. Обнаружить подделку «на глаз» станет еще тяжелее, поэтому вместе с развитием дипфейков будут развиваться методы их выявления.

Уже сейчас в некоторых странах обсуждают законы, которые касаются регулирования применения дипфейков. В будущем появятся более четкие юридические определения, также будет введена ответственность за использование чужих лиц без их согласия. Сделать прогноз о распространении дипфейков в кино, блогинге и рекламе трудно: все будет зависеть от законодательства, мнений представителей этих сфер, реакции зрителей и пользователей.

Этическая сторона вопроса будет состоять в дискуссиях о том, допустимо ли использовать образы умерших людей (включая исторических личностей), кому принадлежат права на цифрового двойника человека и где граница между творчеством и эксплуатацией.