Электронный документооборот
Учет и отчетность
Проверка контрагентов
Торговля и ритейл
Автоматизация бизнеса
Участие в закупках
Управление HR‑процессами
Коммуникации
Сделки с недвижимостью
Банковские услуги
Поиск клиентов
Маркировка товаров
Информационная безопасность
Дипфейки генерируют не только в кино и рекламе, чтобы удешевить продакшн, но и в мошеннических схемах. Разбираемся, что это за технология и как отличить дипфейк от реального изображения.
Попробуйте Контур.Толк — российский сервис видеосвязи
Бесплатный доступ для новых пользователей
Что такое дипфейк простыми словами
Термин deepfake происходит от двух слов. Deep (глубокий) относится к словосочетанию deep learning (глубокое обучение) — это вид машинного обучения с использованием нейросетей, которые тренируются на большом наборе данных. Fake с английского переводится как «подделка» или «фальшивка».
Дипфейк — это когда с помощью технологий создают реалистичные изображения, аудио и видео. Дипфейки используются в кино и рекламе, чтобы оптимизировать затраты на продакшн или «оживить» великих деятелей искусства.
Однако наряду с этим технологию применяют мошенники, создавая дипфейки людей для ситуаций, которые никогда не происходили с ними в реальности.
Есть несколько видов дипфейков:
-
подмена лица (face swap) — лицо реального участника видео или картинки заменяют изображением лица жертвы;
-
поддельная речь (synthetic speech) — нейросеть озвучивает текст голосом определенного человека или преобразует голос одного человека в голос другого;
-
полностью сгенерированное видео — нейросеть с нуля создает ролик, на котором образ реального человека говорит и двигается;
-
видеоконференция с дипфейком — ИИ заменяет изображение участника видеозвонка в режиме реального времени.
Как работает дипфейк
В основе сервисов для создания дипфейков чаще всего лежит принцип «художник и проверяющий». «Художник» смотрит на тысячи примеров и пытается «нарисовать» картинку, максимально похожую на настоящую. Затем и настоящие изображения, и подделки показывают «проверяющему». Его задача — угадать, где реальное, а где подделка.
Этот процесс повторяют много раз. «Художник» учится обманывать «проверяющего», а «проверяющий» — распознавать подделки всё точнее.
Как нейросети создают видео и фото с дипфейками
Создание дипфейков проходит в три этапа:
-
Сбор данных. Необходимо собрать коллекцию из фото и видео с изображением лица человека. Чем больше датасет, тем точнее получится генерация. Хорошо, если лицо представлено в разных ракурсах и положениях.
-
Загрузка данных в программу. Сервис на основе нейросети анализирует датасет, выявляет параметры, по которым будет происходить синтез изображения. После нескольких итераций с оценкой результата достигается наиболее реалистичная картинка.
-
Замена исходного изображения. Нейросеть делит картинку или видео на кадры и более мелкие сегменты, заменяя настоящее изображение сгенерированным.
Контур.Толк первым в России запустил детектор дипфейков по видеосвязи
Где используют дипфейки
Кино. С помощью дипфейков режиссеры могут омолаживать актеров без грима или использовать образы умерших людей. Например, для четвертого сезона российского сериала «Диверсант» создали цифровую копию актера Владислава Галкина, погибшего в 2010 году, чтобы вернуть на экран персонажа капитана Калыгина. Искусственный интеллект обучался на материале с участием Галкина, отснятого для предыдущих сезонов сериала.
Маркетинг. Дипфейки помогают компаниям создавать контент с виртуальными персонажами. В рекламе появляются цифровые копии знаменитых артистов, что дешевле, чем приглашать их на съемочную площадку.
В 2022 году «Пятерочка» сняла рекламу сыра с дипфейком актрисы Ольги Медынич. Это сократило процесс производства ролика с месяца до недели и сэкономило четверть рекламного бюджета. Также бизнес может создавать для клиентов реалистичных цифровых помощников, которые доступны в любое время, делать несколько вариантов креатива для разной целевой аудитории.
Обучение. С помощью дипфейков компании персонализируют корпоративное обучение и тратят на обучающий контент меньше ресурсов. Например, международной компании с десятками тысяч сотрудников в разных странах достаточно снять спикера один раз, а для локализации курса на другие языки — использовать виртуальную копию наставника.
Искусство. Музей Сальвадора Дали создал цифровую копию художника, которая взаимодействовала с посетителями: комментировала погоду, предлагала сделать селфи, рассказывала истории из жизни. Создатели взяли за основу кадры из интервью, фото и письма художника, чтобы натренировать нейросеть. Все это наложили на актера с пропорциями, как у Дали.
Журналистика. Журналисты используют дипфейки, чтобы скрыть личность героев репортажей, которым может угрожать опасность.
Мода. Модельные агентства оцифровывают моделей, чтобы их виртуальные копии «участвовали» в съемках для брендов по всему миру.
Попробуйте Контур.Толк — платформу для общения в команде
Видеосвязь, чаты, вебинары, онлайн-доски, ИИ-инструменты
Чем полезны дипфейки
Еще несколько полезных применений дипфейков.
Помогают людям с отсутствием воображения. Афантазия — это состояние, при котором человек не способен мысленно представить зрительные и слуховые образы. Это касается и представления образа самого себя. Ученые предлагают людям с афантазией использовать дипфейки, чтобы создавать анимированные ролики со своим участием. Такая самовизуализация должна помогать людям без воображения укрепить связь с самим собой.
«Оживляют» предков. Проект MyHeritage позволяет анимировать фотографии давно умерших родственников.
Функция Deep Nostalgia работает на основе искусственного интеллекта — он анализирует фото и применяет к нему драйверы с фиксированной последовательностью движений и жестов. В результате оживают даже черно-белые фото: человек моргает, улыбается, поворачивает голову.
Способствуют общественным преобразованиям. В 2003 году в Роттердаме погиб 13-летний мальчик Седар Соареш. Полиция подозревала, что юный футболист стал жертвой преступной группировки, однако за 20 лет преступление так и не раскрыли. В 2022 году полиция опубликовала видео с участием дипфейка Соареша. Мальчик призывал зрителей сообщить всю известную информацию о группировке. После выхода ролика полиция получила десяток сообщений, которые могли помочь в раскрытии преступления.
Статья по теме. Как распознать дипфейк
Какой вред могут принести дипфейки
У применения дипфейков есть и обратная сторона. Злоумышленники используют технологию, чтобы обманывать людей и извлекать из этого выгоду.
Мошенничество
По оценкам экспертов, за первые шесть месяцев 2025 года число мошенничеств с применением дипфейк-технологий выросло в 2,3 раза по сравнению с прошлым годом. В общей массе такие инциденты составляют всего 3–5%. Однако эксперты предостерегают, что это только начало: в дальнейшем количество краж, в которых используются дипфейки, будет расти. Технология становится дешевле, а на создание одной генерации уходит всего 5–7 минут.
Злоумышленники создают фейковых руководителей, знакомых или родственников и под разными предлогами просят жертву перевести деньги. Пользователь получает в мессенджере или соцсети сгенерированное нейросетью аудио- или видеосообщение, принимает его за реальное и переводит деньги мошенникам. Отличить подделку от оригинала бывает сложно: изображение на видео убедительно рассказывает о болезни, аварии или другой ситуации, требующей немедленно помочь деньгами.
Для обучения нейросети мошенники используют данные из открытых источников или взломанного аккаунта человека. Иногда, чтобы записать речь для голосовой генерации, злоумышленники звонят под видом исследовательских организаций и центров социологических исследований.
Кибербуллинг
Агрессоры прибегают к кибербуллингу, чтобы шантажировать жертв, нанести ущерб их репутации, просто посмеяться или унизить. По данным исследования компании RTM Group, 10% случаев травли в интернете связаны с использованием дипфейковых фото и видео с изображением жертвы. Эксперты утверждают, что жертвами кибербуллинга с фото- и видеодипфейками становятся дети и взрослые независимо от профессиональной деятельности и социальной роли.
Манипуляции
Дипфейки могут стать средством манипуляции общественным мнением. Нейросетевой контент используют в предвыборных кампаниях, дискредитации политиков и высших должностных лиц государств.
Технологии развились настолько, что сложно отличить на глаз, где реальность, а где продукт нейросетей. Лучше всего с этой задачей справляются специальные сервисы — детекторы. Контур.Толк позаботился о том, чтобы защитить пользователей от дипфейков. Достаточно запустить детектор во время видеозвонка: система проанализирует видеопоток другого участника и сообщит, если он пытается менять лицо на сгенерированное изображение.
Нейросеть видит признаки подмены, незаметные человеку: артефакты, качество изображения в области фона и лица, изменения состояния пикселей в кадрах. Собеседник не видит результат проверки и не знает о том, что она проводится. Эту информацию Толк показывает только проверяющему.
После завершения встречи отчет о дипфейках сохраняется в разделе «Артефакты».
Доступ к детектору получают сотрудники с ролью «Сотрудник с правами детекции дипфейков». Роль выдается в панели администратора.
Саму по себе технологию дипфейка нельзя однозначно охарактеризовать как хорошую или плохую. Все зависит от того, для чего ее применяют. Однако, чтобы не стать жертвой мошенничества или манипуляций, необходимо учиться распознавать подделки, в том числе с помощью сервисов-детекторов.
Проведите видеоконференцию в Контур.Толке
Бесплатный доступ для новых пользователей
Что еще почитать по теме:
