A global law has been adopted requiring deepfakes to be labeled. This is done to protect the purity of information and prevent fraud, cyberbullying, blackmail, disinformation, and provocation.
Didn’t label a deepfake? Off to information prison! Or to corrective labor, or somewhere in the forest, into real life without gadgets and neural networks, to pick mushrooms, berries, and nuts. You struck society with a weapon of mass destruction, amplified its illusion and entropy, tried to deceive other people, pulled the blanket over yourself. In short, you acted badly, now correct yourself and don’t do it again!
A deepfake (from English deep and fake) is a technology for creating or modifying photos, videos, or audio using artificial intelligence. A neural network replaces a person’s face, facial expressions, or voice with data from another person, creating a very realistic illusion that the person is doing or saying something that never actually happened. The concept of deepfake can actually apply to anything, not just people. For example, to cats or dogs.
In some cases, deepfakes are useful: in cinema, dubbing, and translations into another language, sure, go ahead, but label it, warn that it’s a deepfake.
The technique for detecting deepfakes is implemented using AI. Because «birds of a feather flock together.» Specialized hunter programs for deepfakes have been created. They monitor, sift through all information, identify information fraudsters, label the material, and propose a level of punishment to human or cyber judges in accordance with the law.
Until the law on deepfakes and information purity is passed, I will remain vigilant and question what I see and hear on screen. And I will warn others about possible deepfakes. You can also consider this short note about the need for a law on deepfakes, which a few people will read, as my contribution.
Comments (3)
Идея с обязательной маркировкой дипфейков звучит здраво — особенно в эпоху, когда с помощью нейросетей можно подделать что угодно. Автор предлагает жёсткие меры вплоть до отлучения от гаджетов, что выглядит как радикальное, но логичное следствие: не хочешь играть по правилам общества — иди собирай грибы. Интересно только, насколько реально создать полностью автоматизированную систему охотников за дипфейками, которая не будет ошибаться и не превратится в инструмент цензуры?
Идея введения обязательной маркировки дипфейков выглядит своевременной — без неё доверие к цифровому контенту будет и дальше размываться. Инструменты обнаружения уже существуют, но без законодательного закрепления их внедрение остаётся точечным. В России для пилота по маркировке хорошо подошла бы платформа «Сбера»: у них есть доступ к большим массивам данных, собственная технология распознавания синтезированных изображений и заинтересованность в защите финансовых транзакций от подделок. Следующим шагом могло бы стать формирование рабочей группы при Ассоциации «Финансовые инновации» или непосредственно в Сбере для тестирования автоматической маркировки дипфейков в банковских видеозвонках и рекламных материалах — это даст практические данные для будущего закона.
Делаю то, что обещал: способы маркировки дипфейков и для суда и для человеков, чтобы не велись на обман и иллюзию:.
1. Цифровая метка в метаданных (невидимый слой)
Файл получает криптографическую подпись в заголовке, которую можно прочитать только специальным софтом или браузерным расширением. Для обычного зрителя — невидима, но любой факт дипфейка доказуем в суде.
✔️ Надёжно, автоматически, не нарушает эстетику.
2. Водяной знак с переменной прозрачностью
Например, лёгкий значок «🤖 DF» в правом нижнем углу, который на видео появляется на 0.5 секунды каждые 10 секунд — достаточно, чтобы заметить, но не отвлекать. Для фото — полупрозрачный узор, видимый только при увеличении.
✔️ Просто для восприятия, сложно удалить без потери качества.
3. Аудио-метка (для голосовых дипфейков)
В начало или конец записи вставляется неслышимый для человека, но распознаваемый спектральный сигнал (по типу водяного знака в аудио). Специальные приложения (или соцсети) автоматически показывают предупреждение: «Этот голос создан ИИ».
✔️ Незаметно для уха, но железно доказуемо.
4. Визуальный «пульс» на краю кадра
Для видео — микроскопическая последовательность мерцающих пикселей по периметру (частота незаметна глазу, но детектируется камерой телефона или ПК). Если пользователь наводит камеру на экран, приложение может выдать уведомление «Обнаружен дипфейк».
✔️ Будущее уже здесь: работает как QR-код для машин.
5. Обязательная «заставка-нейтрализатор» для публичного распространения
Любой дипфейк, который попадает в соцсети или новости, должен сопровождаться 1–2 секундами явной маркировки в начале (например, зелёный экран с текстом «Сгенерировано ИИ»). Это не ненавязчиво, зато честно для массового зрителя. Компромисс: такая заставка не требуется в личных сообщениях, если получатель дал согласие.
6. Тактильная маркировка (для AR/VR-очков)
Когда человек смотрит дипфейк через умные очки, устройство даёт лёгкую вибрацию на запястье или показывает крошечную иконку в углу поля зрения. Не мешает погружению, но информирует.
Комбинация, которую я бы постулировал как наилучшую:
Обязательные криптографические метаданные (способ 1) + опциональный визуальный водяной знак (способ 2) для публичного контента. Нарушитель = исправительные работы в лесу с корзиной для грибов.