Se ha aprobado una ley mundial que obliga a etiquetar los deepfakes. Esto se ha hecho para proteger la pureza de la información y evitar fraudes, ciberacoso, chantajes, desinformación y provocaciones.
¡Si no etiquetas un deepfake, a la cárcel informativa! O a trabajos correctivos, o a algún lugar en el bosque, a la vida real sin dispositivos ni redes neuronales, a recoger setas, bayas y nueces. Has golpeado a la sociedad con un arma de destrucción masiva, has aumentado su ilusoriedad, entropía, has intentado engañar a otras personas, has jalado la manta hacia ti. En fin, has actuado mal, ahora corrígete y no vuelvas a hacerlo.
Deepfake (del inglés deep — profundo y fake — falso) es una tecnología para crear o modificar fotos, videos o audios mediante inteligencia artificial. La red neuronal reemplaza el rostro, las expresiones faciales o la voz de una persona con los datos de otra, creando una ilusión muy realista de que la persona hace o dice algo que nunca ocurrió. El concepto de deepfake puede referirse a cualquier cosa, no solo a personas. Por ejemplo, a gatos o perros.
En algunos casos, el deepfake es útil: en el cine, en la locución y en las traducciones a otro idioma; adelante, pero etiquétalo, advierte que es un deepfake.
La técnica de detección de deepfakes se implementa mediante IA. Ya que «un lobo conoce a otro lobo desde lejos». Se han creado programas especializados cazadores de deepfakes. Monitorean, filtran toda la información, identifican a los infofraudadores, etiquetan el material y proponen un nivel de castigo a jueces humanos o cibernéticos de acuerdo con la ley.
Hasta que se apruebe la ley sobre deepfakes y pureza de la información, estaré alerta y pondré en duda lo que veo y oigo en la pantalla. Y advertiré a otros sobre posibles deepfakes. Puedes considerar también mi contribución esta breve nota sobre la necesidad de una ley de deepfakes, que será leída por algunas personas.
Comentarios (3)
Идея с обязательной маркировкой дипфейков звучит здраво — особенно в эпоху, когда с помощью нейросетей можно подделать что угодно. Автор предлагает жёсткие меры вплоть до отлучения от гаджетов, что выглядит как радикальное, но логичное следствие: не хочешь играть по правилам общества — иди собирай грибы. Интересно только, насколько реально создать полностью автоматизированную систему охотников за дипфейками, которая не будет ошибаться и не превратится в инструмент цензуры?
Идея введения обязательной маркировки дипфейков выглядит своевременной — без неё доверие к цифровому контенту будет и дальше размываться. Инструменты обнаружения уже существуют, но без законодательного закрепления их внедрение остаётся точечным. В России для пилота по маркировке хорошо подошла бы платформа «Сбера»: у них есть доступ к большим массивам данных, собственная технология распознавания синтезированных изображений и заинтересованность в защите финансовых транзакций от подделок. Следующим шагом могло бы стать формирование рабочей группы при Ассоциации «Финансовые инновации» или непосредственно в Сбере для тестирования автоматической маркировки дипфейков в банковских видеозвонках и рекламных материалах — это даст практические данные для будущего закона.
Делаю то, что обещал: способы маркировки дипфейков и для суда и для человеков, чтобы не велись на обман и иллюзию:.
1. Цифровая метка в метаданных (невидимый слой)
Файл получает криптографическую подпись в заголовке, которую можно прочитать только специальным софтом или браузерным расширением. Для обычного зрителя — невидима, но любой факт дипфейка доказуем в суде.
✔️ Надёжно, автоматически, не нарушает эстетику.
2. Водяной знак с переменной прозрачностью
Например, лёгкий значок «🤖 DF» в правом нижнем углу, который на видео появляется на 0.5 секунды каждые 10 секунд — достаточно, чтобы заметить, но не отвлекать. Для фото — полупрозрачный узор, видимый только при увеличении.
✔️ Просто для восприятия, сложно удалить без потери качества.
3. Аудио-метка (для голосовых дипфейков)
В начало или конец записи вставляется неслышимый для человека, но распознаваемый спектральный сигнал (по типу водяного знака в аудио). Специальные приложения (или соцсети) автоматически показывают предупреждение: «Этот голос создан ИИ».
✔️ Незаметно для уха, но железно доказуемо.
4. Визуальный «пульс» на краю кадра
Для видео — микроскопическая последовательность мерцающих пикселей по периметру (частота незаметна глазу, но детектируется камерой телефона или ПК). Если пользователь наводит камеру на экран, приложение может выдать уведомление «Обнаружен дипфейк».
✔️ Будущее уже здесь: работает как QR-код для машин.
5. Обязательная «заставка-нейтрализатор» для публичного распространения
Любой дипфейк, который попадает в соцсети или новости, должен сопровождаться 1–2 секундами явной маркировки в начале (например, зелёный экран с текстом «Сгенерировано ИИ»). Это не ненавязчиво, зато честно для массового зрителя. Компромисс: такая заставка не требуется в личных сообщениях, если получатель дал согласие.
6. Тактильная маркировка (для AR/VR-очков)
Когда человек смотрит дипфейк через умные очки, устройство даёт лёгкую вибрацию на запястье или показывает крошечную иконку в углу поля зрения. Не мешает погружению, но информирует.
Комбинация, которую я бы постулировал как наилучшую:
Обязательные криптографические метаданные (способ 1) + опциональный визуальный водяной знак (способ 2) для публичного контента. Нарушитель = исправительные работы в лесу с корзиной для грибов.