Главный радиочастотный центр Роскомнадзора (ГРЧЦ) предлагает соцсетям самим превентивно выявлять и блокировать резонансные дипфейки до проверки достоверности информации. Речь идет прежде всего о вирусно распространяющемся контенте, который способен за считанные часы охватить многомиллионную аудиторию и спровоцировать серьезные общественные последствия.
Инициатива обсуждалась в рамках IV Форума «Технологии доверенного искусственного интеллекта». В Роскомнадзоре отмечают, что регулирование дипфейков должно строиться на понятных и реализуемых механизмах оперативного выявления и пресечения распространения потенциально опасного контента.
Член комитета Государственной Думы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин считает, что развитие генеративного искусственного интеллекта требует перехода к новым моделям цифровой безопасности.
«Сегодня дипфейки перестали быть единичными случаями интернет-фальсификаций. Мы говорим о технологии, которая уже активно используется в схемах мошенничества, информационно-психологического воздействия и дискредитации. При этом скорость распространения подобного контента зачастую значительно опережает возможности его проверки и опровержения», — отметил депутат.
По словам Немкина, действующая модель реагирования, при которой меры принимаются уже после массового распространения фейкового контента, в современных условиях становится недостаточно эффективной.
«Фактически речь идет о необходимости перехода от постфактум-реагирования к превентивной модели защиты цифрового пространства. Если контент демонстрирует аномальную вирусность, содержит признаки синтетической генерации и потенциально способен причинить общественный вред, цифровые платформы должны иметь возможность оперативно ограничивать его распространение до завершения проверки», — подчеркнул он.
Парламентарий обратил внимание, что развитие технологий генеративного ИИ значительно снижает порог создания высокореалистичных подделок, а инструменты генерации становятся массовыми и общедоступными.
«Важно понимать, что дипфейки — это уже не только вопрос репутационных рисков. Сегодня злоумышленники используют синтетические изображения и голоса для имитации представителей органов власти, банков, операторов связи и даже родственников граждан. Ущерб от подобных преступлений исчисляется миллиардами рублей, а уровень технологической сложности таких атак продолжает расти», — заявил Немкин.
Он также отметил важность комплексного подхода, который предлагает регулятор, включая развитие технологий выявления ИИ-контента, создание базы технологических угроз, совершенствование механизмов межведомственного обмена информацией и внедрение маркировки синтетического медиаконтента.
«Да, технологии детекции пока не обеспечивают стопроцентной точности. Но это не повод откладывать создание механизмов защиты. Наоборот — государство должно уже сейчас формировать систему противодействия новым цифровым угрозам, пока они не приобрели критический масштаб. Мы уже сталкивались с похожей ситуацией в сфере телефонного мошенничества и фишинга, когда запоздалая реакция приводила к резкому росту ущерба», — подчеркнул депутат.
По мнению Немкина, вопрос доверия к цифровому контенту в ближайшие годы станет одним из ключевых факторов обеспечения информационного суверенитета и национальной безопасности.
«В экспертном сообществе мы поддерживаем инициативы, направленные на формирование превентивной модели противодействия дипфейкам. Сегодня крайне важно не допустить ситуации, при которой цифровая среда превратится в пространство тотального недоверия, где невозможно отличить реальную информацию от искусственно созданной манипуляции», — заключил он.