На фоне стремительного развития технологий искусственного интеллекта и роста числа преступлений с использованием дипфейков особую актуальность приобретает вопрос правового регулирования и защиты граждан.
Ранее юристы и эксперты в области кибербезопасности отметили, что ответственность за вред, причинённый сгенерированным ИИ контентом, в настоящее время лежит прежде всего на пользователях, которые распространяют такие материалы или используют их в противоправных целях. При этом сами технологии становятся всё более доступными, а качество поддельных изображений и видеороликов — практически неотличимым от реальности.
Член комитета Государственной Думы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин подчеркнул, что сложившаяся ситуация требует системного подхода.
«Сегодня мы видим, что технологии искусственного интеллекта стремительно выходят в массовый сегмент. Это открывает огромные возможности для экономики и развития цифровых сервисов, но одновременно создаёт новые риски, прежде всего — в сфере мошенничества и манипуляции общественным мнением», — отметил он.
По словам парламентария, особую опасность представляют дипфейки, которые могут использоваться для шантажа, дискредитации граждан и распространения недостоверной информации.
«Дипфейки становятся инструментом давления — их используют для вымогательства, создания подложных доказательств, а также для нанесения репутационного ущерба. И чем выше качество таких материалов, тем сложнее обычному человеку отличить подделку от реальности», — заявил Немкин.
Он также подчеркнул, что существующий подход, при котором ответственность несёт исключительно пользователь, нуждается в доработке с учётом новых технологических реалий.
«Важно выработать баланс: с одной стороны — не задушить развитие ИИ-индустрии, с другой — обеспечить эффективные механизмы защиты граждан. Это может включать обязательную маркировку сгенерированного контента, развитие инструментов верификации и повышение ответственности за его злонамеренное использование», — пояснил депутат.
Комментируя инициативу о создании института уполномоченного по защите прав граждан при взаимодействии с ИИ, Немкин отметил её своевременность.
«Создание специализированного института может стать важным шагом. Такой орган сможет аккумулировать обращения граждан, анализировать инциденты и формировать предложения по совершенствованию законодательства. Это позволит реагировать на угрозы быстрее, чем это происходит сейчас», — подчеркнул он.
Отдельное внимание парламентарий уделил вопросам цифровой грамотности населения.
«Наряду с законодательными мерами необходимо системно повышать уровень цифровой грамотности. Граждане должны понимать, как распознавать дипфейки и как действовать в случае цифрового мошенничества. Это один из ключевых элементов защиты», — заключил Антон Немкин.
Эксперты сходятся во мнении, что дальнейшее развитие технологий ИИ неизбежно, а значит — государству, бизнесу и обществу предстоит выработать новые правила безопасного взаимодействия с ними.