МВД России предупредило о случаях, когда алгоритмы искусственного интеллекта, включая зарубежные языковые модели, выдавали пользователям ссылки на мошеннические ресурсы. По данным специалистов, злоумышленники могли использовать методы так называемого «отравления данных», искусственно продвигая в сети недостоверную информацию для последующего влияния на рекомендации, формируемые нейросетями.
Член комитета Государственной Думы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин отметил, что подобные инциденты демонстрируют необходимость критически оценивать информацию, получаемую от зарубежных ИИ-сервисов.
«Сегодня многие воспринимают ответы популярных зарубежных нейросетей как достоверный источник информации. Однако необходимо понимать, что эти системы не несут ответственности за выдаваемые рекомендации, не работают в российском правовом поле и не учитывают в полной мере особенности нашего цифрового пространства. Пользователь фактически вынужден доверять алгоритму, принципы работы которого остаются закрытыми и неподконтрольными российским регуляторам», — отметил депутат.
По словам Немкина, проблема носит более широкий характер, чем отдельные случаи появления мошеннических ссылок.
«Речь идет не только о технических ошибках. Мы видим, что зарубежные платформы становятся важнейшими посредниками при получении информации, а значит способны влиять на решения миллионов пользователей. Когда такие системы начинают использоваться для поиска товаров, услуг, финансовых или юридических консультаций, цена ошибки становится крайне высокой», — подчеркнул он.
Парламентарий отметил, что методы манипулирования данными и попытки воздействия на алгоритмы искусственного интеллекта будут только совершенствоваться.
«Киберпреступники быстро адаптируются к новым технологиям. Если раньше они боролись за место в поисковой выдаче, то сегодня стремятся влиять непосредственно на источники данных, которыми пользуются нейросети. Это формирует принципиально новый класс угроз, к которому должны быть готовы как разработчики ИИ, так и сами пользователи», — сказал Немкин.
По мнению депутата, ситуация подтверждает стратегическую важность развития собственных российских решений в области искусственного интеллекта.
«Вопрос заключается не только в технологическом лидерстве. Это вопрос цифрового суверенитета. Когда ключевые инструменты поиска, анализа и генерации информации находятся под контролем иностранных компаний, мы неизбежно сталкиваемся с рисками — от недостоверных рекомендаций до возможных манипуляций информационными потоками. Поэтому развитие отечественных ИИ-платформ является одной из важнейших задач цифровой политики государства», — заявил он.
Немкин подчеркнул, что российские разработки должны учитывать требования безопасности, прозрачности и национальных интересов.
«Отечественные решения могут развиваться в тесной связке с российским законодательством, требованиями по защите данных и задачами обеспечения информационной безопасности. Именно такой подход позволит сформировать доверенную цифровую среду, в которой интересы граждан и государства будут надежно защищены», — отметил депутат.
По словам парламентария, пользователям следует помнить, что искусственный интеллект остается инструментом, а не безусловным источником истины.
«Любая информация, полученная через нейросеть, особенно если она связана с финансами, покупками, передачей персональных данных или переходом по внешним ссылкам, должна проходить дополнительную проверку. Технологии развиваются стремительно, но ответственность за принимаемые решения по-прежнему остается за человеком», — заключил Немкин.
Член комитета Государственной Думы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин отметил, что подобные инциденты демонстрируют необходимость критически оценивать информацию, получаемую от зарубежных ИИ-сервисов.
«Сегодня многие воспринимают ответы популярных зарубежных нейросетей как достоверный источник информации. Однако необходимо понимать, что эти системы не несут ответственности за выдаваемые рекомендации, не работают в российском правовом поле и не учитывают в полной мере особенности нашего цифрового пространства. Пользователь фактически вынужден доверять алгоритму, принципы работы которого остаются закрытыми и неподконтрольными российским регуляторам», — отметил депутат.
По словам Немкина, проблема носит более широкий характер, чем отдельные случаи появления мошеннических ссылок.
«Речь идет не только о технических ошибках. Мы видим, что зарубежные платформы становятся важнейшими посредниками при получении информации, а значит способны влиять на решения миллионов пользователей. Когда такие системы начинают использоваться для поиска товаров, услуг, финансовых или юридических консультаций, цена ошибки становится крайне высокой», — подчеркнул он.
Парламентарий отметил, что методы манипулирования данными и попытки воздействия на алгоритмы искусственного интеллекта будут только совершенствоваться.
«Киберпреступники быстро адаптируются к новым технологиям. Если раньше они боролись за место в поисковой выдаче, то сегодня стремятся влиять непосредственно на источники данных, которыми пользуются нейросети. Это формирует принципиально новый класс угроз, к которому должны быть готовы как разработчики ИИ, так и сами пользователи», — сказал Немкин.
По мнению депутата, ситуация подтверждает стратегическую важность развития собственных российских решений в области искусственного интеллекта.
«Вопрос заключается не только в технологическом лидерстве. Это вопрос цифрового суверенитета. Когда ключевые инструменты поиска, анализа и генерации информации находятся под контролем иностранных компаний, мы неизбежно сталкиваемся с рисками — от недостоверных рекомендаций до возможных манипуляций информационными потоками. Поэтому развитие отечественных ИИ-платформ является одной из важнейших задач цифровой политики государства», — заявил он.
Немкин подчеркнул, что российские разработки должны учитывать требования безопасности, прозрачности и национальных интересов.
«Отечественные решения могут развиваться в тесной связке с российским законодательством, требованиями по защите данных и задачами обеспечения информационной безопасности. Именно такой подход позволит сформировать доверенную цифровую среду, в которой интересы граждан и государства будут надежно защищены», — отметил депутат.
По словам парламентария, пользователям следует помнить, что искусственный интеллект остается инструментом, а не безусловным источником истины.
«Любая информация, полученная через нейросеть, особенно если она связана с финансами, покупками, передачей персональных данных или переходом по внешним ссылкам, должна проходить дополнительную проверку. Технологии развиваются стремительно, но ответственность за принимаемые решения по-прежнему остается за человеком», — заключил Немкин.