В России появится технология маркировки ИИ-контента. Такая отметка не будет видна человеческому глазу, но позволит выявлять контент, сделанный нейросетью. Эксперты указывают, что разработка может помочь специалистам развивать отечественные ИИ-модели.
Сегодня внедрение подобных технологий обсуждается все чаще – контент нейросетей становится "неуловимым" для обычного пользователя. С ростом качества генерации видео и фотографий люди реже могут отличить настоящие изображения от искусственных.
Научной разработкой по созданию отраслевого стандарта по распознаванию ИИ-контента в России занимается ИСП РАН. В пресс-службе "Яндекса" рассказали, что компания поддерживает проект, а подобные универсальные технологии отрасль сможет самостоятельно использовать в интересах пользователей. Также они планируют внедрять такие инструменты в свои сервисы.
Олег Рогов, руководитель лаборатории безопасного ИИ SAIL AIRI-МТУСИ, отмечает, что системы маркировки ИИ-контента обычно используют комбинацию аддитивных компонентов и специальных шумовых паттернов для внедрения невидимых цифровых водяных знаков. Аддитивные возмущения применяются для модификации пиксельных интенсивностей в сгенерированных изображениях.
В России ключевые научные центры развивают исследования в области ИИ, создавая основу для коммерческих решений. Так, своя система маркировки была предложена в ИТМО на основе специальных стеганоалгоритмов со сжатием изображений. Еще один российский метод под названием Spread them apart основан на сепарации латентных векторов.
"Есть аналоги разного уровня. Некоторые разработчики моделей внедряют специальные метки, чтобы впоследствии иметь возможность проверить, является ли текст сгенерированным их моделями или нет. Google даже предлагает партнерам использовать инструментарий для ИИ в своей экосистеме для добавления и детекции водяных знаков – это называется SynthID. В некоторых странах есть требования на законодательном уровне или, по крайней мере, рекомендации маркировать ИИ-контент. Например, в Индии нужно помечать контент, сгенерированный ИИ, если он был использован для дезинформации или создания дипфейков", – рассказал руководитель лаборатории нейронных сетей и глубокого обучения Института ИИ МФТИ Александр Попов.
Он добавляет, что если отметка и не будет видна обычному пользователю на самом изображении, разработчики приложений могут предусмотреть возможность автоматически добавлять какую-либо текстовую надпись. Например, "Изображение сгенерировано с помощью ИИ-модели и приведено для иллюстрации" – при наличии отметки в самом изображении.
Маркировка может быть полезна и разработчикам моделей, чтобы не использовать сгенерированные данные в обучающей выборке при разработке следующих поколений ИИ-моделей.
"Эксперименты показывают, что можно создать альтернативные инструменты, которые с легкостью удаляют или подделывают такие метки. Это значит, что должен существовать международный стандарт. А как мы знаем, когда речь заходит о единых стандартах для всех стран, такие идеи часто терпят неудачу", – отмечают в пресс-службе MWS AI.
Другой способ, который активно тестируется в настоящее время, – это детекторы дипфейков. Их пытаются встроить в мобильные телефоны китайские производители, а также успешно внедряют различные российские сервисы видеоконференций.
При этом некоторые участники рынка скептически относятся к подобным проектам, указывая на отсутствие единой концепции при создании таких меток.
"Одни системы будут учиться выявлять ИИ-контент, а другие – прятать его еще лучше. Основная цель этой технологии – не столько защита конечного пользователя, сколько создание инструмента контроля. Это механизм, который позволит быстрее выявлять и при необходимости ограничивать площадки с избыточным количеством контента, помеченного как фейковый", – указывает совладелец интегратора решений на базе ИИ "Металаб" Сергей Батулин.
Он отмечает, что для обычного потребителя это не изменит кардинально степень защиты, так как проблема дезинформации и "фейков" затрагивает не только сгенерированный контент, а в целом недостоверность источников.
