Технологии против дипфейков: Google интегрирует инструменты проверки в браузер и поиск

Разработчики систем для распознавания контента, созданного искусственным интеллектом, готовятся к важному этапу проверки своих решений. Технологии SynthID и C2PA, предназначенные для скрытой маркировки изображений, видео и аудио, проходят через крупнейшее расширение своих возможностей. Ожидается, что интеграция этих инструментов поможет снизить количество немаркированных ИИ-подделок, вводящих пользователей в заблуждение.

Интеграция в экосистему Google

На конференции I/O компания Google анонсировала внедрение инструментов проверки маркеров SynthID непосредственно в браузер Chrome и поисковую систему. SynthID представляет собой систему невидимых водяных знаков, которые наносятся на контент, созданный нейросетями Google. По мнению экспертов, такой шаг значительно упростит процесс идентификации, поскольку до этого момента пользователям приходилось вручную загружать файлы в приложение Gemini для проверки.

Обновленные интерфейсы Google теперь будут распознавать и метаданные стандарта C2PA. Это стандарт, подтверждающий происхождение контента и содержащий информацию о том, был ли он изменен или создан с помощью ИИ. Объединение двух технологий в одном интерфейсе позволяет пользователям проверять файлы, не переключаясь между сторонними сервисами.

Роль крупных игроков в защите контента

К инициативе присоединяется OpenAI: теперь технология SynthID будет встраиваться в изображения, созданные ChatGPT, Codex и через API компании. Ранее OpenAI уже использовала метаданные C2PA, однако часто они удалялись при загрузке файлов на другие платформы. В компании отмечают, что подобные протоколы не являются панацеей, так как метаданные легко стираются при пересылке, скриншотах или при обработке социальными сетями.

Помимо этого, компания Meta* начинает внедрение метаданных C2PA для маркировки фотографий, сделанных на камеру, в социальной сети Instagram*. Ожидается, что это позволит пользователям отличать реальные снимки от сгенерированных изображений, что соответствует стратегии перехода к более критическому восприятию сетевого контента.

Перспективы и ограничения технологий

Аналитики отмечают, что, несмотря на усилия технологических гигантов, системы защиты сталкиваются с рядом проблем:

• Сложность массового внедрения: для эффективности метода необходимо, чтобы все разработчики ИИ-моделей встраивали маркеры в свой контент.
• Риск ошибок: ранее платформы неоднократно ошибочно помечали реальные фотографии профессиональных фотографов как созданные искусственным интеллектом.
• Проблема открытых моделей: злоумышленники, использующие открытое программное обеспечение для создания дипфейков, вряд ли будут применять системы маркировки.
• Уязвимость данных: большинство социальных сетей автоматически удаляют метаданные из загружаемых изображений, что делает стандарт C2PA менее эффективным вне экосистемы создателя.

Несмотря на скептицизм некоторых обозревателей, интеграция систем проверки в браузеры и социальные сети является шагом к повышению прозрачности цифровой среды. Тем не менее, эксперты подчеркивают, что данные технологии не смогут полностью исключить проблему дезинформации, если не станут общеотраслевым стандартом.

* — деятельность компании запрещена на территории РФ