Раскрывая тайны происхождения AI-изображений: C2PA и невидимые метки

В эпоху повсеместного распространения искусственного интеллекта и генеративных моделей, вопрос определения подлинности и происхождения изображений становится всё более актуальным. Современные нейросети всё чаще интегрируют скрытые сигналы в создаваемые ими визуальные материалы, которые не видны человеческому глазу. Эти сигналы могут варьироваться от метаданных до криптографически подписанных учетных данных контента, таких как C2PA (Coalition for Content Provenance and Authenticity), или невидимых водяных знаков, встроенных непосредственно в пиксели изображения.

C2PA: проверка подлинности, а не анализ пикселей

Недавний релиз Google библиотеки Credentio, основанной на C++ и предназначенной для проверки учетных данных C2PA, вызвал интерес к механизмам идентификации AI-изображений. Первоначальные гипотезы о том, что такие инструменты могут анализировать пиксели для определения происхождения (камера, генератор или редактор), оказались неверными. Как показало практическое тестирование, C2PA не выполняет анализ содержимого изображения. Его задача — подтвердить наличие и целостность данных о происхождении, если они были внедрены в файл. Если изображение не содержит C2PA-данных, то проверять попросту нечего.

Невидимые водяные знаки и устойчивость маркировки

Помимо C2PA, существуют и другие методы маркировки. Например, Google использует технологию SynthID, а OpenAI интегрирует как C2PA, так и SynthID в свои поддерживаемые изображения. Это поднимает важные вопросы о живучести такой маркировки: возможно ли определить, что изображение создано ИИ, какие данные нейросеть оставляет внутри файла, сохраняется ли маркировка после редактирования и можно ли удалить невидимый водяной знак обычными методами? Эксперименты показали, что некоторые виды маркировки могут быть устойчивы к редактированию, в то время как другие могут быть удалены, что делает вопрос «как удалить watermark с картинки» гораздо сложнее, чем кажется на первый взгляд.

  • Метаданные: традиционная форма информации о файле.
  • C2PA Content Credentials: криптографически подписанные данные о происхождении.
  • Невидимые водяные знаки: встроенные непосредственно в изображение (например, SynthID).

Таким образом, хотя прямое «детектирование AI-картинок» через анализ пикселей пока недоступно, системы вроде C2PA и невидимые водяные знаки предоставляют важные инструменты для отслеживания происхождения цифрового контента, при условии, что создатели интегрировали соответствующую маркировку.