ИИ-изображения создаются моделью, а не по единому шаблону
Современные диффузионные системы обычно начинают с шума в скрытом представлении, а затем многократно устраняют его с учётом промпта, модели и параметров генерации. Так в пикселях возникают статистические закономерности, но они меняются в зависимости от семейства моделей, разрешения, последующей обработки и способа экспорта. Этот процесс описан в основополагающей статье о латентной диффузии.
Источник: Модели латентной диффузии, CVPR 2022
Четыре уровня проверки отвечают на разные вопросы
Визуальные признаки
Классификатор определённой версии ищет изученные пространственные и частотные закономерности. Это вероятностная оценка, а не цифровая подпись.
Метаданные генератора
Названия программ, промпты, сиды, модели и графы генерации могут указать, как был создан файл. Однако обычные метаданные можно изменить.
Подписанные данные о происхождении
Манифест C2PA связывает утверждения с байтами файла и содержит статус проверки, сведения о подписанте, действиях и исходных материалах.
Водяной знак разработчика
Для закрытого сигнала, например SynthID, нужен совместимый детектор его разработчика. Обычная проверка метаданных его не заменяет.
Почему визуальные классификаторы дают разные результаты
Исследовательские детекторы обучаются на известных примерах. Новые генераторы, сильное сжатие, кадрирование, иллюстрации и нестандартная обработка меняют изученные закономерности. Исследования спектрального анализа показывают как полезные артефакты, так и сложность переноса результатов между генераторами. Поэтому вместе с визуальной оценкой нужно указывать модель, её версию и пороговые значения.
Источник: Определение ИИ-изображений любого разрешения, CVPR 2025
Почему метаданные полезны, но их можно изменить
Текстовые блоки PNG, EXIF, XMP и данные конкретных приложений могут содержать название генератора, промпт или граф ComfyUI. Для данного файла это весомые признаки. Но они могут исчезнуть после снимка экрана, перекодирования, загрузки в соцсеть или экспорта с удалением метаданных.
Как устроены Content Credentials C2PA
Манифест C2PA объединяет утверждения, заявление, криптографическую подпись и жёсткую привязку к файлу. При проверке анализируются структура, хеши утверждений, привязка к файлу, подпись, отметка времени и политика сертификатов. Спецификация C2PA 2.4 описывает происхождение и признаки изменения файла, но не подтверждает достоверность изображённого события.
Источник: Техническая спецификация C2PA 2.4
| Статус C2PA | Что подтверждает | Чего не подтверждает |
|---|---|---|
| Доверенный / действительный | Поддерживаемый манифест и его привязка к файлу прошли проверку по выбранной политике доверия. | Что каждое утверждение объективно верно. |
| Действительный, но недоверенный | Структура и привязка корректны, но подписант не входит в выбранный список доверия. | Что подписант действует злоумышленно или изображение является подделкой. |
| Недействительный / изменённый | Не пройдена проверка подписи, утверждения или привязки к файлу. | Какое изменение или какой человек вызвал ошибку. |
| Отсутствует | В этой копии файла не найден поддерживаемый манифест. | Что изображение получено с камеры или создано человеком. |
SynthID и другие невидимые водяные знаки
Google DeepMind описывает SynthID как незаметный сигнал, встроенный в сгенерированный контент и считываемый совместимым детектором. Google также указывает ограничения: отрицательный результат SynthID относится к поддерживаемым системам ИИ Google, а не ко всем генераторам. На этом сайте SynthID отмечается как «не проверен», если совместимая проверка разработчика недоступна.
Источник: Google DeepMind — SynthID
Почему многоуровневый отчёт полезнее одного процента
- Определить контейнер файла до интерпретации полей.
- Считать поддерживаемые данные PNG, EXIF, XMP и схемы генерации, не считая имя файла доказательством.
- Отдельно проверить C2PA совместимым со спецификацией анализатором и сохранить статусы проверки.
- Отдельно запустить зафиксированную версию визуальной модели с опубликованными порогами.
- Показать противоречия, а не усреднять несвязанные признаки в убедительно выглядящий процент.
Как понимать результат
| Результат | Точное значение |
|---|---|
| Найдены признаки генерации ИИ | Найдены поддерживаемые данные о генераторе, схеме генерации или ИИ-источнике. |
| Визуальные признаки ИИ | Оценка визуальной модели превысила консервативный порог отображения; ошибки всё равно возможны. |
| Найдены данные для проверки | В файле есть метаданные или сведения о происхождении, но сами по себе они не указывают на генерацию ИИ. |
| Данные о происхождении недействительны | Одна из поддерживаемых проверок C2PA не пройдена; результат требует проверки. |
| Недостаточно данных | В этой копии файла не найдено поддерживаемых признаков для однозначного вывода. |
Какие программы проверяют эти уровни?
Для подписанных данных о происхождении используйте валидатор C2PA или средство просмотра Content Credentials, для подробной проверки метаданных — ExifTool, для встроенных графов ComfyUI — ComfyUI, для сохранённых параметров AUTOMATIC1111 — PNG Info, а для закрытых водяных знаков — детектор их разработчика. Совместимость зависит от формата файла и способа экспорта.
Частые вопросы
Можно ли удалить метаданные ИИ?
Да. Обычные метаданные и схемы генерации можно удалить. Изменение C2PA обнаруживается, пока манифест доступен, но в последующей копии весь манифест также может отсутствовать.
Означает ли отсутствие C2PA, что фотография настоящая?
Нет. Это означает лишь, что в данной копии нет поддерживаемого манифеста C2PA.
Может ли ИИ изменить настоящую фотографию?
Да. Данные о происхождении могут описывать исходные материалы и действия, а визуальная модель может среагировать только на часть составного изображения.