![[FBM] CARDS](https://cpa.rip/wp-content/uploads/cr-a1/fbm-cards-v1/fbm-cards-logo.svg){kind=logo}
7 октября Google открыла доступ к сервису SynthID Detector для проверки контента на наличие водяных знаков SynthID. Детектор определяет, было ли изображение, видео или аудио создано или отредактировано с помощью ИИ. Провели несколько тестов и проверили, как детектор определяет изображения от разных нейросетей.
Форматы, которые поддерживает детектор:
Images: JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF, GIF
Video: MP4, MOV, WEBM
Audio: WAV, MP3, OGG, FLAC, AAC, M4A
В основе детектора лежит технология SynthID от Google DeepMind, которая встраивает в сгенерированный ИИ контент незаметные для человека цифровые водяные знаки.
SynthID Detector позволяет проверять контент, созданный нейросетями Google и партнеров OpenAI, NVIDIA и Kakao. Среди поддерживаемых моделей Google заявлены Nano Banana, Veo и Lyria. Позже должна присоединиться Apple.
- SynthID Detector доступен по адресу https://synthid.com/
Для теста выбрали ChatGPT, Nano Banana 2.1 и Qwen-Image-2.1. Для чистоты эксперимента предварительно очистили метаданные.
Тест SynthID Detector на изображении от ChatGPT
В ChatGPT сгенерировали изображение по промту из нашей статьи: https://cpa.rip/prompts/ai-prompts-igaming/ и проверили в SynthID Detector:
- Результат: Обнаружен SynthID. Этот медиафайл был создан или отредактирован с помощью OpenAI.
Тест SynthID Detector на изображении от Nano Banana 2.1
В новой Nano Banana 2.1 сгенерировали изображение по JSON-промту из статьи: https://cpa.rip/prompts/nsfw-photos/ и чекнули в SynthID Detector:
- Результат: Обнаружен SynthID. Этот медиафайл был создан или отредактирован с помощью Google AI.
Тест SynthID Detector на изображении от Qwen-Image-2.1
Следующий тест провели на изображении, созданном локальной моделью Qwen-Image-2.1:
Инструкция по локальной установке бесплатной модели Qwen-Image-2.1: https://cpa.rip/ai/qwen-image-2-1/.
- Результат: SynthID не обнаружен. Маловероятно, что этот медиафайл был создан с помощью ИИ от партнера SynthID. Однако следует учитывать, что он мог быть сгенерирован организацией, не являющейся партнером, или до того, как партнер начал использовать SynthID.
Тест SynthID Detector после уникализации картинки
Сперва проверили пропустив изображение через уникализатор, затем проверили наложив размытие и разные графические элементы поверх сгенерированной картинки:
- Результат в обоих случаях: Обнаружен SynthID. Этот медиафайл был создан или отредактирован с помощью Google AI.
Тест SynthID Detector после доработки другой нейросетью
Взяли изображение, сгенерированное в ChatGPT, которое SynthID Detector определяет как созданное в OpenAI, закинули в Nano Banana 2.1 и внесли точечные правки.
В результате новая проверка в SynthID Detector показала создан или отредактирован с помощью OpenAI, т.е. повторное редактирование в другой нейросети не перезаписало исходный SynthID.
Лимиты SynthID Detector
В самом сервисе нет точной информации про лимиты, но в процессе тестирования уперлись в суточный лимит:
Комментарии