Google создала инструмент для проверки ИИ-контента

На конференции Google I/O 2025 компания представила SynthID Detector — специальный портал для проверки цифрового контента, созданного с помощью искусственного интеллекта.

SynthID Detector позволяет определить, был ли загруженный файл создан с использованием ИИ-инструментов Google. Сервис работает с изображениями, видео, аудио и текстами, созданными моделями Gemini, Imagen, Lyria и Veo.
В основе технологии лежат цифровые водяные знаки SynthID, которые автоматически встраиваются в контент при его создании. Эти метки остаются в файле даже после сжатия, редактирования или публикации в соцсетях.
Проверка включает три шага: загрузку файла, сканирование на наличие водяных знаков и получение результатов. Для изображений указываются области, где вероятно присутствуют метки. В аудиофайлах система отмечает конкретные временные отрезки.
По оценкам, с 2021 по 2024 год количество дипфейк-видео выросло на 550%. В таких условиях возникает необходимость в инструментах для проверки подлинности цифрового контента.
Google отмечает, что портал может быть полезен журналистам, исследователям и медиа-специалистам в борьбе с дезинформацией. Сейчас доступ к инструменту открыт только для ранних тестировщиков. Желающие могут подать заявку на включение в список ожидания.
Важно отметить, что SynthID Detector способен распознавать только тот контент, который создан с помощью ИИ-инструментов Google или партнеров, использующих эту технологию. Файлы, созданные другими системами без встроенных водяных знаков, не определяются.
Для расширения экосистемы Google открыла исходный код SynthID для текста и заключила партнерство с NVIDIA для внедрения водяных знаков в видео, созданные через их сервис NVIDIA Cosmos.