Google открыл для всех инструмент распознавания контента, созданного ИИ

Корпорация Google открыла для всех пользователей SynthID Detector – онлайн-инструмент, который определяет, был ли контент создан или отредактирован с помощью искусственного интеллекта.

Инструмент распознает изображения, видео и аудиозаписи, созданные в ИИ-сервисах Google, OpenAI, Nvidia и Kakao, по встроенным в них водяным знакам SynthID. Пользоваться им можно бесплатно на сайте synthid.com, однако для этого нужно войти через учетную запись Google, OpenAI или Apple. В Google сообщили, что вскоре будет добавлена поддержка изображений, созданных и отредактированных с помощью Apple Intelligence.

Google разрабатывает SynthID Detector больше года и ранее открывал его версии для журналистов.

Вместе с тем возможности инструмента ограничены. Он не распознает контент, созданный в сервисах компаний, которые используют другие стандарты маркировки, – например, видео, сгенерированное популярной моделью Seedance 2.5. Кроме того, водяные знаки в ряде случаев можно удалить, а сам инструмент не отличает полностью сгенерированный контент от отредактированного с помощью ИИ и не указывает, какие именно его части являются синтетическими.

Единого универсального средства проверки на сегодня не существует. Так, Meta тестировала собственный онлайн-инструмент, который распознает только изображения, созданные ее новыми моделями Muse Image.

В июле корпорация Nvidia представила на конференции SIGGRAPH сервис Synthetic Video Detector, предназначенный для выявления видео, созданного искусственным интеллектом. Инструмент покадрово анализирует ролики и выдает оценку вероятности того, что они были сгенерированы. Согласно Nvidia, на несжатом видео его точность достигает 92%.

В Google рассчитывают, что к поддержке SynthID присоединятся и другие компании. Ранее сообщалось, что такое обязательство взяла на себя ElevenLabs.