Meta✴ представила детектор контента, созданного ИИ

Новая система маркировки генеративного контента

Meta✴ объявила о разработке инструмента для обнаружения изображений и видео, созданных с помощью искусственного интеллекта. Компания продемонстрировала предварительную версию веб-приложения, способного определять наличие скрытых водяных знаков в контенте, сгенерированном её моделью Muse Image.

Как работает Content Seal

Технология Content Seal встраивает невидимые цифровые подписи непосредственно в изображения при их создании или редактировании в Muse Image. По данным Meta✴, эти водяные знаки сохраняются даже после таких операций, как обрезка, сжатие, изменение размера или создание скриншотов. В отличие от предыдущих решений компании, где маркировка представляла собой небольшой логотип в правом нижнем углу, новые водяные знаки полностью незаметны для пользователя.

Журналисты ресурса Engadget уже проверили работу детектора на практике. Инструмент успешно идентифицировал как оригинальные изображения, созданные Muse Image, так и их модифицированные версии, включая скриншоты. Однако система не распознаёт контент, созданный более ранними версиями ИИ-сервисов Meta✴.

Ограничения и перспективы

Несмотря на эффективность в рамках собственного экосистема, технология Content Seal имеет серьёзные ограничения. Она несовместима с уже утверждёнными стандартами маркировки ИИ-контента, такими как SynthID или C2PA Content Credentials, которые применяют другие компании. Кроме того, в приложении действует дневное ограничение на количество проверок, что может стать барьером для журналистов и исследователей.

Компания уже работает над расширением возможностей системы. В будущем водяные знаки Content Seal планируется применять и к видео-контенту. Для этого Meta✴ готовит генератор Muse Video, который позволит создавать и редактировать видеоматериалы с помощью искусственного интеллекта.

Значение для отрасли

Появление такого инструмента становится важным шагом в решении растущей проблемы прозрачности генеративного ИИ. По мере улучшения качества нейросетей всё сложнее отличить реальную фотографию от сгенерированного контента. Это особенно критично для СМИ и исследователей, работающих с важной информацией.

Ранее Meta✴ уже внедряла метку «Данные ИИ» (AI Info) для рекламных изображений, созданных или отредактированных её инструментами. Новая система Content Seal представляет собой дальнейшее развитие в этом направлении, хотя и решает лишь часть существующих задач в области идентификации ИИ-контента.