Новый инструмент помогает создавать водяные знаки и идентифицировать синтетические изображения, созданные Imagen

Изображения, созданные искусственным интеллектом, становятся все более популярными с каждым днем. Но как мы можем лучше идентифицировать их, особенно когда они выглядят так реалистично?

Сегодня в партнерстве с Google Cloud мы запускаем бета-версию SynthID, инструмента для нанесения водяных знаков и идентификации изображений, созданных искусственным интеллектом. Эта технология встраивает цифровой водяной знак непосредственно в пиксели изображения, делая его незаметным для человеческого глаза, но доступным для идентификации.

SynthID выпускается для ограниченного числа клиентов Vertex AI с использованием Imagen, одной из наших новейших моделей преобразования текста в изображение, которая использует вводимый текст для создания фотореалистичных изображений.

Технологии генерирования искусственного интеллекта быстро развиваются, и изображения, сгенерированные компьютером, также известные как "синтетические изображения", становится все труднее отличить от тех, которые не были созданы системой искусственного интеллекта.

Хотя генеративный ИИ может раскрыть огромный творческий потенциал, он также сопряжен с новыми рисками, такими как предоставление создателям возможности распространять ложную информацию — как намеренно, так и непреднамеренно. Способность идентифицировать контент, созданный искусственным интеллектом, имеет решающее значение для предоставления людям знаний о том, когда они взаимодействуют с созданными МЕДИА, и для предотвращения распространения дезинформации.

Мы стремимся предоставлять людям высококачественную информацию и поддерживать доверие между создателями и пользователями по всему обществу. Часть этой ответственности заключается в предоставлении пользователям более продвинутых инструментов для идентификации изображений, сгенерированных искусственным интеллектом, чтобы их изображения - и даже некоторые отредактированные версии — можно было идентифицировать позже.

Google Cloud - первый облачный провайдер, предлагающий инструмент для ответственного создания изображений, сгенерированных искусственным интеллектом, и их надежной идентификации. Эта технология основана на нашем подходе к разработке и внедрению ответственного искусственного интеллекта и была разработана Google DeepMind и усовершенствована в партнерстве с Google Research.

SynthID не является надежной защитой от экстремальных манипуляций с изображениями, но он предоставляет многообещающий технический подход, позволяющий людям и организациям ответственно работать с контентом, созданным искусственным интеллектом. Этот инструмент также может развиваться наряду с другими моделями и способами искусственного интеллекта, помимо изображений, таких как аудио, видео и текст.

Новый тип водяных знаков для изображений с искусственным интеллектом

Водяные знаки - это рисунки, которые можно наносить на изображения для их идентификации. От физических отпечатков на бумаге до полупрозрачного текста и символов, которые можно увидеть сегодня на цифровых фотографиях, они развивались на протяжении всей истории.

Традиционных водяных знаков недостаточно для идентификации изображений, созданных искусственным интеллектом, поскольку они часто наносятся на изображение как штамп и могут быть легко отредактированы. Например, отдельные водяные знаки, обнаруженные в углу изображения, могут быть обрезаны с помощью базовых методов редактирования.

Сложно найти правильный баланс между незаметностью и надежностью при манипуляциях с изображениями. Хорошо видимые водяные знаки, часто добавляемые в виде слоя с названием или логотипом поверх изображения, также создают эстетические проблемы в творческих или коммерческих целях. Аналогичным образом, некоторые ранее разработанные незаметные водяные знаки могут быть потеряны с помощью простых методов редактирования, таких как изменение размера.

Мы разработали SynthID таким образом, чтобы он не ухудшал качество изображения и позволял обнаруживать водяной знак даже после внесения изменений, таких как добавление фильтров, изменение цвета и сохранение с использованием различных схем сжатия с потерями, наиболее часто используемых для файлов JPEG.

SynthID использует две модели глубокого обучения — для нанесения водяных знаков и идентификации, — которые были совместно обучены на различных наборах изображений. Комбинированная модель оптимизирована для решения ряда задач, включая правильную идентификацию содержимого с водяными знаками и улучшение незаметности за счет визуального выравнивания водяного знака с исходным содержимым.

Надежный и масштабируемый подход

SynthID позволяет клиентам Vertex AI ответственно создавать изображения, сгенерированные искусственным интеллектом, и уверенно идентифицировать их. Хотя эта технология не идеальна, наше внутреннее тестирование показывает, что она эффективна при многих распространенных манипуляциях с изображениями.

Комбинированный подход SynthID:

• Водяные знаки: SynthID может добавлять незаметный водяной знак к синтетическим изображениям, созданным Imagen.
• Идентификация: сканируя изображение на наличие цифрового водяного знака, SynthID может оценить вероятность того, что изображение создано Imagen.

Этот инструмент предоставляет три уровня достоверности для интерпретации результатов идентификации водяных знаков. Если обнаружен цифровой водяной знак, часть изображения, скорее всего, сгенерирована Imagen.

SynthID вносит свой вклад в широкий набор подходов к идентификации цифрового контента. Одним из наиболее широко используемых методов идентификации контента являются метаданные, которые предоставляют такую информацию, как кто его создал и когда. Эта информация сохраняется вместе с файлом изображения. Цифровые подписи, добавленные к метаданным, затем могут показать, было ли изменено изображение.

Когда информация метаданных не повреждена, пользователи могут легко идентифицировать изображение. Однако метаданные могут быть удалены вручную или даже потеряны при редактировании файлов. Поскольку водяной знак SynthID встроен в пиксели изображения, он совместим с другими подходами идентификации изображений, основанными на метаданных, и остается обнаруживаемым даже при потере метаданных.

Что дальше?

Для ответственного создания контента, созданного искусственным интеллектом, мы стремимся разрабатывать безопасные и заслуживающие доверия подходы на каждом этапе — от генерации изображений и идентификации до медиаграмотности и информационной безопасности.

Эти подходы должны быть надежными и адаптируемыми по мере развития генеративных моделей и их распространения на другие среды. Мы надеемся, что наша технология SynthID сможет работать вместе с широким спектром решений для создателей и пользователей по всему миру, и мы продолжаем развивать SynthID, собирая отзывы пользователей, расширяя его возможности и исследуя новые функции.

SynthID может быть расширен для использования в других моделях искусственного интеллекта, и мы рады возможности интегрировать его в большее количество продуктов Google и сделать доступным для третьих сторон в ближайшем будущем, что позволит людям и организациям ответственно работать с контентом, созданным искусственным интеллектом.

Примечание: Модель, используемая для создания синтетических изображений в этом блоге, может отличаться от модели, используемой в Imagen и Vertex AI.

Источник: deepmind.com