Google разрабатывает инструмент искусственного интеллекта для обнаружения и маркировки созданных ИИ изображений

Google признает сложности технологии искусственного интеллекта и активно работает над решениями для их решения. Одна из основных проблем заключается в увеличении количества созданных ИИ изображений в интернете. Поскольку медиа-компании регулируют использование такого контента для избегания проблем с авторскими правами, становится трудно отличить между изображениями, созданными ИИ, и теми, которые были разработаны вручную.

Для упрощения этого процесса AI-подразделение Google, DeepMind, разработало инструмент под названием Synth ID. Этот инструмент может обнаруживать ИИ-сгенерированные изображения и добавлять водяной знак, который раскрывает их происхождение. В настоящее время в бета-версии, Synth ID позволяет DeepMind тестировать новые функции с ограниченной группой пользователей и компаний.

Водяной знак, хотя и невидимый для человеческого глаза, может быть обнаружен технологией. Он добавляет дополнительный уровень идентификации изображения, помогая пользователям распознавать, было ли оно создано с помощью ИИ или традиционными методами. Google заверяет, что добавление водяного знака не влияет на качество изображения, уровень цвета или другие аспекты.

Хотя Synth ID является шагом в правильном направлении, требуются дальнейшие усовершенствования для борьбы с основными проблемами, связанными с дезинформацией ИИ, особенно в случаях с Deepfakes. В предстоящих правительственных выборах крайне важно, чтобы инструменты, подобные Synth ID, выполняли свои обязательства по предотвращению неправомерного использования технологии ИИ.

Google признает свою ответственность в регулировании ИИ, но для обеспечения широкого доступа к таким инструментам и развития необходимо сотрудничество с другими участниками отрасли. Поскольку ИИ продолжает стремительно развиваться, важно активно вносить вклад в разработку усовершенствованных решений, которые смягчат потенциальные риски неправильного использования ИИ.