Приближается президентская гонка в США: проблема фейковых изображений
По мере приближения президентских выборов в США, интернет заполняется фотографиями Дональда Трампа и Камалы Харрис. Они варьируются от зрелищных фото покушения до совершенно обыденных изображений митингов и фото кандидатов, сжигавших флаги и держащих оружие. Некоторые из этих событий на самом деле не происходили. Однако генеративные инструменты ИИ стали настолько совершенны и доступны, что доверять нашим глазам становится труднее.
Решение от игроков цифровых медиа: метаданные
Крупнейшие игроки в мире цифровых медиа пытаются разобраться с этой проблемой. Их решение — ввод дополнительных данных или метаданных для фотографий, сообщающих, что реально и как произошло искажение изображения. Наиболее известная система— это аутентификация C2PA, за которой стоят такие компании, как Microsoft, Adobe, Arm, OpenAI, Intel, Truepic и Google. Этот технический стандарт предоставляет ключевую информацию об источнике изображений, позволяя пользователям понять, были ли они изменены.
Прозрачность с помощью метаданных
Энди Парсонс, член руководящего комитета C2PA и старший директор по CAI в Adobe, отметил: «Технологии происхождения, такие как Content Credentials, которые действуют как этикетка для цифрового контента, предлагают многообещающее решение. Они позволяют официальным событиям и другому контенту содержать проверяемые метаданные, такие как дата и время, или сигнализировать, использовался ли ИИ.» Этот уровень прозрачности может помочь развеять сомнения, особенно во время новостных и избирательных циклов.
Когда будет видна метка «проверено»?
Основная проблема заключается в интероперабельности системы. Систему необходимо внедрять, и это требует времени и усилий для привлечения необходимых участников. Если нам не удастся привлечь всех основных игроков, то инициатива может потерпеть неудачу.
Введение стандартов и сложностей
Коалиция по аутентификации контента и его происхождения (C2PA) и Инициатива по аутентичности контента (CAI) Adobe активно работают над решением этой проблемы. Технический стандарт, который они разработали, использует криптографические цифровые подписи для проверки подлинности цифровых медиаматериалов, но доступ к этому прогрессу для обычных пользователей пока ограничен.
Этапы стандартизации:
- Индустрия принимает стандарт.
- Организация, как C2PA, разрабатывает стандарт аутентификации и атрибуции.
- Участники фотографии, хостинга контента и редактирования изображений соглашаются со стандартом.
- Создатели добавляют данные.
- Производители камер встраивают метаданные.
- Приложения для редактирования добавляют метаданные.
- Платформы и зрители проверяют данные.
- Онлайн-платформы сканируют метаданные и отображают ключевую информацию.
- Зрители могут проверять данные о подлинности фотографий через базы данных.
Проблемы восприятия и внедрения
Хотя камера может поддерживать внедрение метаданных, они не всегда доходят до зрителя, так как онлайн-платформы, такие как X и Reddit, не отображают эту информацию. Facebook и Instagram также ограничиваются только показом меток об использовании ИИ, не предоставляя информацию для истинных изображений.
Необходимость улучшений и принятия стандартов
Мета рассказал о важности «широкого принятия Content Credentials» для установления доверия. Truepic отмечает, что необходимо улучшить способ отображения этих индикаторов, чтобы пользователи могли лучше понимать и принимать решения.
Проблемы интеграции и взаимодействия
X пока не поддерживает стандарт, но Илон Маск выразил готовность принять его, заявив, что идея «хорошая» и что «следовало бы это сделать». Несмотря на трудности, системы криптографической маркировки являются лучшим текущим решением для проверки подлинности контента. Альтернативные методы, такие как онлайн-сервисы определения ИИ, пока ненадежны.
Заключение
Ни одна система не идеальна. Даже такие надежные стандарты, как C2PA, имеют свои ограничения. Метаданные могут быть легко удалены, например, путем создания скриншота. В конечном итоге эффективность стандарта зависит от числа поддерживающих платформ и продуктов. Однако, как отметил Мунар Ибрагим из Truepic, «плохие игроки всегда будут использовать генеративные инструменты для обмана людей.»
Источник: TheVerge
