Трудно будет вернуть доверие к фотографиям в эпоху генеративного ИИ, но индустрия технологий обязана оставаться максимально прозрачной при использовании таких инструментов. С целью увеличения прозрачности Google объявила, что уже со следующей недели Google Photos будет отмечать изображения, отредактированные с помощью ИИ.
Фотографии, измененные с помощью таких инструментов, как Magic Editor, Magic Eraser и Zoom Enhance, уже включают метаданные, разработанные на технических стандартах Международного совета по телекоммуникациям в прессе (IPTC). Это позволяет указать, что они были изменены при помощи генеративного ИИ, как написал Джон Фишер, директор по инженерии в Google Photos, в своем блоге. Теперь это станет более заметным, наряду с такой информацией, как имя файла, местоположение и статус резервного копирования в приложении Photos.
Конечно, это лучше, чем полное отсутствие указания на использование ИИ.
Секция с информацией о ИИ будет доступна в разделе деталей изображения в Google Photos как на веб-платформе, так и в приложении. Этикетки не ограничиваются только генеративным ИИ. Google также будет указывать, когда «фото» содержит элементы из нескольких разных изображений — например, при использовании функций Pixel’s Best Take и Add Me. Это определенно обнадеживает, но метаданные можно легко обойти теми, кто намеренно хочет скрыть информацию.
Джон Фишер заметил: «Работа не завершена, и мы продолжим собирать отзывы и рассматривать дополнительные решения для повышения прозрачности изменений, выполненных ИИ.»
До настоящего момента метаданные, прикрепленные к инструментам ИИ от Google, были практически незаметны для пользователей. Отсутствие очевидной отметки о том, что изображение было сделано ИИ, вызывало у меня беспокойство, когда я вносил сумятицу с помощью инструмента Reimagine в Magic Editor, позволяющего добавлять ИИ-сгенерированные объекты в сцену, которая изначально их не содержала. Google и Samsung уже предлагают такие возможности с помощью своих инструментов ИИ. Однако Apple, которая планирует внедрить свои первые функции генерации изображений с iOS 18.2, заявила, что намеренно избегает создания фотореалистичного контента. Представитель Apple, Крейг Федериги, отметил, что компания «озабочена» возможностью того, что ИИ может поколебать уверенность в фотографиях, отражающих «реальность».
Источник: TheVerge
