Наши основные предположения о фотографиях как способе запечатления реальности скоро разрушатся.
Взрыв у старого кирпичного здания. Разбитый велосипед на городском перекрёстке. Таракан в коробке с едой на вынос. На создание каждого из этих изображений с помощью инструмента Reimagine в Google Pixel 9’s Magic Editor ушло менее 10 секунд. Они четкие, полноцветные и высокого качества. Нет подозрительного размытости фона, нет дополнительных пальцев. Эти фотографии действительно убедительны, но абсолютно фальшивые.
Любой, кто приобретет Pixel 9 — последнюю модель флагманского телефона Google, доступного с этой недели, — получит доступ к простой и удобной пользовательской интерфейсу для создания первоклассных ложных изображений прямо на своем мобильном устройстве. Скорее всего, это станет нормой, так как аналогичные функции уже есть на конкурирующих устройствах и появятся на других в ближайшем будущем. Обычно, когда смартфон «просто работает», это хорошо; но в данном случае это и является основной проблемой.
Фотография служила средством обмана с момента своего появления. (Вспомните фотографии духов викторианской эпохи, знаменитую фотографию Лох-Несского чудовища или чистки Сталина, документированные на фотографиях.) Но было бы неверно утверждать, что фотографии никогда не считались надежным доказательством. Каждый из нас, кто читает эту статью в 2024 году, вырос в эпоху, когда фотография считалась объективным представлением правды. Постановочные сцены с киноэффектами, цифровая манипуляция фотографиями или, недавно, дипфейки — это были возможные, но редкие исключения. Нужно было обладать специальными знаниями и инструментами, чтобы нарушить доверие к фотографии. Фальшивка была исключением, а не правилом.
Если я скажу «площадь Тяньаньмэнь», вы, скорее всего, представите то же фото, что и я. То же касается и фотографий из Абу-Грейб или «девушки с напалмом». Эти изображения стали символами войн и революций, encapsulating правду в степени, которую невозможно полностью выразить словами. Наша вера в фотографии была настолько глубока, что обсуждая правдивость изображений, мы подчеркивали возможность их фальсификации.
Но это все скоро изменится — изначально любое фото будет восприниматься как поддельное, поскольку создание реалистичных и правдоподобных поддельных фотографий стало тривиальной задачей. И мы не готовы к последствиям.
Сегодня никто на Земле не жил в мире, где фотографии не были основой социального консенсуса — сколько нас тут, фотографии доказывали, что что-то произошло. Вспомните все случаи, когда изначальная достоверность фотографии ранее подтверждала правду вашего опыта. Старая царапина на арендованной машине. Протечка в потолке. Прибывшая посылка. Настоящий таракан в вашей еде на вынос. Когда пожары подходят к вашему жилому району, как вы передадите знакомым густоту дыма?
До сих пор основная ответственность лежала на тех, кто отрицал правдивость фотографии, чтобы доказать свои утверждения. Теории плоской Земли противоречат социальному консенсусу не потому, что они не понимают астрофизику — мало кто из нас, на самом деле, понимает астрофизику — а потому что они должны придумывать все более и более запутанные оправдания, почему определенные фотографии и видео нереальны. Они должны придумывать заговоры государственного масштаба, чтобы объяснить постоянный поток спутниковых снимков, capturing curvature of the Earth. Они должны создавать съемочную площадку для высадки на Луну 1969 года.
Мы привыкли к тому, что на них лежит бремя доказательства. В эпоху Pixel 9, возможно, нам стоит освежить наши знания в астрофизике.
В большинстве случаев среднее изображение, созданное этими AI-инструментами, само по себе будет достаточно безвредным — дополнительное дерево на заднем плане, аллигатор в пиццерии, забавный костюм на кошке. Но в совокупности это угрожает самой концепции фотографии, что само по себе несет огромные последствия. Например, последние десятилетие в США наблюдались значительные социальные потрясения, вызванные grainy видео записи жестокости полиции. Там, где власти пытались скрыть или исказить реальность, эти видео говорили правду.
Непрерывные крики о «фальшивых новостях!» со стороны сторонников Трампа предвещали начало этой эпохи необузданной лжи, когда воздействие правды будет принижа الانо потоком лжи. Следующий Абу-Грейб будет затоплен под массой искусственно созданных AI файков о военных преступлениях. Следующий Джордж Флойд останется незамеченным и непочтенным.
Вы уже можете увидеть, что нас ждет. На процессе над Кайлом Риттенхаусом защита утверждала, что увеличенные снимки Apple pinch-to-zoom манипулируют фото, успешно убеждая судью, что на стороне обвинения бремя доказательства, что увеличенные снимки с iPhone не подвергались AI манипуляциям. Недавно Дональд Трамп ложно заявил, что фото многолюдного митинга Камалы Харрис было создано искусственным интеллектом — заявление, которое стало возможным благодаря тому, что люди могли в это поверить.
Даже до появления AI, медиа работали в условиях постоянного напряжения, проверяя детали и источники каждого изображения, выявляя вводящий в заблуждение контекст или манипуляции с фото. Однако приближающийся сдвиг парадигмы затрагивает что-то гораздо более фундаментальное, чем постоянное подозрение, что иногда называют цифровой грамотностью.
Google прекрасно понимает, что делает с фотографией как институтом — в интервью с Wired, менеджер по продуктам Pixel камеры описал инструмент редактирования как «помогающий вам создавать момент так, как вы его помните, который аутентичен вашей памяти и более широкому контексту, но, возможно, не соответствует конкретной миллисекунде». Фотография в этом мире перестает быть дополнением к ошибочной человеческой памяти и становится ее зеркалом. И когда фотографии становятся не чем иным, как проявленными галлюцинациями, самые глупые вещи превращаются в судебные баталии о репутации свидетелей и существовании подтверждающих доказательств.
Это эрозия социального консенсуса началась еще до Pixel 9, и не только эта модель смартфона будет её причиной. Однако, новые функции искусственного интеллекта в этом телефоне важны не только из-за низкой порога входа, но и из-за поразительно слабых защитных мер. Промышленный стандарт водяных знаков для изображений, созданных AI, застрял в обычных проблемах с разработкой стандартов, и собственная система водяных знаков от Google, SynthID, была вовсе не видна, когда The Verge тестировал Magic Editor Pixel 9. Фотографии, измененные с помощью инструмента Reimagine, просто имели строку удаляемых метаданных. (Интересно, что сама Google пыталась решить проблему хрупкости метаданных, изобретая якобы неудаляемый водяной знак SynthID.) Google сообщила нам, что выходные данные Pixel Studio — чистый генератор на основе запросов, подобный DALL-E — будут отмечены водяным знаком SynthID; однако, возможности инструмента Reimagine, который изменяет существующие фото, вызывали больше беспокойств.
Google заявляет, что Pixel 9 не станет неограниченным фабрикатором лжи, но предоставляет мало конкретных гарантий. «Мы разрабатываем наши генеративные инструменты AI с уважением к намерениям пользователей, и поэтому они могут создавать контент, который может оскорбить при использовании нарушающих запросов,» сказал Алекс Морикони, менеджер по связям с общественностью Google, в письме The Verge. «Это не значит, что все позволено. У нас есть четкие правила и условия использования, а также встроенные меры защиты, чтобы предотвратить злоупотребления. Временами некоторые запросы могут нарушать эти меры, и мы стремимся постоянно улучшать и укреплять наши защищенные механизмы.»
Правила такие, как и ожидалось — например, нельзя использовать сервисы Google для участия в преступлениях или подстрекательства к насилию. Некоторые попытки запросов возвращали общее сообщение об ошибке, «Magic Editor не может выполнить это редактирование. Попробуйте ввести что-то другое.» (В этой статье, однако, есть несколько тревожных примеров запроса, которые сработали.) Но стандартное модерация контента не спасет фотографию от ее надвигающейся гибели как сигнала правды.
Мы недолго жили в эпоху, когда фотография была прямым путем к реальности, к знанию вещей, к наличию smoking gun. Это был чрезвычайно полезный инструмент для ориентации в окружающем мире. Сейчас мы стремительно входим в будущее, где реальность становится менее постижимой. Утерянная Александрийская библиотека могла бы быть записана на microSD карту в моем Nintendo Switch, но передовой рубеж технологии — это карманный телефон, который в качестве бонуса извергает ложь.
Мы в заднице.
Источник: TheVerge
