Google существенно усиливает свои усилия по борьбе с появлением в результатах поиска откровенных изображений и видео, созданных с помощью ИИ. Компания хочет дать понять, что неприемлемо появление несанкционированных глубоких фейков, созданных искусственным интеллектом, в ее поисковой системе.
Эти изображения могут быть непристойными или оскорбительными, но независимо от деталей, Google разработала новый подход к удалению такого материала и скрытию его далеко от первой страницы результатов поиска, если удаление невозможно. Google уже экспериментировала с использованием собственного ИИ для создания изображений для результатов поиска, но эти изображения не включают реальных людей и, особенно, ничего откровенного. Компания сотрудничает с экспертами по данной проблеме и с теми, кто стал жертвами несанкционированных глубоких фейков, чтобы сделать свою систему отклика более эффективной.
Google уже некоторое время позволяет пользователям запрашивать удаление откровенных глубоких фейков, но распространение и улучшение генеративных ИИ-алгоритмов требует усиления мер. Система подачи запросов на удаление была упрощена, чтобы сделать их отправку и обработку более оперативными. Когда запрос получен и подтвержден, алгоритмы Google также работают над фильтрацией любых подобных откровенных результатов, связанных с конкретным лицом.
Жертве не придется вручную искать каждую вариацию поискового запроса, которая может привести к подобному контенту. Системы Google автоматически сканируют и удаляют любые дубликаты этих изображений. И это не ограничивается одним конкретным файлом изображения. Google будет проактивно контролировать связанный контент. Это особенно важно, учитывая природу интернета, где контент может быть дублирован и распространен по нескольким платформам и сайтам. Система Google будет теперь распространяться и на глубокие фейки, созданные с использованием ИИ.
Метод также имеет некоторые сходства с недавними усилиями Google по борьбе с несанкционированными глубокими фейками на YouTube. Ранее YouTube просто маркировал такой контент как созданный ИИ или потенциально вводящий в заблуждение, но теперь человек, изображенный на видео, или его адвокат могут подать жалобу на конфиденциальность, и YouTube даст владельцу видео несколько дней на его удаление, прежде чем рассмотрит жалобу по существу.
Глубокие фейки скрыты глубже
Удаление контента не является стопроцентно совершенным процессом, что Google хорошо понимает. Поэтому поиск откровенных глубоких фейков также включает обновленную систему ранжирования. Новая система снижает видимость откровенного поддельного контента и сайтов, связанных с его распространением, в результатах поиска, особенно если в поисковом запросе указано чье-либо имя.
Например, если вы ищете новостную статью о том, как глубокие фейки конкретного знаменитости стали вирусными, и как они свидетельствуют перед законодателями о необходимости регулирования, Google Search постарается показать вам именно новости и связанные статьи по этому вопросу, а не обсуждаемые глубокие фейки.
Google не одинок в этой борьбе
Сложный и постоянно развивающийся характер генеративных ИИ-технологий и их потенциал для злоупотреблений требуют многостороннего подхода к предотвращению распространения вредоносного контента. Google не единственная компания, сталкивающаяся с этой проблемой и работающая над ее решением. Она также существует на Facebook, Instagram и других платформах Meta, которые обновляют свои политики в ответ на угрозу, их Наблюдательный совет недавно рекомендовал изменить правила, чтобы напрямую учитывать откровенный контент, созданный ИИ, и улучшить процесс подачи апелляций.
Законодатели также реагируют на эту проблему. Законодательное собрание штата Нью-Йорк приняло закон, направленный против несанкционированного порнографического контента, созданного с помощью ИИ, как часть законодательства о «порно мести». На национальном уровне в Сенате США был представлен законопроект «NO FAKES Act», направленный против откровенного контента и несанкционированного использования глубоких фейков визуальных изображений и голосов. Аналогично, законодательное собрание Австралии работает над законопроектом, направленным на криминализацию создания и распространения несанкционированных откровенных глубоких фейков.
Тем не менее, Google уже может говорить о некоторых успехах в борьбе с откровенными глубокими фейками. Компания утверждает, что ее первые тесты с этими изменениями позволяют сократить появление откровенных изображений глубоких фейков более чем на 70%. Однако Google еще не объявила окончательную победу над такими фейками.
«Эти изменения являются важными обновлениями наших мер защиты в поиске, но предстоит еще много работы для решения этой проблемы, и мы продолжим разрабатывать новые решения, чтобы помочь людям, пострадавшим от этого контента,» – объяснила менеджер продукта Google, Эмма Хайам, в своем блоге. «И учитывая, что эта проблема выходит за рамки поисковых систем, мы будем продолжать инвестировать в партнерства на уровне всей отрасли и работать с экспертами, чтобы справиться с ней на уровне общества.»
Источник: TechRadar
