Meta должна предпринять больше усилий для борьбы с непристойными изображениями, созданными с помощью ИИ, после неэффективной реакции на несанкционированные интимные дипфейки двух известных женщин на своих платформах, как сообщается в отчете.
В апреле наблюдательный совет Meta, состоящий из независимых экспертов, объявил о начале проверки того, как компания справляется с дипфейк-порнографией.
Эта проверка началась после двух случаев публикации дипфейк-изображений: одно из них изобразило известную персону из Индии, а другое, более откровенное, было связано с американской публичной фигурой.
Ни Meta, ни наблюдательный совет не назвали имена женщин, ставших жертвами дипфейков.
В отчете, опубликованном в четверг после трехмесячного расследования, наблюдательный совет пришел к выводу, что оба изображения нарушают правила Meta, запрещающие «уничижительный сексуализированный фотошоп» согласно политике компании по борьбе с травлей и домогательствами.
«Удаление обоих постов соответствовало обязательствам Meta по защите прав человека», — говорится в отчете.
Дипфейк-порнографическое изображение индийской публичной фигуры дважды сообщалось в Meta. Однако компания не удалила изображение из Instagram до тех пор, пока наблюдательный совет не начал рассматривать это дело.
В случае с изображением американской публичной фигуры, размещенным на Facebook и созданным ИИ, на котором ее изображали обнаженной и подвергавшейся домогательствам, Meta сразу удалила изначально загрузить его в банк совпадений, который автоматически обнаруживает нарушающие правила изображения.
«Meta признала, что первоначальное решение оставить контент в Instagram было ошибочным, и удалила пост за нарушение стандарта сообщества по борьбе с травлей и домогательствами», — отмечает наблюдательный совет в своем отчете.
«Позже, после начала обсуждений в совете, Meta отключила аккаунт, разместивший этот контент».
Не только фотошоп
Отчет показывает, что Meta несовершенной образом применяет свои правила против нелегитимных сексуализированных изображений, даже при том, что развитие технологий ИИ делает этот вид домогательств все более распространенным. Наблюдательный совет призвал Meta обновить свои политики и сделать их более понятными для пользователей.
В своем отчете наблюдательный совет, состоящий из экспертов в области свободы слова и прав человека, предлагает рекомендации по улучшению усилий Meta в борьбе с сексуализированными дипфейками.
В настоящее время правила Meta касательно откровенных изображений, созданных ИИ, основаны на принципе «уничижительный сексуализированный фотошоп» в разделе, посвященном травле и домогательствам. Совет предложил заменить слово «фотошоп» на более обобщенный термин, чтобы охватить другие техники манипуляции изображениями, такие как ИИ.
Кроме того, Meta запрещает несанкционированные изображения, если они являются «не коммерческими или созданы в частной обстановке». Совет предложил, чтобы это условие не было обязательным для удаления или запрета изображений, созданных ИИ или манипулированных без согласия.
Отчет также указал на продолжающиеся проблемы в модерации контента у Meta в странах третьего мира или странах, не говорящих на английском языке.
В ответ на замечания совета, Meta заявила, что рассмотрит эти рекомендации.
Источник: PetaPixel
