Регулирование использования AI-генерируемых дипфейков
Призыв Microsoft к Конгрессу
Microsoft призывает членов Конгресса ввести регулирование использования AI-генерируемых дипфейков для защиты от мошенничества, злоупотреблений и манипуляций. Вице-председатель и президент компании, Брэд Смит, настаивает на принятии срочных мер, чтобы защитить выборы, пожилых людей от мошенничества и детей от насилия.
Необходимость изменений в законодательстве
Смит отметил в своем блоге, что несмотря на усилия технологического сектора и некоммерческих организаций, становится очевидным, что законы также должны эволюционировать для борьбы с дипфейк-мошенничеством. Он подчеркнул, что одним из самых важных шагов для США будет принятие всеобъемлющего закона о дипфейк-мошенничестве, чтобы предотвратить использование этой технологии киберпреступниками для кражи у обычных американцев.
Конкретные предложения Microsoft
Microsoft хочет, чтобы был принят «закон о мошенничестве с дипфейками», который предоставит правоохранительным органам юридическую базу для преследования AI-генерируемых преступлений и мошенничества. Смит также призывает законодателей обновить федеральные и государственные законы о сексуальной эксплуатации и насилии над детьми, а также о несанкционированных интимных изображениях, чтобы включить в них положения о контенте, созданном с помощью ИИ.
Внутренние меры безопасности Microsoft
Из-за уязвимости в своем конструктивном ИИ-приложении, позволившей пользователям создавать откровенные изображения знаменитостей, таких как Тейлор Свифт, Microsoft пришлось внедрить дополнительные меры безопасности. Смит указал, что частный сектор несет ответственность за инновации и реализацию средств защиты, предотвращающих злоупотребления ИИ.
Действия FCC
Несмотря на то, что Федеральная комиссия по связи (FCC) уже запретила робозвонки с голосами, сгенерированными ИИ, генеративный ИИ упрощает создание фальшивого аудио, изображений и видео. Эти тенденции уже заметны в преддверии президентских выборов 2024 года. Например, Илон Маск ранее на этой неделе разместил дипфейк-видео, пародирующее вице-президента Камалу Харрис, что, по-видимому, нарушает собственные политики X по отношению к синтетическим и манипулированным медиа.
Обозначение дипфейков
Microsoft считает, что посты, подобные тем, что публикует Маск, должны быть ясно обозначены как дипфейк. «Конгресс должен обязать провайдеров AI-систем использовать современные инструменты для маркировки синтетического контента,» — заявил Смит. «Это необходимо для укрепления доверия в информационной экосистеме и поможет общественности лучше понимать, является ли контент AI-генерированным или манипулированным.»
Microsoft продолжает настаивать на том, что меры защиты от злоупотреблений ИИ должны быть всесторонними и применяться на всех уровнях законодательства и технологического сектора.
Источник: The Verge
