- Жалоба Microsoft в декабре 2024 года касается 10 анонимных ответчиков
- «Хакерская услуга» похищала API-ключи легитимных пользователей и обходила средства защиты контента
- Жалоба округа Вирджиния привела к удалению репозитория Github и веб-сайта
Microsoft обвинила неназванную группу лиц в разработке инструментов для намеренного обхода программ безопасности в своем сервисе Azure OpenAI, обеспечивающем работу инструмента ИИ ChatGPT.
В декабре 2024 года технологический гигант подал жалобу в Окружной суд США Восточного округа Вирджинии против 10 анонимных ответчиков, обвиняя их в нарушении Закона о компьютерном мошенничестве и злоупотреблениях, Закона о защите авторских прав в цифровую эпоху, а также федерального закона о рэкете.
Microsoft утверждает, что его серверы были использованы для содействия созданию «оскорбительного», «вредного и незаконного контента». Хотя подробности характера этого контента не были раскрыты, это стало достаточным основанием для немедленных действий: был закрыт репозиторий Github, а Microsoft заявила в своем блоге о том, что суд позволил изъять веб-сайт, связанный с этой операцией.
API-ключи ChatGPT
В жалобе Microsoft указала, что впервые обнаружила злоупотребления с API-ключами Azure OpenAI Service, используемыми для аутентификации пользователей и создания незаконного контента, в июле 2024 года. Проведенное внутреннее расследование выявило, что похищенные API-ключи принадлежали легитимным клиентам.
«Неизвестно, как именно ответчики получили все API-ключи, использованные для описанных в жалобе злоупотреблений, но, по-видимому, они систематически похищали API-ключи у нескольких клиентов Microsoft», сказано в жалобе.
Microsoft утверждает, что с конечной целью создания продукта «хакерской услуги» ответчики разработали de3u, инструмент на стороне клиента для кражи этих API-ключей, а также дополнительное программное обеспечение, позволяющее de3u взаимодействовать с серверами Microsoft.
De3u также позволял обходить встроенные фильтры контента и последующую редактуру пользовательских запросов в Azure OpenAI Services, что позволяло, например, DALL-E генерировать изображения, которые обычно OpenAI не разрешала бы.
«Эти функции, в сочетании с незаконным программным доступом ответчиков к API сервиса Azure OpenAI, позволили ответчикам создать методы обхода мер Microsoft по защите контента и предотвращению злоупотреблений», говорится в жалобе.
Источник: TechRadar
