Компания Microsoft столкнулась с проблемами безопасности в своих чат-ботах, оснащенных искусственным интеллектом, предназначенных для использования в здравоохранении. Исследователями из Tenable было обнаружено, что уязвимости позволяют злоумышленникам проникать в целевую IT-инфраструктуру и даже похищать конфиденциальную информацию.
Специалисты по кибербезопасности из Tenable, которые выявили и сообщили об этих уязвимостях Microsoft, объяснили, как недостатки в Azure Health Bot Service позволяли перемещаться по сети и получать доступ к чувствительным данным пациентов.
Azure AI Health Bot Service – это инструмент, позволяющий разработчикам создавать и внедрять виртуальных медицинских помощников, работающих на базе искусственного интеллекта. Это помогает медицинским организациям снизить затраты и повысить эффективность работы без нарушения требований к соблюдению стандартов.
Обработка данных
В целом, цифровые помощники работают с огромным количеством конфиденциальной информации, что делает безопасность и целостность данных первоочередной задачей.
Компания Tenable решила проанализировать работу чат-бота и обнаружила несколько проблем в функции «Data Connections», предназначенной для получения данных из других сервисов. Хотя в инструменте предусмотрены встроенные механизмы защиты, предотвращающие несанкционированный доступ к внутренним API, исследователям удалось их обойти путем перенаправления запросов при перенастройке соединения через управляемый внешний хост.
Исследователи настроили хост для ответа на запросы с перенаправлением на сервис метаданных Azure (IMDS). Это позволило им получить доступ к допустимому метадата-ответу, что дало им токен доступа для management.azure.com. С этим токеном они смогли получить список всех подписок, к которым был предоставлен доступ.
Несколько месяцев назад Tenable сообщила о своих выводах Microsoft, и вскоре после этого все регионы были обновлены для устранения уязвимостей. По словам специалистов, нет доказательств того, что уязвимость была использована злоумышленниками в реальных условиях.
Исследователи отмечают, что обсуждаемые уязвимости связаны с архитектурными недостатками службы AI-чатботов, а не моделей искусственного интеллекта. Это подчеркивает важность традиционных механизмов защиты веб-приложений и облачных сервисов в эпоху AI-услуг.
Источник: TechRadar
