Microsoft представляет новую функцию под названием «коррекция», которая продолжает усилия компании по борьбе с неточностями ИИ. Теперь клиенты, использующие Microsoft Azure для работы своих ИИ-систем, могут воспользоваться этой возможностью для автоматического обнаружения и переписывания ошибочного контента в выводах ИИ.
Функция коррекции доступна в предварительном просмотре в составе Azure AI Studio — набора инструментов безопасности, предназначенных для обнаружения уязвимостей, выявления «галлюцинаций» и блокировки вредоносных запросов. После включения система коррекции будет сканировать и выявлять неточности в выводах ИИ, сравнивая их с исходными материалами клиента.
После этого она выделит ошибку, предоставит информацию о том, почему она неверна, и перепишет соответствующий контент — все это «до того, как пользователь увидит» неточность. Хотя это кажется полезным способом решения проблемы с ложными утверждениями, которые часто возникают у ИИ-моделей, он может оказаться не полностью надежным.
Платформа Vertex AI, облачное решение Google для компаний, разрабатывающих ИИ-системы, имеет функцию «заземления» моделей ИИ, которая проверяет их выводы с помощью Google Search, данных компании и (в ближайшее время) сторонних наборов данных.
В заявлении для TechCrunch представитель Microsoft сообщил, что система «коррекции» использует как малые, так и большие языковые модели для согласования выводов с документами основы, что означает, что она тоже может допускать ошибки. «Важно отметить, что обнаружение основанности не решает проблему точности», — добавили в Microsoft. Она помогает соотнести генеративные выводы ИИ с документами основы.
Источник: TheVerge