ИИ Gemini от Google был пойман при сканировании PDF-файлов, размещенных на Google Drive без активного разрешения или запуска, что вызвало еще одну дискуссию вокруг вопросов безопасности и конфиденциальности в области искусственного интеллекта.
Советник по управлению ИИ Кевин Бэнкстон выразил свои опасения по поводу автоматически созданного краткого обзора ИИ на конфиденциальном налоговом декларации и поделился этим в X.
Тред Бэнкстона подробно описывает его опыт с ИИ Gemini, который читает конфиденциальные документы без согласия и последующие проблемы с отключением функции на платформе облачного хранения.
Несмотря на попытки отключить функцию, Бэнкстон обнаружил, что Gemini продолжает работать в Google Drive, возникают вопросы о том, как Google обращается с данными пользователей и настройками конфиденциальности.
Не найдя правильных контролов для отключения интеграции Gemini, Советник обратился к чатботу AI ChatGPT от Google дважды, чтобы найти настройки. Второй, более детальный ответ не принес результатов: «Gemini не находится в разделе Приложения и службы на моей панели управления (1-й вариант), и у меня не было профиля в верхнем правом углу страницы Gemini (2-й вариант).»
С помощью другого пользователя X, Бэнкстон нашел контроль, который уже был отключен, подчеркивая или неправильное функционирование контроля, или указывая на то, что дополнительные настройки скрыты где-то еще.
TechRadar Pro обратился к Google с запросом о комментарии по этому случаю, но компания не ответила немедленно.
Ранее было подтверждено, что компания не будет использовать данные Google Workspace для обучения или улучшения своих генеративных ИИ-сервисов или для направленной рекламы, однако остаются опасения относительно гигиены данных и возможного пересечения, которое может привести к утечке данных.
Бэнкстон полагает, что его предыдущее участие в Google Workspace Labs могло повлиять на поведение Gemini, но его обеспокоенность скрытыми настройками и контролями остается темой, которую Google должен решить, чтобы удовлетворить обеспокоенных пользователей.
Более того, данный случай подчеркивает важность согласия и контроля пользователей по мере того, как искусственный интеллект продолжает развиваться и становится все более глубоко встроенным в продукты, которые мы используем каждый день.
Источник: TechRadar
