Приложение Calmara, запущенное с использованием искусственного интеллекта HeHealth, заявляло: «Наша инновационная технология искусственного интеллекта предлагает быструю, конфиденциальную и научно подтвержденную диагностику сексуального здоровья, давая вам уверенность перед вступлением в интимные отношения». Однако теперь оно закрыто после запроса Федеральной Торговой Комиссии (FTC).
Приложение побудило пользователей отправлять фотографии половых органов для проверки на наличие половых инфекций, обещая «четкие, обоснованные наукой ответы на статус сексуального здоровья вашего партнера», согласно письму FTC от 11 июля. В письме отражены некоторые заботы агентства относительно информации, на которую HeHealth полагался для своих утверждений, включая то, что он мог обнаруживать более десяти половых инфекций с точностью до 94 процентов.
FTC отмечает, что HeHealth выплатил нескольким авторам исследований, что основное исследование, на которое ссылается компания, оценивало только четыре вида половых инфекций, а данные, используемые для обучения модели искусственного интеллекта, включали изображения от пользователей, которые никогда не проходили диагностическое тестирование для подтверждения результатов.
Учитывая, что большинство половых инфекций основаны на АКТЫВАХ, согласно Всемирной Организации Здравоохранения, медицинские специалисты поставили под сомнение надежность тактики приложения. Расследование Los Angeles Times показало, что Calmara даже не мог различить безжизненные объекты и не смог идентифицировать «учебные изображения» половых инфекций. Кроме того, видеоролики на YouTube показывают, что Calmara осуществлял маркетинг себя женщинам для проверки своих свиданий, вызывая очевидные вопросы о согласии, хотя пресс-релиз от марта настаивает на том, что для использования приложения требовалось «явное согласие».
Приложение HeHealth, использующее тот же искусственный интеллект, скорее рекламировало себя как первоначальный шаг для людей перед связью с медицинским работником.
Компания согласилась закрыть оба приложения к 15 июля, и сайт Calmara и ссылки на приложение HeHealth кажется недоступными. Компания также согласилась удалить все личные данные от клиентов, полученные через приложения или исполнителей платежей, и запросить у этих исполнителей удалить любые данные о своих клиентах, сообщила FTC.
Однако статьи, описывающие приложение, и видеоролики от Calmara, которые остаются на YouTube на данный момент, показывают, что оно давало пользователям сигналы о том, являются ли половые органы «чистыми», или пользователю стоит воздержаться от половой активности с партнером из-за признаков возможной ПТИ. В один момент, по сообщениям, компания продвигала приложение как «Ваш близкий друг для незащищенного секса».
«Трудолюбивый персонал FTC настолько привержен защите потребителей, что они даже готовы лазить через страницы фотографий половых органов, чтобы защитить американцев от мошенников с использованием искусственного интеллекта», сообщил источник, хорошо осведомленный о деле, получивший анонимность, потому что не был уполномочен делать комментарии по мере проведения расследования, информационному порталу The Verge.
FTC выдала гражданский запрос на предоставление информации о рекламных утверждениях Calmara и практике конфиденциальности и предупредила HeHealth о том, что незаконно делать заявления о пользе для здоровья без «надежных научных доказательств».
HeHealth не немедленно ответил на запрос комментария от издания The Verge.
FTC заявила, что не будет преследовать дополнительное расследование после того, как HeHealth согласилась с этими условиями, и из-за «небольшого числа пользователей Calmara и продаж в США». Однако она предупредила: «Комиссия оставляет за собой право принимать такие дополнительные меры, которые могут потребоваться в общественных интересах».
Источник: The Verge
