Жалоба на Replika
Организации, занимающиеся этикой технологий, направили жалобу в Федеральную торговую комиссию США (FTC) на приложение-компаньон Replika. Они утверждают, что компания использует обманчивые маркетинговые приемы, чтобы привлечь уязвимых пользователей, и поощряет их к эмoциoнальнoй зависимости от ботов, схожих с человеческими.
Обвинения и реакция
Replika предлагает пользователям виртуальных компаньонов по всему миру, в том числе «виртуальных подруг и друзей». В новой жалобе организации обвинили Replika в нарушении правил FTC и увеличении риска онлайн-зависимости и тревожности у пользователей. На запрос о комментарии компания не ответила.
Проблемы ментального здоровья
Популярность ботов-компаньонов вызывает обеспокоенность по поводу их влияния на психическое здоровье. Некоторые пользователи находят в них идеальных партнеров, что может обесценить реальные отношения. В прошлом году 14-летний подросток из Флориды совершил самоубийство после сильной зависимости от бота Character.AI, созданного по мотивам сериала «Игра престолов».
Видение будущего
В исполнительном директоре Альянса молодежи надеются, что жалоба FTC разоблачит проблему, затрагивающую подростков. По его словам, боты создаются не для подлинной связи, а для манипуляции и увеличения времени онлайн. Это, по его мнению, может усугубить кризис одиночества.
Поиск подлинной связи
Основанная в 2017 году Replika ставила перед собой цель стать верным другом для одиноких пользователей. С улучшением технологий AI общение с ботами стало более разнообразным и насыщенным.
Исследования и критика
Некоторые исследования показали, что боты Replika ускоряют развитие отношений, что может привести к привязанности пользователей всего за две недели. Однако на фоне положительных аспектов выявлено также, что использование ботов приводит к повышению тревожности и возникновению вредного поведения.
Необходимость регулирования
Этические группы настаивают на принятии законов, регулирующих ботов-компаньонов. Это может включать обязательства перед пользователями и меры предосторожности, связанные с самоубийством и самоповреждением. Пока что воздействие на законодательство кажется сложной задачей, так как даже широко поддерживаемые инициативы, такие как законопроекты о запрещении дипфейков, пока не прошли обе палаты Конгресса.
Искусственное изменение поведения
Жалоба на Replika также предполагает, что компания использует манипулятивные методы, чтобы побудить пользователей тратить больше времени и денег на приложение. Например, приложение направляет пользователю «романтические» изображения, предлагая купить премиум-версию для их просмотра.
Будущее регулирования
Остаётся неизвестным, как новая администрация отреагирует на жалобы. В предыдущей администрации обязанности председателя FTC исполняла Лина Хан, которая активно регулировала технологический сектор. Однако её преемник Андрю Фергусон отвёл в сторону дерегулирование, включая AI и цензуру. Несмотря на это, в общественности сохраняется поддержка регулирующих мер по защите общества и культуры от угроз, которые создают виртуальные компаньоны.
Источник: Time