В процессе оценки рисков развития искусственного интеллекта (ИИ), мы упускаем из виду один критический аспект. Общественные критики, как правило, указывают на три основные угрозы — безработица, предвзятость и нарушения конфиденциальности. Мы слышим о том, что ИИ может привести к массовой утрате рабочих мест: от дерматологов и водителей грузовиков до маркетологов. Также говорят о том, как ИИ использует исторические данные для прогнозов, которые усиливают неравенство, например, алгоритмы предсказания рецидива, которые чаще ошибаются в отношении чернокожих мужчин. Кроме того, упоминается, что приложения помогают властям следить за людьми, как, например, Amazon отслеживает, кто из водителей отвлёкся от дороги.
Однако не менее важно задаться вопросом: что происходит с человеческими отношениями, когда одна из сторон становится механизированной?
Общественное мнение о рисках ИИ заслоняет его роль в нарастающем кризисе деперсонализации. Если мы беспокоимся о росте одиночества и социального разобщения, нам стоит уделить больше внимания тому, как технологии влияют на человеческие связи. Эти связи радикально меняются под воздействием технологий.
Как исследователь влияния технологий на отношения, я разговаривал с более чем 100 людьми, занятыми в гуманитарных профессиях, таких как консультирование и обучение, а также с инженерами, автоматизирующими эти процессы, и администратами, управляющими ими. Я обнаружил, что внедрение технологий в отношения делает эту работу невидимой, заставляет работников доказывать, что они не роботы, и побуждает компании перегружать их, ужимая их труд в ещё меньшие временные и пространственные рамки. Самое важное, каким бы хорошим ни был ИИ, настоящих человеческих отношений нет, когда одна из сторон — машина.
В основе этой работы лежит умение видеть и понимать другого человека. «Каждому ребёнку нужно быть замеченным, по-настоящему замеченным», — сказал мне Берт, учитель и директор частной школы. «Ребёнок действительно не поймёт материал на глубоком уровне, пока не почувствует, что его видит и понимает учитель».
Многим людям важно видеть других, чтобы делать свой вклад: клиенты излечиваясь, студенты обучаясь, сотрудники оставаясь мотивированными, клиенты оставаясь довольными. Я назвал эту работу «связующим трудом», она не только создаёт ценность, но и имеет глубокое значение для многих. Памела, афроамериканский учитель из Бей-Эрия, вспоминала, как её учитель в средней школе выяснил, что её избирательный мутизм был реакцией на постоянные переезды её семьи. «Я подумала: ‘Я хочу быть таким же учителем для своих детей в этом городе. Я хочу быть тем учителем, который мне был нужен, и которым я, наконец-то, стала’.»
Однако эта работа оказывается под угрозой автоматизации и ИИ. Даже терапия — одна из профессий, наиболее зависимых от эмоциональной связи между людьми — подвергается давлению автоматизированных ботов, таких как Woebot или MARCo.
Технологи утверждают, что социально-эмоциональный ИИ решает проблемы человеческой производительности, доступности и наличия, что напоминает старую шутку про курорт в Кетскиллс, где гости жалуются на ужасную еду, но такие маленькие порции! Конечно, человеческий связующий труд полон рисков оценок и недопонимания — как было у Памелы, пока она не встретила учителя, который её выслушал. Условия труда влияют на способность видеть других.
«Я не приглашаю людей раскрываться, потому что у меня нет времени», — призналась Дженна, педиатр. «Это большое упущение для пациентов. Я на пороге, печатаю, говорю ‘Давайте дадим вам лекарства и отпустим, потому что у меня ещё много пациентов сегодня утром.'»
Вероника иллюстрирует некоторые издержки социально-эмоционального ИИ. Она была нанята как «онлайн-тренер» стартапа приложения для терапии, чтобы помогать пользователям взаимодействовать с приложением. Ей запрещено было давать советы, но клиенты были довольны, думая, что тренеры — их личные консультанты. «Мне нравилось чувствовать, что я влияю на их жизнь», — сказала она.
Однако, несмотря на личное значение и эмоциональную нагрузку работы, сама Вероника минимизировала своё воздействие. Она говорила: «Мне нравилось чувствовать, что у меня есть влияние, но я ничего не делала. Я просто подбадривала их и помогала им преодолевать трудности.» Как ИИ скрывает невидимые армии людей, маркирующих данные или транскрибирующих аудио, так он скрывает связующий труд человеческих работников, на которых опирается.
Более того, Вероника приняла на себя новую задачу: доказывать, что она человек. «Многие спрашивали: ‘Ты робот?'», — рассказала она мне. Я спросил, как она боролась с этим. «Я старалась немного поболтать, задавать вопросы, делиться чем-то личным, если это было уместно.» Связующий труд — квинтэссенция человеческой деятельности — оказался недостаточным для передачи её человечности, и ей приходилось это доказывать.
Несмотря на то, что работа была для неё значимой и эмоционально насыщенной, она ушла из компании из-за увеличения клиентского списка до невыносимого уровня. «К концу они пытались моделировать всё с помощью алгоритмов, но невозможно учесть эмоциональную нагрузку работы в такие моменты.»Компания, уже убеждённая, что тренеры лишь помощники приложения, бездумно увеличивала количество клиентов.
В условиях кризиса деперсонализации «быть увиденным» становится редкостью. Ощущение невидимости широко распространено, вызывает ярость рабочего класса в США и за рубежом, и связано с социальными кризисами, такими как смерть от отчаяния, самоубийства и передозировки, которые радикально снижают продолжительность жизни.
Многие остаются близки к семье и друзьям, но одного вида отношений изменились: «слабые связи» гражданской и коммерческой жизни. Исследования показывают, что эти связи помогают укреплять наши сообщества и способствовать нашему здоровью. Исследование 2013 года в Великобритании «Переоценена ли эффективность?» показало, что люди, разговаривающие с бариста, получают больше удовлетворения, чем те, кто просто пролетает мимо.
Решение, которое предлагает Большая Технология к кризису деперсонализации, называют персонализацией, как в персонализированном обучении или персонализированном здравоохранении. Эти новшества пытаются противостоять отчуждающей стандартизации, предлагая, чтобы нас «видели» машины. Но что, если важно — для нас и для нашего социального единства — чтобы нас видели другие люди?
Таким образом, условия работы, как у Берта, Дженны и Вероники, играют большую роль. Политика, ограничивающая количество клиентов или учеников и рабочие часы, поможет снизить перегрузку для многих групп, от медицинских резидентов до государственных учителей и работников домашнего хозяйства, как в недавнем предложении Национального закона о правах домашних работников в Конгрессе.
Также следует рассмотреть сдержанность в использовании аналитики данных, поскольку требования к вводу данных часто ложатся на людей, занятых в связующем труде. Важно учитывать, что новые технологии угрожают этому труду. По крайней мере, социально-эмоциональный ИИ должен маркироваться как таковой, чтобы мы знали, когда общаемся с роботом, и могли выбирать человеческие связи.
В конечном счёте, нам всем необходимо взять на себя ответственность за защиту человеческих связей вокруг нас, потому что это неоценимые издержки развития ИИ. Человеческое внимание и забота — это источник смысла и достоинства, семена принадлежности и основа наших сообществ; однако мы зачастую забываем об этом, служа индустрии, которая ведёт нас к деперсонализации. Под угрозой находятся не только индивидуумы и их рабочие места, но и наше социальное единство — связи, которые строятся между людьми.
Источник: Time
