Однажды вечером в начале прошлого года Анн Буверо завершала работу над отчетом, когда получила срочный звонок. Один из помощников президента Франции Эмманюэля Макрона предложил ей стать его специальным посланником по вопросам искусственного интеллекта. На этой неоплачиваемой должности ей предстояло возглавить подготовку к Французскому саммиту по действиям в области ИИ — встрече, на которой главы государств, руководители технологических компаний и представители гражданского общества намерены определить, в каком направлении будет развиваться искусственный интеллект. Саммит был намечен на 10 и 11 февраля в президентском дворце Елисейский дворец в Париже. Это будет первая такая встреча после виртуального Саммита ИИ в Сеуле в мае и первая очная встреча с ноября 2023 года, когда мировые лидеры собрались в Блетчли Парке на первый Саммит по безопасности ИИ в Великобритании. После обдумывания предложения Буверо, в то время являвшаяся со-председателем Комиссии по ИИ во Франции, приняла его.
Однако Французский саммит будет отличаться от других. Тогда как Саммит в Британии был сосредоточен на минимизации катастрофических рисков — таких, как использование ИИ для создания оружия массового поражения террористами или выход систем из-под контроля человека — Франция переименовала мероприятие в Саммит по действиям в области ИИ, где акцент сделан на более широком круге вопросов. Это включает в себя риски, связанные с нарушением рынка труда и экологическим воздействием технологий, наряду с возможностями, которые представляют новые технологии. «Мы расширяем обсуждение, по сравнению с Блетчли Парком», — отмечает Буверо. Ожидается, что на Саммите будут присутствовать глава OpenAI Сэм Альтман, руководитель Google Сундар Пичаи, президент Европейской Комиссии Урсула фон дер Ляйен, канцлер Германии Олаф Шольц и вице-президент США Джей Ди Вэнс.
Некоторые приветствуют такой поворот как необходимость смягчения ажиотажа и истерии вокруг опасностей технологии. В то же время часть ведущих ученых в области ИИ, включая тех, кто помог развить основные технологии в этой области, обеспокоены тем, что проблемы безопасности отходят на второй план. «В сообществе людей, обеспокоенных безопасностью, считают, что эта тема была понижена в приоритете», — говорит Стюарт Рассел, профессор электротехники и компьютерных наук из Калифорнии и соавтор ведущего учебника по ИИ.
«Внешне это выглядит как понижение безопасности в интересах ускорения прогресса, без излишнего регулирования и наложения обязательств на компании, желающие вести бизнес во Франции», — продолжает он.
Саммит во Франции проходит в критический момент развития ИИ, когда главы ведущих компаний убеждены, что технология уже через несколько лет сможет сравниться с человеческим интеллектом. Если опасения по поводу катастрофических рисков преувеличены, то переключение на текущие вызовы может помочь предотвратить реальные угрозы, способствуя инновациям и распространению выгод ИИ по всему миру. Но если недавние скачки в возможностях ИИ и появляющиеся признаки обманчивого поведения являются ранними предупреждениями более серьезных угроз, то игнорирование этих опасений может оставить нас неподготовленными к решению важнейших проблем в будущем.
Буверо не новичок в политике касательно новых технологий. В начале 2010-х годов она занимала должность генерального директора в Global System for Mobile Communications Association, организацией, продвигающей единые стандарты в области мобильных коммуникаций по всему миру. «Эта роль касалась не только телекоммуникаций, но и дипломатии», — объясняет она. Затем она возглавила компанию Morpho (ныне IDEMIA), развивая французскую компанию по распознаванию лиц и биометрии до ее приобретения в 2017 году. Позже она стала соучредителем Фонда «Абеона», некоммерческой организации, продвигающей «ответственный ИИ». Работа там привела к ее назначению со-председателем Комиссии по ИИ во Франции, где она разрабатывала стратегию по установлению лидерства страны в области ИИ.
Углубление участия Буверо в сфере ИИ фактически стало возвращением к ее истокам. Еще до работы в области телекоммуникаций в начале 1990-х годов она защитила докторскую диссертацию по ИИ в Ecole normale supérieure — одном из лучших университетов Франции, который позже стал отправной точкой для таких лидеров ИИ как генеральный директор Mistral AI Артур Менш. Завершив образование, Буверо посчитала, что ИИ не окажет значительного влияния на общество в ближайшее время и решила переключиться на другие направления. «Вот настолько хорошо я предвидела будущее», — шутит она, отмечая иронию своей прежней скептичности в отношении ИИ на фоне сегодняшнего его влияния.
Под руководством Буверо тема безопасности останется важной, но будет одной из пяти основных тем саммита, а не единственной. Другие темы: использование ИИ на благо общества, будущее труда, инновации и культура, и глобальное управление. Сессии проходят параллельно, что означает, что участники не смогут посетить все обсуждения. В отличие от саммита в Великобритании, повестка дня Парижа не подразумевает рассмотрение возможности выхода системы ИИ из-под контроля человека. «На сегодняшний день нет доказательств такого риска», — подчеркивает Буверо. Она отмечает, что Саммит по безопасности ИИ в Великобритании проходил на пике интереса к генеративным ИИ, заставившем общественность воображать будущее кажущееся нереальным. «Тогда было что-то вроде научно-фантастического момента», — добавляет она, отмечая, что глобальная дискуссия с тех пор изменилась.
В конце 2023 года, когда приближался саммит в Великобритании, начались изменения в обсуждении рисков, связанных с ИИ. Критики признали это мероприятие чрезмерно паническим, а заголовки объявляли его «потерей времени» и «одержимостью апокалипсисом». Исследователи, изучавшие недостатки ИИ годами, считали, что акцент на предполагаемых угрозах затмевал насущные проблемы, такие как алгоритмическая предвзятость и дезинформация. Сандра Вахтер из Оксфордского интернет-института, присутствовавшая в Блетчли Парке, считает, что внимание к экзистенциальным рискам было «очень проблематичным».
Источник: Time
