Губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, который мог бы стать одной из самых всеобъемлющих политик в США по обеспечению безопасности искусственного интеллекта.
Описание законопроекта
Законопроект предусматривал привлечение разработчиков ИИ к ответственности за любой серьезный вред, причиненный их технологиями. Он вызвал резкую критику со стороны некоторых видных демократов и крупных технологических компаний, включая создателя ChatGPT OpenAI и венчурную фирму Andreessen Horowitz, которые утверждали, что это может замедлить инновации в штате.
Позиция губернатора
Ньюсом охарактеризовал законопроект как «хорошо задуманный», но отметил, что он вводил бы «строгие стандарты даже для самых базовых функций». По мнению губернатора, регулирование должно основываться на «эмпирических данных и науке». Он указал на свои собственные приказы и подписанные законопроекты, регулирующие ИИ в контексте известных рисков, таких как дипфейки.
Дебаты и вызовы
Дебаты вокруг законопроекта SB 1047 подчеркивают сложность, с которой сталкиваются законодатели по всему миру, пытаясь контролировать риски ИИ, одновременно поддерживая развитие этой технологии. В США до сих пор не принято ни одного всеобъемлющего законодательства в данной области с момента появления ChatGPT два года назад, что спровоцировало глобальный бум генеративного ИИ.
Критика вето
Сенатор от Демократической партии Калифорнии Скотт Винер, который выступил инициатором законопроекта, назвал вето Ньюсома «шагом назад для всех, кто верит в надзор за крупными корпорациями». В заявлении Винера говорится: «В результате мы все стали менее защищены».
Основные положения законопроекта
Законопроект SB 1047 предписывал бы компаниям, разрабатывающим мощные модели ИИ, принимать меры для предотвращения «серьезного вреда», такого как массовые потери или ущерб имуществу на сумму более 500 миллионов долларов. Компании должны были бы обеспечить наличие «кнопки отключения» для своих технологий и подвергать свои модели независимым тестированиям, чтобы минимизировать серьезные риски.
Закон также предусматривал защиту информаторов в компаниях, работающих с ИИ, позволяя им сообщать о проблемах безопасности. Компании, не соблюдающие закон, могли бы быть привлечены к судебной ответственности генеральным прокурором Калифорнии.
Реакция технологического сектора
Поддерживающие законопрограмму стороны утверждали, что она создаст разумные юридические стандарты. Однако венчурные инвесторы, руководители стартапов и компании, такие как OpenAI, предупреждали, что это замедлит инновации и вынудит ИИ-компании уехжать из штата.
Письмо от OpenAI
Джейсон Квон, главный стратегический директор OpenAI, написал письмо с выражением несогласия с законопроектом, утверждая, что «SB 1047 угрожает росту, замедляет темпы инноваций и может привести к оттоку лучших инженеров и предпринимателей из штата».
Поддержка и оппозиция
Против закона выступили такие законодатели, как бывший спикер Палаты представителей Нэнси Пелоси, представитель Ро Ханна и мэр Сан-Франциско Лондон Брид. Они разделяют опасения технологической индустрии о том, что закон может помешать лидерству Калифорнии в инновациях.
Заключение
Накануне принятия законопроекта сторонниками безопасности в техносфере, такими как Илон Маск и компания Anthropic, он получил некоторую поддержку. Однако, во время своего вето, Ньюсом заявил, что будет продолжать работать с законодательным органом штата и консультироваться с внешними экспертами для разработки «работающих ограничений» на технологии ИИ. В тот же день губернатор подписал другой законопроект, SB 896, регулирующий использование ИИ государственными органами.
Источник: Time
