7 августа группа известных профессоров совместно обратилась к важным законодательным лицам с призывом поддержать законопроект Калифорнии об искусственном интеллекте, который находится на финальной стадии обсуждения. В письме, представленном TIME, Йошуа Бенджио, Джеффри Хинтон, Лоуренс Лессиг и Стюарт Расселл выражают озабоченность, что следующее поколение систем ИИ несет «серьезные риски», если их разработка будет проводиться без должного контроля. Они называют этот законопроект «минимально необходимым для эффективного регулирования данной технологии».
Законопроект, под названием «Акт о безопасных и защищенных инновациях для передовых моделей ИИ», был предложен сенатором Скоттом Винером в феврале текущего года. Он требует от компаний, занимающихся разработкой моделей ИИ, проводить серьезные тестирования безопасности и внедрять комплексные меры для снижения рисков.
«На ИИ-системы с потенциально катастрофическими рисками наложено меньше ограничений, чем на закусочные или парикмахерские,» пишут четыре эксперта.
Письмо было адресовано руководителям законодательных органов, которые должны одобрить этот законопроект, чтобы он стал законом: Майку МакГуайру, президенту временного комитета Сената Калифорнии, где законопроект был принят в мае; Роберту Ривасу, спикеру Ассамблеи штата, где в этом месяце будет проходить голосование; и губернатору штата Гэвину Ньюсому, который должен или подписать, или отклонить предложенный законопроект до конца сентября, если он пройдет Ассамблею.
С учетом того, что Конгресс США находится в состоянии застоя, а республиканцы обещают отменить указ Байдена по ИИ, если победят на выборах в ноябре, Калифорния—пятая по величине экономика мира и дом для многих ведущих разработчиков ИИ—играет «незаменимую роль» в регулировании ИИ. Если законопроект будет принят, он будет применяться ко всем компаниям, работающим в штате.
Хотя опросы показывают поддержку законопроекта большинством жителей Калифорнии, он столкнулся с жесткой оппозицией со стороны отраслевых групп и инвесторов в технологии, которые утверждают, что это задушит инновации, нанесет вред сообществу с открытым исходным кодом и позволит Китаю занять лидирующую позицию в разработке ИИ. Венчурная фирма Andreessen Horowitz особенно критична к законопроекту и открыла сайт, призывающий граждан писать возражения в законодательные органы. Другие, такие как инкубатор стартапов YCombinator, главный ИИ-ученый Meta Янн ЛеКун и профессор Стэнфорда Фей-Фей Ли (чей новый стартап на миллиард долларов получил финансирование от Andreessen Horowitz), также открыто высказываются против.
Основная критика касается пунктов законопроекта, требующих от разработчиков обеспечивать разумные гарантии, что модель ИИ не будет представлять неоправданный риск, например, содействовать созданию оружия массового уничтожения или нанесению серьезного ущерба критически важной инфраструктуре. Законопроект будет применяться только к системам, которые стоят более 100 миллионов долларов для обучения и используют количество вычислительных ресурсов выше определенного порога. Эти двойные требования означают, что законопроект, вероятнее всего, затронет только самых крупных разработчиков ИИ. «Ни одна из существующих систем не подпадает под это определение,» заявил Леннарт Хайм, исследователь из Центра политики и безопасности технологий корпорации RAND, в июне.
«Как эксперты, которые хорошо понимают данные системы, мы можем уверенно заявить, что риски вероятны и достаточно значительны, чтобы оправдать обязательное тестирование на безопасность и внедрение здравомыслящих предосторожностей,» пишут авторы письма. Йошуа Бенджио и Джеффри Хинтон, которые ранее поддержали этот законопроект, являются лауреатами премии Тьюринга и часто назывались «крестными отцами ИИ.» Стюарт Расселл написал учебник «Искусственный интеллект: современный подход,» который широко считается стандартным учебником по ИИ. Лоуренс Лессиг, профессор права в Гарварде, считается основоположником интернет-законодательства и пионером движения за свободное распространение культуры, основав Creative Commons и написав влиятельные книги о праве и технологиях. В дополнение к вышеупомянутым рискам, они также выражают обеспокоенность по поводу автономных агентов ИИ, которые могут действовать без контроля со стороны человека.
«Я обеспокоен, что технологические компании не способны решить эти серьезные риски самостоятельно, находясь в гонке за рыночную долю и максимизацию прибыли. Вот почему нам нужны правила для тех, кто находится на передовой этой гонки,» сказал Бенджио.
Письмо оспаривает утверждение, что законопроект задушит инновации, заявляя, что в его нынешнем виде законопроект касается только крупнейших моделей ИИ; что крупные разработчики ИИ уже дали добровольные обязательства принять многие меры безопасности, предусмотренные законопроектом; и что аналогичные ограничения в Европе и Китае фактически более жесткие, чем SB 1047. Также отмечается, что законопроект содержит «надежные меры защиты прав информаторов» для сотрудников ИИ-лабораторий, которые сообщают о проблемах безопасности, что все чаще считается необходимым в свете сообщений о безответственном поведении некоторых лабораторий.
В интервью с Vox сенатор Винер отметил, что законопроект уже был изменен в ответ на критику со стороны сообщества с открытым исходным кодом. Текущая версия освобождает первоначальных разработчиков от требований прекращения использования модели, если она больше не находится под их контролем, и ограничивает их ответственность, когда другие вносят значительные изменения в модели, фактически рассматривая существенно измененные версии как новые модели. Несмотря на это, некоторые критики считают, что законопроект потребует от моделей с открытым исходным кодом наличия «аварийного выключателя.»
«В сравнении с масштабами рисков, с которыми мы сталкиваемся, это удивительно мягкий законодательный акт,» говорится в письме, отмечая, что законопроект не предусматривает лицензионного режима или требования компании получать разрешение от государственного органа перед обучением модели, и что он полагается на самооценку рисков. Авторы пишут: «Было бы исторической ошибкой отказаться от базовых мер этого законопроекта.»
Лессиг добавляет: «Губернатору Ньюсому представится возможность закрепить за Калифорнией статус национального лидера в регулировании ИИ. Законодательство в Калифорнии удовлетворит насущную потребность. С критической массой ведущих ИИ-фирм, базирующихся в Калифорнии, нет лучшего места для раннего регулирования этой развивающейся технологии.»
Источник: Time
