Ассамблея штата Калифорния приняла Закон о безопасных и надёжных инновациях для передовых моделей искусственного интеллекта (SB 1047), сообщает Reuters. Этот закон является одной из первых значимых регуляций в области искусственного интеллекта в США.
Законопроект, ставший предметом жарких дискуссий в Силиконовой долине и за её пределами, обяжет компании, работающие в Калифорнии в сфере искусственного интеллекта, предпринять ряд мер предосторожности перед обучением сложной базовой модели. Эти меры включают возможность быстрой и полной остановки модели, защиту её от небезопасных изменений после обучения и поддержание процесса тестирования для оценки риска возникновения критического вреда от модели или её производных.
Сенатор Скотт Винер, главный автор законопроекта, заявил, что SB 1047 — это вполне разумный законопроект, который требует от крупных лабораторий ИИ делать то, что они уже обязались делать: проверять свои крупные модели на наличие катастрофических рисков. «Мы усердно работали весь год с представителями открытого исходного кода, компанией Anthropic и другими, чтобы доработать и улучшить законопроект. SB 1047 хорошо откалиброван в соответствии с прогнозируемыми рисками ИИ и заслуживает быть принятым», — отметил Винер.
Критики SB 1047, включая компанию OpenAI, компанию Anthropic, политиков Зои Лофгрен и Нэнси Пелоси, а также Торговую палату Калифорнии, утверждают, что законопроект слишком сосредоточен на катастрофических рисках и может чрезмерно навредить небольшим разработчикам ИИ с открытым исходным кодом. В ответ на критику в законопроект были внесены поправки, заменившие возможные уголовные наказания на гражданские, сузившие полномочия генерального прокурора Калифорнии по его исполнению и изменившие требования для участия в создаваемом законопроектом «Совете по передовым моделям».
После голосования в Сенате штата Калифорния по поправкам — ожидается, что законопроект будет принят — законопроект о безопасности ИИ будет направлен губернатору Гэвину Ньюсому, который должен будет принять решение по нему до конца сентября, согласно The New York Times.
Компания Anthropic отказалась от комментариев, сославшись на письмо, отправленное генеральным директором компании Дарио Амодеи губернатору Ньюсому на прошлой неделе. Компания OpenAI также отказалась от комментариев и указала на письмо главного стратегического директора OpenAI Джейсона Квона, направленное сенатору Винеру прошлой неделе.
Обновление, 28 августа: компания OpenAI отказалась от комментариев.
Источник: TheVerge
