М немногие места в мире выиграют от процветания индустрии искусственного интеллекта (ИИ) больше, чем Калифорния. В то же время, если доверие общественности к этой индустрии внезапно рухнет, последствия для штата будут весьма серьезными.
В мае Сенат Калифорнии проголосовал за принятие законопроекта SB 1047, посвященного безопасности ИИ. Он содержит четкие, предсказуемые и здравые стандарты безопасности, направленные на безопасное развитие крупномасштабных ИИ-систем. Сейчас законопроект поступил на рассмотрение Ассамблеи штата, и если его подпишет губернатор Гэвин Ньюсом, это станет важным шагом для защиты граждан Калифорнии и растущей индустрии ИИ от злонамеренного использования технологий.
В понедельник Илон Маск удивил многих, объявив о своей поддержке законопроекта в своем посте на X. Он написал, что считает принятие SB 1047 правильным шагом, отметив, что уже более 20 лет выступает за регулирование ИИ, как и любой другой потенциально опасной технологии или продукта.
Это заявление Маска прозвучало спустя несколько дней после его беседы с автором статьи о законопроекте SB 1047. В отличие от других корпоративных лидеров, Маск оперативно оценил текст законопроекта, убедившись в его справедливости и отсутствии злоупотреблений, и вскоре объявил свою поддержку.
Зимой прошлого года сенатор Скотт Винер, инициатор законопроекта, обратился к Фонду действий Центра безопасности ИИ за техническими рекомендациями и содействием. Законопроект предусматривает проверку ИИ-моделей на опасности, внедрение защитных мер, обеспечение возможностей для остановки систем, защиту информаторов и управление рисками. Эти меры направлены на предотвращение кибератак, био-манипуляций и других злонамеренных действий.
Антропик недавно предупредил, что риски ИИ могут проявиться в течение 1-3 лет, опровергая критику тех, кто считает эти опасности воображаемыми. Разработчики ИИ заявили о приверженности решению этих проблем, что соответствует недавним указам президента Джо Байдена и позициям, озвученным на Саммите ИИ в Сеуле.
Законопроект SB 1047 предусматривает минимальное вмешательство, предоставляя генеральному прокурору Калифорнии право на вмешательство только в крайних случаях. Нет необходимости в лицензировании новых моделей, честные ошибки не наказываются, и нет запретов на открытие исходных кодов.
Многие исследователи безопасности ИИ верят в огромный потенциал ИИ для общества и обеспокоены его сохранением. Эти же соображения движут политиками Калифорнии, поддерживающими SB 1047. История показывает, что крупные катастрофы, такие как авария на Три-Майл-Айленде 28 марта 1979 года, могут отбросить развивающуюся индустрию на десятилетия назад.
Реакцией на частичную ядерную аварию были усиленные стандарты и протоколы безопасности, что привело к росту операционных затрат и сложности эксплуатации ядерных станций. В результате это сделало ядерную энергию менее привлекательной, замедлив её развитие на следующие 30 лет.
Авария на Три-Майл-Айленде привела к большей зависимости от угля, нефти и природного газа, что стало упущенной возможностью для продвижения к более устойчивой и эффективной глобальной энергетической инфраструктуре. Возможно, более строгие регуляции могли бы предотвратить инцидент, но очевидно, что одно событие может серьезно повлиять на восприятие общественностью целой индустрии.
Некоторые полагают, что любое правительственное регулирование является вредом для бизнеса, инноваций и конкурентоспособности государства. Авария на Три-Майл-Айленде показывает, что это мнение короткозорое, так как меры для снижения рисков катастроф часто идут на пользу развивающимся индустриям в долгосрочной перспективе. Это не единственный урок для индустрии ИИ.
Появление социальных сетей вызвало энтузиазм. В 2010 году исследование Pew Research показало, что 67% американских взрослых, использующих соцсети, считали их влияние в основном положительным. Это мнение изменилось из-за проблем с конфиденциальностью, дезинформацией и психологическим здоровьем. Скандалы, такие как с Cambridge Analytica, подорвали доверие, а поляризующий контент усилил разделение в обществе.
Исследования показывают, что 70% молодежи сталкиваются с киберзапугиванием, а 91% 16-24-летних считают, что соцсети вредят их психологическому благополучию. Пользователи и политики всё активнее требуют более строгих регуляций и ответственности от компаний соцсетей.
Главные миссии, такие как устранение географических барьеров и создание глобального сообщества через соцсети, не были ложными, но текущие проблемы показывают необходимость правильной регуляции. Потенциал соцсетей не был реализации на полную, как и потенциал ядерной энергии. Однако падение потенциала ИИ будет более трагичным. Законопроект SB 1047 поможет этого избежать, сохраняя инновации и конкуренцию.
История регуляций показывает нашу способность к предвидению и адаптации. Введение стандартов безопасности при появлении железных дорог, электричества и автомобилей, а также современные авиационные стандарты демонстрируют нашу способность создавать безопасные условия для технологий.
Историю стоит изучать, но важно помнить, что решение, воспользоваться этими уроками или нет, остается за нами.
Источник: Time
