Губернатор Гэвин Ньюсом в воскресенье наложил вето на SB 1047, законопроект о безопасности искусственного интеллекта, который установил бы требования к разработчикам передовых моделей ИИ по созданию протоколов, направленных на предотвращение катастроф.
Законопроект, внесенный сенатором Скоттом Винером (демократ от Сан-Франциско), потребовал бы от разработчиков представить свои планы безопасности генеральному прокурору штата, который мог бы привлечь их к ответственности, если модели ИИ, которые они непосредственно контролируют, причинят вред или непосредственную угрозу общественная безопасность.
Кроме того, закон потребовал бы от технологических компаний иметь возможность отключать модели искусственного интеллекта, которые они непосредственно контролируют, если что-то пойдет не так.
В своем заявлении о вето Ньюсом заявил, что закон может дать общественности «ложное чувство безопасности в отношении контроля над этой быстро развивающейся технологией», поскольку он нацелен только на крупномасштабные и дорогие модели искусственного интеллекта, а не на более мелкие специализированные системы.
«Несмотря на благие намерения, SB 1047 не принимает во внимание, развертывается ли система искусственного интеллекта в средах высокого риска, предполагает ли она принятие важных решений или использование конфиденциальных данных», — говорится в сообщении вето Ньюсома. «Вместо этого законопроект применяет строгие стандарты даже к самым базовым функциям — при условии, что они используются в большой системе. Я не считаю, что это лучший подход к защите населения от реальных угроз, исходящих от технологий».
Губернатор в воскресенье также объявил, что его администрация привлекла лидеров в этой области, чтобы помочь штату создать работоспособную защиту от внедрения ИИ, сосредоточив внимание на анализе его возможностей и рисков. Ньюсом пообещал продолжить работу с Законодательным собранием по этому вопросу на следующей сессии.
Законопроект активно обсуждался в Кремниевой долине, получив поддержку со стороны Центра безопасности ИИ, генерального директора SpaceX Илона Маска, редакционной коллегии LA Times и видных исследователей ИИ, но против него выступили материнская компания Facebook Meta, производитель ChatGPT OpenAI и несколько конгрессменов-демократов. включая члена палаты представителей Нэнси Пелоси (демократ от Сан-Франциско).
Сторонники заявили, что важно установить барьеры для быстро развивающейся технологии искусственного интеллекта, чтобы предотвратить будущий катастрофический ущерб, в то время как оппоненты заявили, что такие меры могут задушить инновации.
Хотя законопроект и может преодолеть вето губернатора двумя третями голосов обеих палат, это серьезное препятствие, которое необходимо преодолеть, и это было бы необычно.
Винер назвал вето Ньюсома «упущенной возможностью» для Калифорнии возглавить регулирование инновационных технологий.
«Это вето является неудачей для всех, кто верит в надзор за крупными корпорациями, которые принимают важные решения, влияющие на безопасность и благополучие общества и будущее планеты», — заявил Винер в заявлении, опубликованном в социальных сетях.
Ранее в этом месяце Ньюсом заявил в беседе у камина на Dreamforce, технической конференции в Сан-Франциско, что SB 1047 вызвал широкий общественный дискурс, добавив, что он «создал свою собственную погодную систему».
Он также рассказал о проблемах в регулировании ИИ.
«Последние пару лет мы работали над тем, чтобы придумать какое-то рациональное регулирование, которое поддерживало бы риск, но не безрассудство…», — сказал Ньюсом.
Сторонники и противники SB 1047 объединили ресурсы, чтобы выразить свои взгляды. Более 125 актеров, продюсеров, режиссеров, музыкальных исполнителей и других лидеров индустрии развлечений, включая видных демократов, подписали письмо, призывающее Ньюсома подписать законопроект. Среди подписантов письма были актеры Педро Паскаль и Алек Болдуин, а также исполнительный продюсер «Бриджертона» Шонда Раймс.
«Мы хотим продолжать верить в то, что вы — лидер, который будет отстаивать благополучие каждого, а не только нескольких гигантов Кремниевой долины», — говорится в письме.
Тем временем Палата прогресса, которая выступает против законопроекта, выпустила рок-песню, сгенерированную искусственным интеллектом, в тексте которой есть слова «наложить вето на цепи, которые нас удерживают».
«Это один из тех законопроектов, которые нечасто попадаются на вашем столе, и то, насколько они убедительны, зависит от того, кем был последний собеседник», — сказал Ньюсом в интервью The Times в начале этого месяца. «Это разделило очень многих людей».