Губернатор Калифорнии Ньюсом наложил вето на законопроект о безопасности искусственного интеллекта, который разделил Силиконовую долину

Губернатор Калифорнии Гэвин Ньюсом в воскресенье наложил вето на законопроект, который должен был принять самые далеко идущие в стране правила в отношении быстро развивающейся индустрии искусственного интеллекта.

Законодатели Калифорнии подавляющим большинством голосов приняли законопроект под названием SB 1047, который рассматривался как потенциальный образец национального законодательства в области ИИ.

Эта мера возложила бы на технологические компании юридическую ответственность за вред, причиненный моделями искусственного интеллекта. Кроме того, законопроект потребовал бы от технологических компаний включить «аварийный выключатель» для технологии искусственного интеллекта на случай, если системы будут использоваться не по назначению или выйдут из-под контроля.

Ньюсом назвал законопроект «благонамеренным», но отметил, что его требования предполагают «строгие» правила, которые были бы обременительны для ведущих государственных компаний в области искусственного интеллекта.

В своем заявлении о вето Ньюсом сказал, что законопроект слишком сосредоточен на самых крупных и мощных моделях искусственного интеллекта, заявив, что более мелкие выскочки могут оказаться столь же разрушительными.

«Меньшие, специализированные модели могут оказаться столь же или даже более опасными, чем модели, на которые направлен SB 1047 — за счет потенциального сокращения тех самых инноваций, которые способствуют прогрессу в пользу общественного блага», — написал Ньюсом.

Сенатор от Калифорнии Скотт Винер, соавтор законопроекта, раскритиковал решение Ньюсома, заявив, что вето является препятствием для ответственности за искусственный интеллект.

«Это вето оставляет нас перед тревожной реальностью: компании, стремящиеся создать чрезвычайно мощную технологию, не сталкиваются с никакими обязательными ограничениями со стороны американских политиков, особенно с учетом продолжающегося паралича Конгресса в отношении какого-либо значимого регулирования технологической отрасли», — написал Винер на X.

Сейчас отмененный законопроект заставил бы отрасль провести испытания на безопасность чрезвычайно мощных моделей искусственного интеллекта. Без таких требований, написал Винер в воскресенье, отрасль будет вынуждена сама контролировать ситуацию.

«Хотя крупные лаборатории искусственного интеллекта взяли на себя замечательные обязательства по мониторингу и снижению этих рисков, правда заключается в том, что добровольные обязательства отрасли не осуществимы и редко приносят пользу общественности».

Многие влиятельные игроки в Кремниевой долине, в том числе венчурная фирма Andreessen Horowitz, OpenAI и торговые группы, представляющие Google и Meta, лоббировали законопроект, утверждая, что он замедлит развитие искусственного интеллекта и задушит рост компаний на ранних стадиях.

«SB 1047 поставит под угрозу этот рост, замедлит темпы инноваций и заставит калифорнийских инженеров и предпринимателей мирового класса покинуть штат в поисках более широких возможностей в другом месте», — Джейсон Квон, директор по стратегии OpenAI. написал в письме, отправленном в прошлом месяце Винеру.

Однако другие технологические лидеры поддержали законопроект, в том числе Илон Маск и ученые-новаторы в области искусственного интеллекта, такие как Джеффри Хинтон и Йошуа Бенджио, которые подписали письмо, призывающее Ньюсома подписать его.

«Мы считаем, что самые мощные модели искусственного интеллекта вскоре могут представлять серьезные риски, такие как расширенный доступ к биологическому оружию и кибератаки на критически важную инфраструктуру. Для передовых компаний, занимающихся искусственным интеллектом, вполне возможно и целесообразно проверить, могут ли самые мощные модели искусственного интеллекта нанести серьезный вред, и чтобы эти компании внедрили разумные меры защиты от таких рисков». написал Хинтон и десятки бывших и нынешних сотрудников ведущих компаний, занимающихся искусственным интеллектом.

В воскресенье в своем посте «X» Винер назвал вето «неудачей» для «всех, кто верит в надзор за крупными корпорациями, принимающими важные решения, влияющие на безопасность и благосостояние общества».

Другие государства, например Колорадо и Ютаприняли законы, более узко ориентированные на то, как ИИ может увековечить предвзятость в решениях о трудоустройстве и здравоохранении, а также на другие проблемы защиты потребителей, связанные с ИИ.

Ньюсом недавно подписал другие законопроекты об искусственном интеллекте, в том числе закон о борьбе с распространением дипфейков во время выборов. Другой защищает актеров от копирования их изображений ИИ без их согласия.

В то время как миллиарды долларов вливаются в разработку ИИ и он проникает во все больше сфер повседневной жизни, законодатели в Вашингтоне до сих пор не предложили ни одного федерального закона, который бы защищал людей от его потенциального вреда или обеспечивал надзор за его быстрым развитием. .