Губернатор Гэвин Ньюсом в понедельник подписал несколько законопроектов, связанных с искусственным интеллектом, которые предоставят актерам большую защиту в отношении их цифровых образов и будут бороться с распространением глубоких фейков в политической рекламе, а также введут другие нормативные акты, направленные на борьбу с этой быстрорастущей технологией.
«Это были важные законопроекты о честности выборов, которые давно назрели», — сказал Ньюсом в интервью на Dreamforce, конференции в Сан-Франциско, организованной гигантом в области программного обеспечения для бизнеса Salesforce. «Выборы идут, проводится досрочное голосование, эти законопроекты были для меня срочными».
По крайней мере один из новых законов может сыграть свою роль на президентских выборах этого года, на которых в Интернете уже появилось множество фейковых политических заявлений и видеороликов с фальшивыми видеороликами кандидатов.
Один из новых законов, АБ 2839, направлен на ограничение манипулируемого контента, который может нанести ущерб репутации кандидата или общественному доверию к результатам выборов, за исключением пародии и сатиры. Согласно законодательству, кандидат, избирательный комитет или должностное лицо, ответственное за выборы, могут обратиться в суд с просьбой о запрете глубоких фейков. Они также могут подать в суд на лицо, которое распространило или переопубликовало обманчивый материал, с требованием возмещения ущерба.
Другие подписанные законопроекты включают в себя: АВ 2655который требует, чтобы технологические платформы имели процедуры для идентификации, удаления и маркировки фейкового контента. Это также исключает пародию, сатиру и новостные агентства, которые соответствуют определенным требованиям. AB 2355 требует, чтобы комитет, создающий политическую рекламу, раскрывал, была ли она создана или существенно изменена с использованием ИИ.
Глубокие фейки о кандидатах в президенты этого года, вице-президенте Камале Харрис и бывшем президенте Трампе, широко распространились в сети, усиливая страх перед дезинформацией и дезинформацией. Некоторые компании социальных сетей удаляют такой контент, когда он нарушает их стандарты, но модераторам контента может быть сложно успевать за быстрым распространением и загрузкой.
Одной из недавних жертв deep fake стала Тейлор Свифт. Трамп поделился постом на платформе социальных сетей Truth Social, в котором подразумевалось, что Свифт его поддержала, хотя на самом деле это не так.
«Недавно мне стало известно, что на его сайте был размещен ИИ, на котором «я» ложно одобряю президентскую гонку Дональда Трампа», — написала Свифт в посте в Instagram, где она поддержала Харрис. «Это действительно пробудило мои страхи по поводу ИИ и опасности распространения дезинформации. Это привело меня к выводу, что мне нужно быть предельно прозрачной в отношении моих реальных планов на эти выборы как избирателя. Самый простой способ борьбы с дезинформацией — это правда».
Законопроекты, подписанные Ньюсомом, также затрагивают проблемы, поднятые во время прошлогодних голливудских забастовок, возглавляемых гильдией актеров SAG-AFTRA и Гильдией писателей Америки, которые боролись за защиту актеров и писателей, обеспокоенных тем, что их работа может быть отнята из-за достижений в области технологий искусственного интеллекта.
Два из подписанных Ньюсомом законов предоставят исполнителям большую защиту их цифрового образа.
Один из них запрещает и карает создание и распространение цифровой копии умершего человека без разрешения его наследников.
Другой делает контракт неисполнимым, если была использована цифровая копия актера, когда человек мог выполнить работу лично, или если контракт не включал в себя достаточно конкретное описание того, как будет использоваться цифровая копия. Правила, регулирующие контракты, вступают в силу в январе.
«Никто не должен жить в страхе стать чьей-то бесплатной цифровой марионеткой», — сказал в своем заявлении Дункан Крэбтри-Айленд, национальный исполнительный директор SAG-AFTRA и главный переговорщик. «Губернатор Ньюсом проложил путь к защите людей — и семей — от копирования ИИ без реального согласия».
Новые законы были частью примерно 50 законопроектов, связанных с ИИ, в законодательном собрании штата, поскольку политические лидеры штата пытаются решить проблемы, поднятые общественностью по поводу ИИ. Один законопроект, по которому Ньюсом еще не принял решения, — это SB 1047, законопроект о безопасности ИИ, представленный сенатором Скоттом Винером (демократ от Сан-Франциско), который горячо обсуждался в Кремниевой долине.
Законопроект потребует от разработчиков будущих усовершенствованных моделей ИИ создания защитных барьеров, которые не позволят использовать технологию не по назначению для проведения кибератак на критически важную инфраструктуру.
«Губернатор сделал публичные заявления более общего характера о поддержке как инноваций, так и регулирования, но не о том, чтобы регулирование наносило вред инновациям», — сказал Винер на пресс-конференции во вторник. «Это также соответствует моим взглядам, и эти заявления соответствуют SB 1047».
Во вторник Ньюсом сообщил Times, что он еще не принял решения по законопроекту.
«Это один из тех законопроектов, которые нечасто попадают на ваш стол, и все зависит от того, кто последний на звонке, с точки зрения убедительности», — сказал Ньюсом. «Это разделило очень многих людей».
Ньюсом сказал, что в гримерке перед тем, как он вышел на сцену Dreamforce, было два лидера в пространстве (имена которых он не захотел называть), которые обсуждали законопроект с полярно противоположными взглядами. «Это даже раскалывает людей здесь», — сказал он.
«Самое главное [is] «Независимо от того, что произойдет с 1047, это не последнее слово, это не Святой Грааль регулирования в этой сфере», — сказал Ньюсом. «… Все развивается, и я хочу убедиться, что у нас есть динамическая среда регулирования, и мы постоянно совершенствуемся».
В беседе у камина во время Dreamforce Ньюсом сказал, что хочет создать нормативную базу, которая может поддерживать инвестиции. В то же время «у нас должно быть достаточно гибкости, чтобы справляться с непредвиденными последствиями, но мы не должны чрезмерно компенсировать тревоги, которые могут никогда не материализоваться», — сказал Ньюсом.
Dreamforce — крупнейшая конференция Сан-Франциско, которая, как ожидается, привлечет 45 000 человек, согласно данным Управления экономики и развития рабочей силы Сан-Франциско. Трехдневное мероприятие, которое стартовало во вторник, рекламируется Salesforce как «крупнейшее в мире мероприятие по ИИ».
В подготовке этого отчета приняла участие штатный автор Куини Вонг.