В результате того, что дипфейковые видео и аудио стали проникать в политические кампании, Калифорния в сентябре ввела самые жесткие ограничения: закон, запрещающий в течение 120 дней после выборов политическую рекламу, которая включает в себя обманчивый, созданный в цифровой форме или измененный контент, если только реклама не помечена как «манипулируемая». »
В среду федеральный судья временно заблокировал закон, заявив, что он нарушает Первую поправку.
Другие законы против мошеннической предвыборной рекламы остаются в силе в Калифорнии, в том числе закон, который требует от кандидатов и комитетов политических действий раскрывать информацию о том, когда реклама использует искусственный интеллект для создания или существенного изменения контента. Но предварительный судебный запрет, вынесенный в отношении законопроекта о Ассамблее 2839, означает, что не будет широкого запрета на использование искусственного интеллекта для клонирования изображения или голоса кандидата и его ложного изображения без раскрытия того, что изображения или слова являются фальшивыми.
Запрета добивался Кристофер Колс, консервативный комментатор, создавший ряд дипфейковых видеороликов, высмеивающих демократов, в том числе кандидата в президенты от партии, вице-президента Камалу Харрис. Губернатор Гэвин Ньюсом процитировал одно из этих видео, в котором были показаны отрывки Харрис, в то время как дипфейковая версия ее голоса говорила о том, что она «высшая степень разнообразия» и исповедует как невежество, так и некомпетентность, когда он подписывал AB 2839, но эта мера на самом деле была введена. в феврале, задолго до того, как видео Колса о Харрисе стало вирусным на X.
Когда его спросили на X о решении, Колс сказал: «Свобода торжествует! На данный момент.”
Дипфейковые видеоролики, высмеивающие политиков, в том числе одно, направленное против вице-президента Камалы Харрис, стали вирусными в социальных сетях.
(Дарко Войинович/Ассошиэйтед Пресс)
Решение окружного судьи США Джона А. Мендеса иллюстрирует противоречие между усилиями по защите от фальсификаций с использованием искусственного интеллекта, которые могут повлиять на выборы, и строгими гарантиями в Билле о правах для политических высказываний.
Вынося предварительный судебный запрет, Мендес написал: «Когда речь идет о политических высказываниях и избирательной политике, Первая поправка почти недвусмысленно предписывает, что суды позволяют процветать высказываниям, а не поддерживают попытки государства задушить их. … [M]Часть AB 2839 действует как молоток, а не скальпель, служащий тупым инструментом, который препятствует юмористическому выражению и неконституционно подавляет свободный и ничем не ограниченный обмен идеями, который так важен для американских демократических дебатов».
Возразил Роберт Вайсман, сопрезидент Public Citizen: «Первая поправка не должна связывать нам руки в борьбе с серьезной, предсказуемой и реальной угрозой нашей демократии».
Роберт Вайсман из организации по защите прав потребителей Public Citizen говорит, что еще 20 штатов приняли законы, аналогичные AB 2839, но есть ключевые различия.
(Ник Васс/Ассошиэйтед Пресс)
Вайсман сказал, что 20 штатов приняли законы, придерживающиеся одного и того же основного подхода: требующие, чтобы реклама, использующая ИИ для манипулирования контентом, была помечена как таковая. Но у AB 2839 были некоторые уникальные элементы, которые могли повлиять на мышление Мендеса, сказал Вайсман, в том числе требование, чтобы раскрытие информации отображалось в таком же размере, как самый большой текст, видимый в рекламе.
В своем постановлении Мендес, назначенец президента Джорджа Буша, отметил, что Первая поправка распространяется также на ложные и вводящие в заблуждение высказывания. Он написал, что даже в таком важном вопросе, как защита выборов, законодатели могут регулировать выражение мнений только с помощью наименее ограничительных мер.
AB 2839, который требовал, чтобы политические видеоролики постоянно отображали требуемое раскрытие информации о манипуляциях, не использовал ни малейших ограничительных средств для защиты честности выборов, написал Мендес. Менее ограничительным подходом была бы «встречная речь», написал он, хотя и не объяснил, что это повлечет за собой.
Вейсман ответил: «Встречная речь не является адекватным средством». Проблема с дипфейками не в том, что они делают ложные заявления или инсинуации в отношении кандидата, сказал он; «Проблема в том, что они показывают, что кандидат говорит или делает что-то, чего на самом деле он не делал». По его словам, перед целевыми кандидатами стоит почти невыполнимая задача объяснить, что они на самом деле не делали и не говорили этих вещей, что значительно сложнее, чем противостоять ложному обвинению, выдвинутому оппонентом или выдвинутому комитетом политических действий.
По его словам, для проблем, создаваемых дипфейковой рекламой, требование раскрытия информации о манипуляциях не является идеальным решением. Но это наименее ограничительное средство.
Лиана Кизинг из Issue One, группы по защите интересов демократии, сказала, что создание дипфейков не обязательно является проблемой. «Что важно, так это усиление этого ложного и вводящего в заблуждение контента», — сказал Кизинг, руководитель кампании группы.
Аликс Фрейзер, директор по технической реформе Issue One, сказала, что самое важное, что могут сделать законодатели, — это решить, как устроены технологические платформы. «Какие ограждения вокруг этого? По сути, их нет», — сказал он, добавив: «Это основная проблема, как мы ее видим».