Крупнейшие мировые технологические компании предприняли последнюю попытку убедить Европейский союз принять более мягкий подход к регулированию искусственного интеллекта, стремясь избежать риска штрафов на миллиарды долларов.

В мае законодатели ЕС согласовали Закон об искусственном интеллекте — первый в мире комплексный свод правил, регулирующих эту технологию, — после месяцев интенсивных переговоров между различными политическими группами.

Однако до тех пор, пока не будут окончательно доработаны своды правил, сопутствующие закону, остается неясным, насколько строго будут соблюдаться правила, касающиеся систем искусственного интеллекта «общего назначения» (GPAI), таких как ChatGPT компании OpenAI, и сколько исков о нарушении авторских прав и многомиллиардных штрафов могут столкнуться компании.

ЕС пригласил компании, ученых и других лиц принять участие в разработке кодекса практики и получил около 1000 заявок. Это необычно большое число, по словам источника, знакомого с этим вопросом и пожелавшего остаться неназванным, поскольку он не уполномочен выступать публично.

Кодекс практики ИИ не будет иметь юридической силы, когда вступит в силу в конце следующего года, но он предоставит фирмам контрольный список, который они могут использовать для демонстрации своего соответствия. Компания, заявляющая о соблюдении закона, но игнорирующая кодекс, может столкнуться с юридическим вызовом.

«Кодекс практики имеет решающее значение. Если мы сделаем его правильным, мы сможем продолжить внедрение инноваций», — сказал Бонифас де Шамприс, старший менеджер по политике в торговой организации CCIA Europe, членами которой являются Amazon, Google и Meta.

«Если он слишком узкий или слишком конкретный, это станет очень затруднительным», — добавил он.

Сбор данных

Такие компании, как Stability AI и OpenAI, столкнулись с вопросами о том, является ли использование бестселлеров или фотоархивов для обучения своих моделей без разрешения их создателей нарушением авторских прав.

Согласно Закону об ИИ, компании будут обязаны предоставлять «подробные сводки» данных, используемых для обучения их моделей. Теоретически создатель контента, обнаруживший, что его работа была использована для обучения модели ИИ, может потребовать компенсацию, хотя это проверяется в судах.

Некоторые руководители предприятий утверждают, что требуемые резюме должны содержать минимум подробностей в целях защиты коммерческой тайны, в то время как другие утверждают, что владельцы авторских прав имеют право знать, использовался ли их контент без разрешения.

По словам человека, знакомого с ситуацией и отказавшегося назвать свое имя, компания OpenAI, которая подверглась критике за отказ отвечать на вопросы о данных, используемых для обучения ее моделей, также подала заявку на присоединение к рабочим группам.

Google также подала заявку, сообщил представитель Reuters. Между тем, Amazon заявила, что надеется «внести свой вклад в экспертизу и обеспечить успешность кодекса практики».

Максимилиан Ганц, руководитель политики в области искусственного интеллекта в Mozilla Foundation, некоммерческой организации, стоящей за веб-браузером Firefox, выразил обеспокоенность тем, что компании «стараются всеми силами избегать прозрачности».

«Закон об искусственном интеллекте дает наилучшую возможность пролить свет на этот важнейший аспект и хотя бы частично раскрыть тайну черного ящика», — сказал он.

Крупный бизнес и приоритеты

Некоторые представители бизнеса критиковали ЕС за приоритет регулирования технологий над инновациями, и те, кому поручено разработать текст кодекса практики, будут стремиться к компромиссу.

На прошлой неделе бывший глава Европейского центрального банка Марио Драги заявил блоку, что для того, чтобы идти в ногу с Китаем и США, ему необходима более скоординированная промышленная политика, более быстрое принятие решений и масштабные инвестиции.

Тьерри Бретон — ярый сторонник регулирования ЕС и критик технологических компаний, не соблюдающих его требования, — на этой неделе ушел с поста еврокомиссара по внутреннему рынку после конфликта с Урсулой фон дер Ляйен, президентом исполнительного органа блока.

На фоне растущего протекционизма в ЕС отечественные технологические компании надеются, что в Закон об искусственном интеллекте будут внесены исключения, которые принесут пользу начинающим европейским фирмам.

«Мы настаиваем на том, чтобы эти обязательства были управляемыми и, по возможности, адаптированными к стартапам», — сказал Максим Рикар, менеджер по политике в Allied for Startups, сети торговых организаций, представляющих небольшие технологические компании.

После публикации кодекса в первой половине следующего года у технологических компаний будет время до августа 2025 года, прежде чем их усилия по обеспечению соответствия начнут оцениваться на его основе.

Некоммерческие организации, включая Access Now, Future of Life Institute и Mozilla, также подали заявки на участие в разработке кодекса.

Ганц сказал: «Поскольку мы вступаем в стадию, когда многие обязательства Закона об ИИ изложены более подробно, мы должны быть осторожны, чтобы не позволить крупным игрокам в сфере ИИ размыть важные требования к прозрачности».

История на данный момент: 5 сентября Архив Интернета проиграл апелляцию в Апелляционном суде второго округа США, где суд рассмотрел вопрос о том, является ли «добросовестным использованием» сканирование защищенных авторским правом печатных книг и их свободное распространение по принципу «один к одному за владение и заимствование» без разрешения авторов или издателей.

В чем суть дела и апелляции?

Интернет-архив (IA), основанный в 1996 году, занимается оцифровкой и сохранением медиаматериалов в различных форматах, таких как книги, электронные книги, веб-сайты, произведения искусства, телешоу, аудиоматериалы, программное обеспечение и т. д., для обеспечения общественного доступа.

В частности, IA подверглась критике за то, как она оцифровывает, размещает и предоставляет электронные книги читателям, при этом несколько традиционных издателей утверждают, что IA не имеет права копировать и распространять защищенные авторским правом работы их авторов без их разрешения. Однако, помимо таких названий, IA также имеет большую коллекцию исторических работ и литературы, которая находится в общественном достоянии.

IA утверждает, что ее принцип «контролируемого цифрового кредитования», когда она выдает одну электронную книгу одному пользователю за раз в зависимости от того, сколько у нее печатных копий книги, означает, что она похожа на библиотеку. Однако традиционные издатели не согласны с таким подходом.

1 июня 2020 года Hachette Book Group, HarperCollins, John Wiley & Sons и Penguin Random House подали в суд на IA за нарушение авторских прав. Одним из основных пунктов разногласий между издательствами и IA была Национальная чрезвычайная библиотека, которую последняя временно управляла во время пандемии COVID-19, где она отменила лимит выдачи электронных книг 1:1, чтобы позволить заблокированным читателям получать доступ к книгам более свободно.

В марте 2023 года федеральный судья Джон Г. Кельтл встал на сторону издателей. В связи с этим делом IA пришлось изъять более 500 000 книг из коллекции, которую она могла выдать.

Что сказал апелляционный суд?

IA подала апелляцию на судебный приказ, и дело рассматривалось 28 июня 2024 года, но все равно проиграла. Суд отклонил защиту IA о «добросовестном использовании», заявив, что использование ею оригинальных работ не было «преобразующим».

«IA создает цифровые копии произведений и распространяет эти копии среди своих пользователей в полном объеме, бесплатно. Ее цифровые копии не содержат критики, комментариев или информации об оригиналах», — отметил суд.

В иске от 4 сентября Апелляционный суд США по второму округу рассмотрел обе стороны вопроса. Он заявил, что лицензионные сборы за электронные книги могут быть обременительными для библиотек и ограничить доступ читателей к литературе. С другой стороны, суд также указал, что авторы имеют право на компенсацию, если их оригинальные творения копируются или распространяются.

«IA просит этот суд благословить широкомасштабное копирование и распространение книг, защищенных авторским правом, без разрешения или оплаты издателям или авторам. Такое удержание позволило бы широкомасштабное копирование, которое лишает создателей компенсации и снижает стимул к созданию новых произведений», — заявил суд в своем иске, добавив, что, хотя IA может предпочесть такой шаг, это не подход, разрешенный Законом об авторском праве.

Однако, в отличие от окружного суда, апелляционный суд постановил, что использование IA произведений издателей, защищенных авторским правом, не носило коммерческий характер.

Хотя IA по-прежнему доступна и предлагает миллионы цифровых произведений литературы и книг, ее неудавшаяся апелляция ставит под сомнение будущее базы данных и ее правовой статус.

Что думают издатели и авторы?

Мария А. Палланте, президент и генеральный директор Ассоциации американских издателей, приветствовала результат и отметила, как суд раскритиковал систему контролируемого цифрового кредитования IA.

«Сегодняшнее апелляционное решение подтверждает права авторов и издателей на лицензирование и получение компенсации за свои книги и другие творческие работы и недвусмысленно напоминает нам, что нарушение прав является дорогостоящим и противоречит общественным интересам», — заявил Палланте.

В то время как несколько авторов выразили желание получить компенсацию за свою работу на рынке, который часто недооценивает художников, некоторые заявили, что их борьба не с IA. Тем не менее, многие читатели по всему миру возмущены результатом апелляции, а некоторые даже набрасываются на авторов, которые не имеют никакого отношения к решению суда.

Авторы Нил Гейман и Чак Вендиг, оба получившие оскорбительные комментарии в X из-за отказа в апелляции, ранее разъясняли, что они не участвовали в судебном процессе против IA.

Каков был ответ IA?

Директор библиотечных служб IA Крис Фриланд опубликовал краткое заявление, в котором выразил недовольство библиотеки решением суда.

«Мы разочарованы сегодняшним решением по поводу цифрового предоставления Архивом Интернета книг, которые доступны в электронном виде в других местах. Мы пересматриваем решение суда и продолжим защищать права библиотек владеть, предоставлять и сохранять книги», — поделился он в блоге Архива Интернета 4 сентября.

На сайте X Фриланд призвала пользователей подписать петицию с целью восстановить доступ к примерно 500 000 книг, изъятых из коллекции IA.

Каковы последствия этого решения?

IA поделилась историями своих пользователей, которые утверждают, что предложения базы данных помогли им завершить свое образование, найти литературу для своих детей, получить доступ к литературе в неблагополучных регионах, изучать редкие области, сохранять находящиеся под угрозой исчезновения области знаний, экономить деньги на лицензионных сборах за электронные книги, открывать для себя исторические раритеты или заполучить носители информации, которые больше нигде не сохранились.

С другой стороны, читатели были расстроены тем, что, хотя создатель ChatGPT OpenAI защищает использование защищенных авторским правом носителей для обучения ИИ, такие организации, как IA, подвергаются нападкам за предоставление книг, включая запрещенные и подвергнутые цензуре произведения, читателям, которые в них нуждаются.

Компания OpenAI также столкнулась с судебным иском из-за предполагаемого использования творческих работ, и также использовала защиту «добросовестного использования» в отношении обучения моделей ИИ.

«Обучение моделей ИИ с использованием общедоступных интернет-материалов является добросовестным использованием, что подтверждается давними и широко признанными прецедентами. Мы считаем этот принцип справедливым по отношению к создателям, необходимым для новаторов и критически важным для конкурентоспособности США», — заявила фирма ИИ в своем блоге в этом году, но добавила, что предоставляет пользователям возможность отказаться от участия.

Пока еще неизвестно, как Internet Archive и его руководство официально отреагируют на последнюю юридическую неудачу.

OpenAI заявила в пятницу, что она поймала «иранскую операцию влияния» с помощью ChatGPT. Группа, известная как Storm-1679, создавала статьи и комментарии в социальных сетях, чтобы сформировать общественное мнение вокруг вице-президента Камалы Харрис и бывшего президента Дональда Трампа, согласно OpenAI. Помимо атак на кандидатов в президенты США 2024 года, OpenAI заявила, что Storm-1679 также создавала контент вокруг вторжения Израиля в Газу и его присутствия на Олимпийских играх 2024 года, прав латиноамериканских общин в США, политики Венесуэлы и независимости Шотландии от Великобритании

Компания заявила, что большинство сообщений и статей, обнаруженных OpenAI, получили мало откликов от реальных людей. Тем не менее, она подробно описала инцидент в своем блоге, написав, что обнаружила дюжину учетных записей X (ранее Twitter), выдающих себя за консерваторов и прогрессистов и использующих хэштеги, такие как «#DumpTrump» и «#DumpKamala». Storm-1679 также использовал по крайней мере одну учетную запись Instagram для распространения контента, созданного ИИ, согласно OpenAI.

Ранее OpenAI уже описывала «государственных субъектов угроз», использующих свои инструменты, но это первый случай, когда компания раскрыла конкретную кампанию по вмешательству в выборы с использованием ChatGPT.

OpenAI заявила, что отреагировала на это открытие, заблокировав «кластер» аккаунтов, создавших контент; компания также заявила, что «поделилась разведданными об угрозах с правительством, кампаниями и заинтересованными сторонами отрасли». Фирма не назвала конкретных заинтересованных сторон, но поделилась скриншотами нескольких постов. На этих скриншотах было от 8 до 207 просмотров и почти не было лайков.

OpenAI заявила, что Storm-1679 также делился статьями, сгенерированными ChatGPT, на нескольких веб-сайтах, которые «выдавали себя за прогрессивные и консервативные новостные агентства». Фирма добавила: «Большинство сообщений в социальных сетях, которые мы идентифицировали, получили мало или вообще не получили лайков, репостов или комментариев. Мы также не нашли признаков того, что веб-статьи делились в социальных сетях».

В отчете Microsoft от 6 августа Storm-2035 описывается похожим образом — как иранская сеть с «четырьмя веб-сайтами, маскирующимися под новостные агентства». По данным Microsoft, сеть создавала «поляризующие» посты о выборах, правах ЛГБТКИА+, а также о вторжении Израиля в Газу.

Сообщения об иностранном вмешательстве в выборы в США в режиме онлайн теперь стали практически обычным явлением. Например, в отчете Microsoft от 6 августа также подробно описывалась фишинговая атака, связанная с Ираном, которая была направлена ​​на неназванного «высокопоставленного» представителя предвыборной кампании США. Вскоре после того, как Microsoft отказалась от отчета, кампания Трампа объявила, что «иностранные источники» украли некоторые из ее электронных писем и документов в попытке повлиять на президентские выборы 2024 года. Восемь лет назад связанная с Россией хакерская группа, известная как Guccifer 2.0, с помощью аналогичной фишинговой атаки украла электронные письма Национального комитета Демократической партии; в конечном итоге они слили тысячи электронных писем и документов Национального комитета Демократической партии перед Национальным съездом Демократической партии 2016 года.

Под давлением законодателей крупные технологические компании на протяжении многих лет предпринимали различные усилия в ответ на такие инциденты. Их усилия включают проверку фактов мемов, принятие желаемого за действительное, кратковременный запрет политической рекламы, «военную комнату» и сотрудничество с конкурентами и полицейскими.