Консультативный орган Организации Объединенных Наций (ООН) по искусственному интеллекту (ИИ) призывает правительства к сотрудничеству в целях создания «глобально инклюзивной и распределенной архитектуры» для управления использованием этой технологии.
Высокоуровневый консультативный орган ООН по ИИ, официально созданный в октябре 2023 года для анализа международного управления технологиями, опубликовал доклад, в котором изложен план действий по устранению рисков, связанных с ИИ, и пути распространения преобразующего потенциала этой технологии на глобальном уровне.
«В частности, императив глобального управления неоспорим», — говорится в резюме. «Исходные материалы для ИИ, от критически важных минералов до обучающих данных, добываются глобально. Универсальный ИИ, развернутый через границы, порождает множество приложений по всему миру. Ускоряющееся развитие ИИ концентрирует власть и богатство в глобальном масштабе, что имеет геополитические и геоэкономические последствия.
«Более того, никто в настоящее время не понимает все внутренние механизмы ИИ в достаточной степени, чтобы полностью контролировать его результаты или предсказывать его эволюцию. Лица, принимающие решения, также не несут ответственности за разработку, развертывание или использование систем, которые они не понимают. Между тем, негативные побочные эффекты и нисходящие воздействия, возникающие в результате таких решений, также, вероятно, будут глобальными».
В документе также говорится, что, хотя национальные правительства и региональные организации будут играть решающую роль в контроле за использованием ИИ, «сама природа этой технологии — трансграничная по структуре и применению — требует глобального подхода».
В связи с этим Консультативный орган вынес ряд рекомендаций по устранению существующих пробелов в механизмах управления ИИ и «призывает все правительства и заинтересованные стороны» содействовать развитию и защите прав человека.
Эти рекомендации включают создание независимой международной научной группы по ИИ, в состав которой должны войти различные междисциплинарные эксперты в этой области, работающие в личном качестве на добровольной основе, а также организацию двухгодичного межправительственного и многостороннего политического диалога по вопросам управления ИИ, который мог бы проходить в рамках существующих заседаний ООН.
Далее было предложено создать «комиссию по стандартам ИИ» для разработки и ведения реестра определений и применимых стандартов для оценки систем ИИ; создать «глобальный фонд для ИИ, чтобы сократить разрыв в сфере ИИ», которым должна управлять новая независимая структура управления; и разработать глобальную структуру данных ИИ, которая установит «механизмы управления и обмена данными, формирующие рынок», чтобы обеспечить «процветание локальных экосистем ИИ во всем мире».
По словам Венди Холл — профессора компьютерных наук в Университете Саутгемптона и единственного британского эксперта в Консультативном органе, — нынешние глобальные усилия по созданию системы управления на основе ИИ недостаточны.
«Мы уже видим влияние прорывов ИИ на здравоохранение, контроль энергии, производство продуктов питания и образование», — сказала она. «Искусственному интеллекту необходимо позволить развиваться на благо человечества, но без управления он может развиваться способами, которые будут вредны для общества. По крайней мере, мы надеемся, что этот отчет будет стимулировать содержательные разговоры и дебаты о глобальном управлении.
«Нам крайне необходим глобальный подход, который позволит решить проблемы ИИ и гарантировать, что он принесет пользу всем, а не только нескольким странам, лидирующим в его разработке», — сказал Холл.
Ранее, в апреле 2024 года, проект резолюции ООН, поощряющий использование ИИ в целях устойчивого развития и защиты прав человека, был поддержан более чем 120 государствами-членами.
Хотя резолюция, принятая под руководством США, была направлена на «преодоление разрыва в области искусственного интеллекта и других цифровых технологий между странами и внутри них» путем поощрения государств-членов, частного сектора, гражданского общества, научно-исследовательских организаций и средств массовой информации «разрабатывать и поддерживать подходы и структуры регулирования и управления, связанные с безопасными, надежными и заслуживающими доверия системами искусственного интеллекта», она не имела обязательной силы.
Управление ИИ не является глобальным разговором
В январе 2024 года на Всемирном экономическом форуме в Давосе генеральный секретарь ООН Антониу Гутерриш обвинил технологические компании и правительства в преследовании собственных узких интересов в области ИИ «с явным пренебрежением» к правам человека, конфиденциальности и другим социальным последствиям, сравнив его нерегулируемое развитие с растущими рисками, вызванными климатическим кризисом.
Помимо призыва к мировой деловой и политической элите обуздать «безудержное» развитие ИИ, Гутерриш также призвал к реформированию международной системы, созданной после Второй мировой войны, чтобы можно было принимать эффективные меры для решения глобальных проблем.
Подчеркивая резкое неравенство сил в международной системе как основное препятствие на пути прогресса как в области ИИ, так и в области изменения климата, Гутерриш отметил, например, что многие государства-члены находились под колониальным правлением на момент создания ООН и поэтому имеют «минимальный вес» в дискуссиях, которые ведутся сегодня.
В своем отчете Консультативный орган по ИИ заявил, что, хотя недостатка в документах и диалогах, посвященных управлению ИИ, нет (за последние годы правительства, компании, консорциумы и международные организации приняли сотни руководств, рамок и принципов), ни один из них не имеет по-настоящему глобального охвата, что приводит к проблемам представительства, координации и внедрения.
Отмечая, что «целые регионы мира остались за пределами международных дискуссий по управлению ИИ», в отчете приводится тот факт, что только семь стран (Канада, Франция, Германия, Италия, Япония, Великобритания и США) являются участниками всех инициатив по управлению ИИ, не относящихся к ООН, которые были отобраны в отчете, в то время как 118 стран (в основном из стран глобального Юга) не являются участниками ни одной.
«Справедливость требует, чтобы больше голосов играли значимую роль в решениях о том, как управлять технологией, которая влияет на нас», — говорится в нем. «Концентрация принятия решений в секторе технологий ИИ не может быть оправдана; мы также должны признать, что исторически многие сообщества были полностью исключены из обсуждений управления ИИ, которые влияют на них».
Для обеспечения более тесного и справедливого международного сотрудничества в области управления ИИ Консультативный орган предложил создать «легкую, гибкую структуру как выражение согласованных усилий: офис ИИ в Секретариате Организации Объединенных Наций, близкий к Генеральному секретарю, работающий в качестве «клея» для эффективного и устойчивого объединения предлагаемых здесь инициатив».