В докладе ООН высказывается тревога по поводу отсутствия глобального управления ИИ, а также фактического исключения развивающихся стран из дебатов о будущем этой технологии. Изображение: Shutterstock
ТРазвитие искусственного интеллекта не должно определяться исключительно рыночными силами, предупредили в четверг эксперты ООН, призвав к созданию инструментов для глобального сотрудничества.
Однако они воздержались от предложения создать мощный всемирный руководящий орган для надзора за внедрением и развитием технологии, распространение которой вызвало опасения относительно предвзятости, неправильного использования и зависимости.
Группа из примерно 40 экспертов в области технологий, права и защиты данных была создана Генеральным секретарем ООН Антониу Гутерришем в октябре.
Их доклад, опубликованный за несколько дней до начала громкого «Саммита будущего», вызывает тревогу по поводу отсутствия глобального управления ИИ, а также фактического исключения развивающихся стран из дебатов о будущем этой технологии.
Из 193 членов ООН только семь участвуют в семи основных инициативах, связанных с ИИ, а 118 вообще отсутствуют — в основном это страны глобального юга.
«Сегодня наблюдается дефицит глобального управления в сфере ИИ», который по своей природе является трансграничным, предупреждают эксперты в своем докладе.
«ИИ должен служить человечеству справедливо и безопасно», — заявил на этой неделе Гутерриш.
«Если не остановить опасности, исходящие от искусственного интеллекта, они могут иметь серьезные последствия для демократии, мира и стабильности».
Читайте также: Издатели против ИИ: медиаиндустрии предстоит решить новую проблему
Слишком поздно’?
На фоне его громкого призыва эксперты призвали членов ООН создать механизмы, которые бы смазали колеса глобального сотрудничества по этому вопросу, а также предотвратили непреднамеренное распространение.
«Разработку, внедрение и использование такой технологии нельзя оставлять исключительно на усмотрение рынка», — говорится в отчете.
В первую очередь было предложено создать группу научных экспертов по ИИ по образцу форума экспертов Межправительственной группы экспертов по изменению климата (МГЭИК), чьи доклады являются последним словом по вопросу изменения климата.
Группа экспертов проинформирует международное сообщество о возникающих рисках, определит потребности в исследованиях, а также то, как их можно использовать для сокращения масштабов голода, нищеты и гендерного неравенства, а также для достижения других целей.
Это предложение включено в проект Глобального цифрового договора, который все еще находится на стадии обсуждения и должен быть принят в воскресенье на «Саммите будущего».
В докладе одобряется создание в секретариате ООН структуры упрощенной «координации».
Однако это не дотягивает до создания полноценного международного органа управления, подобного тому, к которому стремится Гутерриш, на основе модели ядерного надзорного органа ООН — МАГАТЭ.
«Если риски, связанные с ИИ, станут более серьезными и концентрированными, государствам-членам может потребоваться рассмотреть возможность создания более надежного международного института с полномочиями по мониторингу, отчетности, проверке и обеспечению соблюдения требований», — говорится в отчете.
Авторы признают, что ввиду невероятной скорости изменений в сфере искусственного интеллекта было бы бессмысленно пытаться составить исчерпывающий список опасностей, которые представляет собой постоянно развивающаяся технология.
Однако они выделили опасность дезинформации для демократии, все более реалистичные дипфейки, особенно порнографические, а также эволюцию автономного оружия и использование ИИ преступными и террористическими группировками.
«Однако, учитывая скорость, автономность и непрозрачность систем ИИ, ожидание возникновения угрозы может означать, что любой ответ будет слишком запоздалым», — говорится в отчете. «Продолжение научных оценок и политического диалога позволит гарантировать, что мир не будет удивлен».