Требования к отчетности необходимы для оповещения правительства о потенциально опасных новых возможностях все более мощных моделей ИИ, говорит чиновник правительства США, занимающийся вопросами ИИ. Чиновник, пожелавший остаться анонимным, чтобы говорить свободно, указывает на признание OpenAI о «непоследовательном отказе от запросов на синтез нервно-паралитических веществ» своей последней модели.
Чиновник говорит, что требование отчетности не является слишком обременительным. Они утверждают, что, в отличие от регулирования ИИ в Европейском Союзе и Китае, EO Байдена отражает «очень широкий и мягкий подход, который продолжает способствовать инновациям».
Ник Риз, который с 2019 по 2023 год занимал должность первого директора по новым технологиям Министерства внутренней безопасности, отвергает консервативные утверждения о том, что требование отчетности поставит под угрозу интеллектуальную собственность компаний. И он говорит, что это действительно может принести пользу стартапам, поощряя их разрабатывать «более эффективные в вычислительном отношении» и менее требовательные к данным модели искусственного интеллекта, которые подпадают под порог отчетности.
Сила искусственного интеллекта делает обязательным государственный надзор, говорит Ами Филдс-Мейер, которая помогала составить проект исполнительного директора Байдена в качестве технического сотрудника Белого дома.
«Мы говорим о компаниях, которые заявляют, что создают самые мощные системы в мировой истории», — говорит Филдс-Мейер. «Первой обязанностью правительства является защита людей. «Поверьте мне, у нас это есть» — не особенно убедительный аргумент».
Эксперты хвалят руководство NIST по безопасности как жизненно важный ресурс для создания средств защиты в новых технологиях. Они отмечают, что ошибочные модели ИИ могут нанести серьезный социальный вред, включая дискриминацию в сфере аренды и кредитования, а также неправомерную потерю государственных льгот.
Собственный приказ Трампа об искусственном интеллекте на первый срок потребовал от федеральных систем искусственного интеллекта уважать гражданские права, а это потребует исследования социального вреда.
Индустрия искусственного интеллекта в целом приветствовала программу безопасности Байдена. «Мы слышим, что в целом полезно прояснить этот вопрос», – говорит американский чиновник. Для новых компаний с небольшими командами «это расширяет возможности их сотрудников решать эти проблемы».
Отказ от исполнительной власти Байдена станет тревожным сигналом о том, что «правительство США собирается отказаться от подхода к безопасности ИИ», — говорит Майкл Дэниэл, бывший советник президента по кибербезопасности, который сейчас возглавляет Cyber Threat Alliance, некоммерческую организацию по обмену информацией.
Что касается конкуренции с Китаем, защитники EO говорят, что правила безопасности на самом деле помогут Америке одержать победу, гарантируя, что американские модели искусственного интеллекта будут работать лучше, чем их китайские конкуренты, и будут защищены от экономического шпионажа Пекина.
Два совершенно разных пути
Если Трамп победит в Белом доме в следующем месяце, ожидайте кардинальных перемен в подходе правительства к безопасности ИИ.
По словам Хелберга, республиканцы хотят предотвратить вред от ИИ, применяя «существующие деликтные и статутные законы», а не вводя новые широкие ограничения на технологии, и они выступают за «гораздо большее внимание к максимизации возможностей, предоставляемых ИИ, а не к чрезмерному сосредоточению внимания на рисках». смягчение последствий». Это, вероятно, означало бы гибель требований к отчетности и, возможно, некоторых рекомендаций NIST.
Требование об отчетности может также столкнуться с юридическими проблемами теперь, когда Верховный суд ослабил уважение, которое суды раньше оказывали агентствам при оценке их правил.
А сопротивление Республиканской партии может даже поставить под угрозу добровольное партнерство NIST по тестированию ИИ с ведущими компаниями. «Что произойдет с этими обязательствами в новой администрации?» — спрашивает американский чиновник.
Эта поляризация вокруг ИИ разочаровала технологов, которые обеспокоены тем, что Трамп подорвет поиск более безопасных моделей.
«Помимо перспектив ИИ существуют и опасности, — говорит Никол Тернер Ли, директор Центра технологических инноваций Брукингского института, — и жизненно важно, чтобы следующий президент продолжал обеспечивать безопасность и защищенность этих систем».