СТОКГОЛЬМ — Два пионера искусственного интеллекта — Джон Хопфилд и Джеффри Хинтон — во вторник получили Нобелевскую премию по физике за помощь в создании строительных блоков машинного обучения, которое революционизирует то, как мы работаем и живем, но также создает новые угрозы для человечества.
Хинтон, известный как крестный отец искусственного интеллекта, является гражданином Канады и Великобритании, работающим в Университете Торонто, а Хопфилд — американцем, работающим в Принстоне.
«Эти два джентльмена были настоящими пионерами», — сказал член Нобелевского комитета по физике Марк Пирс.
Искусственные нейронные сети — взаимосвязанные компьютерные узлы, созданные на основе нейронов человеческого мозга — впервые разработанные исследователями, используются в науке и медицине и «также стали частью нашей повседневной жизни», — сказала Эллен Мунс из Нобелевского комитета Шведской королевской академии искусств. наук.
Хопфилд, чья работа 1982 года заложила основу для Hinton’s, рассказал Associated Press: «Я по-прежнему поражаюсь тому влиянию, которое она оказала».
Хинтон предсказал, что ИИ в конечном итоге окажет «огромное влияние» на цивилизацию, принеся улучшения в производительности и здравоохранении.
«Это можно было бы сравнить с промышленной революцией», — сказал он в открытом разговоре с журналистами и представителями Шведской королевской академии наук.
«Вместо того, чтобы превосходить людей по физической силе, они будут превосходить людей по интеллектуальным способностям. У нас нет опыта того, что значит иметь вещи умнее нас. И это будет замечательно во многих отношениях», — сказал Хинтон.
«Но нам также следует беспокоиться о ряде возможных плохих последствий, особенно об угрозе выхода этих вещей из-под контроля».
Нобелевский комитет также упомянул об опасениях по поводу возможной обратной стороны.
Мунс сказал, что, хотя она имеет «огромные преимущества, ее быстрое развитие также вызывает обеспокоенность по поводу нашего будущего. В совокупности люди несут ответственность за использование этой новой технологии безопасным и этичным способом для наибольшего блага человечества».
Хинтон, который ушел из Google, чтобы более свободно говорить об опасностях технологии, которую он помогал создавать, разделяет эти опасения.
«Я обеспокоен тем, что общим последствием этого могут стать системы, более разумные, чем мы, которые в конечном итоге возьмут на себя управление», — сказал Хинтон.
Со своей стороны, Хопфилд, подписавший первые петиции исследователей, призывающие к жесткому контролю над технологией, сравнил риски и преимущества работы над вирусами и ядерной энергией, способной помочь обществу и нанести ему вред.
Хопфилд, который жил со своей женой в коттедже в Хэмпшире, Англия, сказал, что после того, как он выпил кофе и сделал прививку от гриппа, он открыл свой компьютер и начал бурно работать.
«Я никогда в жизни не видел столько писем», — сказал он. Он добавил, что его ждали бутылка шампанского и тарелка супа, но он сомневается, что в городе найдутся коллеги-физики, которые присоединятся к празднованию.
Хинтон сказал, что он шокирован такой честью.
«Я ошеломлен. Я понятия не имел, что это произойдет», — сказал он, когда с ним связались по телефону Нобелевский комитет. Он сказал, что был в дешевом отеле без Интернета.
76-летний Хинтон в 1980-х годах помог разработать метод, известный как обратное распространение ошибки, который помогает обучающим машинам «обучаться» путем тонкой настройки ошибок до тех пор, пока они не исчезнут. Это похоже на то, как учится студент: первоначальное решение оценивается, выявляются недостатки и возвращается для исправления и ремонта. Этот процесс продолжается до тех пор, пока ответ не будет соответствовать версии реальности в сети.
У Хинтона было нетрадиционное образование психолога, он также пробовал себя в столярном деле и искренне интересовался тем, как работает разум, рассказал протеже Ник Фросст, который был первым сотрудником Хинтона в отделе искусственного интеллекта Google в Торонто.
Его «игривость и искренний интерес к ответам на фундаментальные вопросы, я думаю, являются ключом к его успеху как ученого», — сказал Фросст.
Он также не остановился на своей новаторской работе 1980-х годов.
«Он постоянно пробует сумасшедшие вещи, и некоторые из них работают очень хорошо, а некоторые нет», — сказал Фросст. «Но все они внесли свой вклад в успех этой области и побудили других исследователей попробовать что-то новое».
Команда Хинтона из Университета Торонто поразила коллег, используя нейронную сеть и выиграв престижный конкурс компьютерного зрения ImageNet в 2012 году. Это породило шквал подражателей и стало «очень, очень важным моментом в ретроспективе и в ходе истории искусственного интеллекта». — сказал ученый-компьютерщик Стэнфордского университета и создатель ImageNet Фей-Фей Ли.
«Многие люди считают, что это рождение современного искусственного интеллекта», — сказала она.
Хинтон и его коллеги-ученые в области искусственного интеллекта Йошуа Бенджио и Ян ЛеКун выиграли главную премию в области информатики — Премию Тьюринга в 2019 году.
«Долгое время люди думали, что то, что мы втроем делали, было ерундой», — сказал Хинтон агентству AP в 2019 году. «Они думали, что мы были очень заблуждающимися, и то, что мы делали, было очень удивительной вещью, которую явно умные люди тратят впустую. их время истекло».
«Мое послание молодым исследователям: не отчаивайтесь, если все скажут вам, что то, что вы делаете, — глупо».
Многие из бывших студентов и сотрудников Хинтона последовали за ним в технологическую индустрию, когда она начала извлекать выгоду из инноваций в области искусственного интеллекта, а некоторые основали свои собственные компании в области искусственного интеллекта, в том числе Cohere от Frosst и производителя ChatGPT OpenAI. Хинтон сказал, что использует инструменты машинного обучения в своей повседневной жизни.
«Всякий раз, когда я хочу узнать ответ на что-либо, я просто иду и спрашиваю GPT-4», — сказал Хинтон во время объявления Нобелевской премии. «Я ему не совсем доверяю, потому что он может галлюцинировать, но почти во всем он не очень хороший эксперт. И это очень полезно».
Хопфилд, 91 год, создал ассоциативную память, которая может хранить и реконструировать изображения и другие типы закономерностей в данных, заявили в Нобелевском комитете.
«Что меня больше всего интересует, так это вопрос о том, как разум возникает из машины», — сказал Хопфилд в видео, опубликованном в Интернете Институтом Франклина после того, как он вручил ему премию по физике в 2019 году.
Хинтон использовал сеть Хопфилда в качестве основы для новой сети, использующей другой метод, известный как машина Больцмана, которая, по словам комитета, может научиться распознавать характерные элементы в заданном типе данных.
Хотя Нобелевской премии по информатике не присуждается, Ли сказал, что присуждение традиционной научной премии пионерам искусственного интеллекта имеет большое значение и показывает, насколько размыты границы между дисциплинами.
Бенджио, наставником которого был Хинтон и которого «глубоко сформировали» идеи Хопфилда, рассказал AP, что оба победителя «увидели нечто неочевидное: связь между физикой и обучением в нейронных сетях, которые легли в основу современного искусственного интеллекта».
Не все коллеги Хинтона согласны с ним относительно рисков технологии, которую он помог создать.
Фросст провел много «оживленных дебатов» с Хинтоном о рисках ИИ и не согласен с некоторыми предупреждениями Хинтона, но не с его готовностью публично обратиться к ним.
«В основном мы расходимся во мнениях относительно сроков и конкретной технологии, по поводу которой он бьет тревогу», — сказал Фросст. «Я не думаю, что нейронные сети и языковые модели в том виде, в котором они существуют сегодня, представляют экзистенциальный риск».
Бенджио, который уже давно бьет тревогу по поводу рисков ИИ, сказал, что на самом деле его и Хинтона беспокоит «потеря человеческого контроля» и будут ли системы ИИ действовать морально, когда они умнее людей.
«Мы не знаем ответа на эти вопросы», — сказал он. «И мы должны убедиться в этом, прежде чем строить эти машины».
На вопрос, мог ли Нобелевский комитет принять во внимание предупреждения Хинтона при принятии решения о награде, Бенджио ответил, что «мы говорим об очень ранних работах, когда мы думали, что все будет радужно».
Шесть дней объявлений о Нобелевской премии начались в понедельник, когда американцы Виктор Амброс и Гэри Рувкун получили премию в области медицины. В среду они продолжат вручение премии по химии, а в четверг – по литературе. Нобелевская премия мира будет объявлена в пятницу, а награда по экономике — 14 октября.
Премия включает в себя денежную награду в размере 11 миллионов шведских крон (1 миллион долларов США) из завещания, оставленного создателем премии, шведским изобретателем Альфредом Нобелем. Лауреаты приглашаются получить свои награды на церемонии 10 декабря, в годовщину смерти Нобеля.
___
О’Брайен сообщил из Провиденса, Род-Айленд. Боренштейн сообщил из Вашингтона. репортеры AP Майк Кордер в Гааге, Нидерланды; Адити Рамакришнан в Нью-Йорке и Кельвин Чан в Лондоне внесли свой вклад.