Хинтон разделяет награду с коллегой-компьютерщиком Джоном Хопфилдом, который изобрел тип нейронной сети сопоставления с образцом, которая может хранить и реконструировать данные. Хинтон использовал эту технологию, известную как сеть Хопфилда, для разработки обратного распространения ошибки — алгоритма, который позволяет нейронным сетям обучаться.
Хопфилд и Хинтон заимствовали методы физики, особенно статистические, для разработки своих подходов. По словам Нобелевского комитета, эта пара удостоена награды «за фундаментальные открытия и изобретения, которые делают возможным машинное обучение с помощью искусственных нейронных сетей».
Но с мая 2023 года, когда Обзор технологий Массачусетского технологического института помог распространить новость о том, что Хинтон теперь боится технологии, которую он помог создать, 76-летний ученый стал гораздо более известен как номинальный лидер думеризма — идеи о том, что существует вполне реальный риск того, что в ближайшем будущем ИИ может спровоцировать катастрофические события, вплоть до вымирания человечества.
Думеризм не был чем-то новым, но Хинтон, получивший в 2018 году премию Тьюринга, высшую награду в области компьютерных наук, принес новый авторитет позиции, которую многие из его коллег когда-то считали странной.
Что заставило Хинтона высказаться? Когда я встретился с ним в его лондонском доме в прошлом году, Хинтон сказал мне, что он был поражен тем, на что способны новые большие языковые модели. Последняя флагманская модель OpenAI, GPT-4, была выпущена несколькими неделями ранее. То, что увидел Хинтон, убедило его в том, что такая технология, основанная на глубоком обучении, быстро станет умнее человека. И его беспокоило, какие у этого будут мотивы, когда это произойдет.
«Я внезапно изменил свое мнение о том, будут ли эти существа умнее нас», — сказал он мне тогда. «Я думаю, что сейчас они очень близки к этому и в будущем будут намного умнее нас. Как нам это пережить?»
Взгляды Хинтона вызвали многомесячную шумиху в средствах массовой информации и превратили те экзистенциальные риски, которые он и другие представляли (от экономического коллапса до роботов-геноцидов), в основную озабоченность. Сотни ведущих ученых и технологических лидеров подписали открытые письма, предупреждающие о катастрофических недостатках искусственного интеллекта. Был введен мораторий на развитие ИИ. Политики заверили избирателей, что сделают все возможное, чтобы предотвратить худшее.
Несмотря на ажиотаж, многие считают взгляды Хинтона фантастическими. Ян Лекун, главный научный сотрудник в области искусственного интеллекта в Meta и коллега Хинтона, лауреат Премии Тьюринга 2018 года, назвал думеризм «нелепо смешным».
Сегодняшняя премия присуждается за фундаментальную работу в области технологий, которые стали частью повседневной жизни. Это также наверняка прольет еще более яркий свет на более пугающие мнения Хинтона.