Человек, который изобрел AGI: История самой важной аббревиатуры XXI века
Пока технологические гиганты вкладывают сотни миллиардов долларов в гонку за искусственным общим интеллектом, пока политики предупреждают, что проигрыш в этой гонке Китаю станет концом американской гегемонии, пока Nvidia превращается в пятитриллионную империю на волне AGI-лихорадки — имя человека, давшего название этой революции, остается никому не известным. Это история Марка Губруда, который в 1997 году изобрел термин AGI, определил его суть и был забыт историей.
Пророк из подвала
В 1997 году Марк Губруд сидел в суб-суб-подвале Университета Мэриленда, где за его спиной оглушительно включался и выключался огромный насос. Аспирант, одержимый нанотехнологиями и идеями Эрика Дрекслера, он читал всё, что мог найти о перспективных науках и их военном потенциале. Его интересовал не прогресс ради прогресса, а катастрофические риски, которые несут прорывные технологии.
Губруд готовил доклад для Пятой конференции по молекулярным нанотехнологиям. В статье «Нанотехнологии и международная безопасность» он предупреждал: новые науки способны породить конфликты страшнее ядерной войны. Среди этих наук он выделил продвинутый ИИ, который назвал «artificial general intelligence» — искусственным общим интеллектом.
Никто прежде не использовал эту фразу.
Губруд дал четкое определение: «Под продвинутым искусственным общим интеллектом я понимаю ИИ-системы, которые соперничают с человеческим мозгом или превосходят его по сложности и скорости, могут приобретать, обрабатывать и рассуждать с использованием общих знаний, и применимы практически на любом этапе промышленных или военных операций, где иначе потребовался бы человеческий интеллект».
Уберите последний пункт — и вы получите определение AGI, которое используется сегодня. Статья Губруда не получила широкого распространения. Её влияние было минимальным.
Переоткрытие очевидного
Перенесемся в начало 2000-х. «ИИ-зима» всё еще сковывала индустрию, но некоторые исследователи чувствовали оттепель. Рэй Курцвейл в книге «Эпоха духовных машин» предсказал, что к 2030 году ИИ сравняется с человеческим интеллектом. Это зажгло искру в сознании компьютерного ученого Бена Гёрцеля.
Гёрцель вместе с Кассио Пеннакином начали работать над книгой о подходах к ИИ широкого применения — в противовес узкоспециализированному машинному обучению для шахмат или медицинской диагностики. Курцвейл называл это «сильным ИИ», но термин казался размытым. Гёрцель экспериментировал с названиями: «настоящий ИИ», «синтетический интеллект». Варианты не вдохновляли.
Тогда в дискуссию включился Шейн Легг — будущий сооснователь и главный ученый по AGI в DeepMind. «Бен, не называй это настоящим ИИ, — написал Легг в email, — это как послать весь научный мир к чёрту. Если хочешь писать о машинах с общим интеллектом, а не специфическими способностями, может, назвать это искусственным общим интеллектом? AGI. Звучит складно».
Пей Ван предложил другой порядок слов — GAI, general artificial intelligence. Гёрцель заметил, что при произношении вслух GAI может вызвать непреднамеренные коннотации. «Хотя в этом нет ничего плохого», — быстро добавил он. Остановились на AGI.
Интересно, что Ван позже скажет: то, что они назвали AGI в 2002 году, «это по сути изначальный ИИ». Отцы-основатели на Дартмутской конференции 1956 года представляли именно машины с интеллектом широкого спектра, как у человека. «Нам нужен был новый ярлык, потому что старый изменил своё обиходное значение», — объясняет Ван.
«Мы все начали использовать эту фразу в онлайн-форумах, AGI», — вспоминает Легг. Книга Гёрцеля вышла в середине десятилетия, но к тому времени термин уже набирал обороты — появились журнал и конференция с таким названием.
Призрак из прошлого
В середине 2000-х из небытия вынырнул Губруд. «Кто-то выползает из-под земли и говорит: "Я придумал этот термин в 97-м", и мы такие: "Кто ты, чёрт возьми?" Мы проверили — и точно, у него была статья с этим термином. То есть я не изобрел термин, а как бы переизобрел», — признает Легг.
Губруд встретился с Гёрцелем на второй AGI-конференции в 2006 году, но их общение было мимолетным. С Леггом он так и не встретился лично, хотя время от времени дружески общался онлайн. Губруд понимает, что его собственная пассивность вытеснила его из истории.
«Я приму заслуги за первую публикацию и отдам им должное за много другой работы, которую я не делал и, возможно, должен был — но это не было моим фокусом», — говорит он. Его заботила не терминология, а гонка вооружений. Написание той статьи было предупреждением.
Карьера Губруда складывалась непросто, публикаций было немного. Сейчас шестидесятишестилетний ученый большую часть времени ухаживает за матерью. Он продолжает писать статьи с призывами запретить автономных роботов-убийц и подобное оружие.
Парадокс признания
Губруд не может игнорировать диссонанс между своим статусом и положением «владык AGI». «Это захватывает мир, стоит буквально триллионы долларов, — говорит он. — А я шестидесятишестилетний человек с никчемной докторской степенью, без имени, без денег, без работы».
Но у Губруда есть наследие. Он дал имя AGI. Его определение всё еще работает. И его предупреждения об опасностях искусственного общего интеллекта сегодня звучат актуальнее, чем когда-либо.
История Марка Губруда — это притча о том, как технологическая революция проходит мимо тех, кто видел её первым. Пока мир гонится за AGI, забыв того, кто назвал эту цель, стоит вспомнить: самые важные предупреждения часто звучат из подвалов университетов, а не из залов заседаний техногигантов. И почти всегда их игнорируют.
Новости технологий в Telegram
