Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Контролируемое обучение, использующее нейронные сети, — это шаг вперед, но им все-таки еще далеко до интеллекта. Функции, выполняемые ими, аналогичны некоторым возможностям коры головного мозга — она также увеличивалась в результате эволюции, но для решения сложных познавательных проблем она взаимодействует со множеством других отделов мозга.

В 1992 году Джеральд Тезоро из IBM, используя обучение с подкреплением, получил нейронную сеть, способную играть в нарды на уровне чемпиона мира. Она играла самостоятельно, и единственной обратной связью, которую она получала, был результат: информация о том, какая сторона выиграла. Мозг использует обучение с подкреплением, чтобы создавать цепочки решений для достижения целей (таких как отыскание пищи) в условиях неопределенности. DeepMind — компания, которую в 2014 году купила Google, — недавно использовала аналогичный подход, чтобы научить нейронные сети играть в семь классических игр Atari. Единственными вводными данными для системы обучения были пиксели экране и набранные очки — та же самая информация, которую используют люди. Программа научилась играть лучше, чем самые опытные игроки.

Какое воздействие эти достижения окажут на нас в ближайшем будущем? Мы не особенно хорошо справляемся с прогнозами последствий новых изобретений, и часто нужно время, чтобы найти для них нишу, но у нас уже есть один пример, позволяющий понять, к чему это может привести. Когда в 1997 году Deep Blue обыграл Гарри Каспарова, чемпиона мира по шахматам, другие шахматисты оставили попытки соревноваться с машинами? Вовсе нет: они стали использовать шахматные программы, чтобы научиться играть лучше, и, как следствие, общий уровень игры в мире повысился.

Люди — не самый быстрый и не самый сильный вид, но мы учимся лучше всех. Люди изобрели формальную школу, где дети много лет трудятся, совершенствуясь в чтении, письме и арифметике и получая более специализированные навыки. Лучше всего, когда взрослый учитель взаимодействует с учеником один на один, подстраиваясь под конкретного ребенка. Однако это трудоемкий процесс. Немногие могут позволить себе индивидуальное обучение, и конвейерная система образования, характерная для большинства сегодняшних школ, — довольно плохая замена. Компьютерные программы могут следить за успеваемостью ученика, а некоторые — даже обеспечивать корректирующую обратную связь в случае с наиболее распространенными ошибками. Однако мозги у всех разные, и компьютер не заменит учителя-человека, выстраивающего долгосрочные отношения с учеником. Можно ли создать искусственного наставника для каждого ребенка? У нас уже есть рекомендательные системы в интернете, которые говорят: «Если вам понравился X, то вам может понравиться и Y», — они построены на анализе данных множества пользователей со схожими паттернами предпочтений.

Когда-нибудь умственное развитие каждого ученика можно будет проследить с самого детства с помощью персонализированной системы глубинного обучения. Современный уровень технологии не может достичь такой степени понимания человеческого разума, но уже сейчас Facebook предпринимает попытки по созданию с помощью имеющейся огромной базы данных друзей, фотографий и лайков модели психического для каждого человека на планете.

Потому я сделаю такой вывод: чем больше будет когнитивных приспособлений, вроде шахматных программ и рекомендательных систем, тем умнее и способнее станут люди.

Бедные, несчастные сотрудники Агентства национальной безопасности! Они шпионят за всеми (сюрприз!), что всех бесит. Но, по крайней мере, АНБ следит за нами для того, чтобы защитить нас от террористов. Прямо сейчас, когда вы читаете эти строки, где-то далеко на экране какого-то компьютера появилось всплывающее окно. В нем надпись: «Вы только что купили две тонны азотного удобрения. Тем, кто покупает две тонны азотного удобрения, также понравились вот эти детонаторы…» Amazon, Facebook, Google и Microsoft тоже за всеми шпионят. Но, поскольку такая слежка идет пользу всем нам, включая террористов, все в порядке.

Электронные шпионы — это не люди. Это машины. Шпионы-люди вряд ли стали бы так радостно предлагать самый надежный детонатор. Каким-то образом, использование искусственных разумов для анализа нашей электронной почты кажется более гигиеничным. Если виртуальные шпионы копаются в наших личных данных только для того, чтобы продать нам побольше барахла, то мы можем смириться с утратой конфиденциальности. Однако огромные вычислительные мощности направлены на то, чтобы машины пытались узнать, что у нас на уме. Общая вычислительная мощность, используемая такими компаниями, которые собирают наши с вами данные, составляет около одного эксафлопса [37] Флопс (от англ. FLOPs, floating point operations — операции с плавающей запятой) — единица измерения производительности компьютеров; эксафлопс — 1018 операций с плавающей запятой в секунду. — Прим. ред. — миллиард миллиардов операций в секунду. Это как если бы электронные шпионы использовали вычислительную мощность одного современного смартфона на каждого человека на Земле.