Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

В качестве примера можно рассмотреть американский футбол. Дэвид Ромер, профессор экономики в Беркли, в 2006 году опубликовал работу, демонстрирующую, что команды слишком часто решают сделать пант, вместо того чтобы «идти в проход» и получить первый даун или очко {13} 13 David Romer, «Do Firms Maximize? Evidence from Professional Football», Jour. Political Econ. 114, no. 2 (2006): 340–65. [Дэвид Ромер. Фирмы максимизируют прибыль? Данные из профессионального футбола] . С момента публикации работы анализ Ромера был не раз воспроизведен и дополнен более точными данными, а выводы подтвердились. У New York Times даже есть онлайн-бот, который вычисляет оптимальную стратегию каждый раз, когда команда сталкивается с ситуацией четвертого дауна.

Но как это восприняли тренеры? А никак! Со времени публикации работы Ромера частота «проходов» после четвертого дауна не поменялась. Тренеры, которых нанимают владельцы команд, основываясь отчасти на собеседованиях, все еще принимают решения так же, как делали всегда.

Так что простите мне то, что я не теряю сон от страха из-за компьютеров, которые могут захватить мир. Не все сразу, давайте будем действовать постепенно и посмотрим, готовы ли мы доверить машинам принятие простых решений, с которыми те уже справляются лучше людей.

Я полагаю, что мыслящие машины — самая интересная тема для раздумий. Почему? Потому что у этого феномена могут быть значительные последствия. Даже космические.

«Мыслящие машины» уже давно с нами. Это можно понимать по-разному, в зависимости от того, с какого слова начать. Давайте начнем со слова «машины», под которым сегодня мы обычно подразумеваем компьютеры. Компьютеры поначалу были ну очень даже механистичны. Но они становятся все более утонченными. Уже в 1980-х годах они совершали кое-какие замечательные трюки с экспертными системами и базами данных. Сегодня мы уже прошли ту точку, в которой могли в деталях объяснить, как распознавание речи и естественного языка позволяет вашему телефону отвечать на вопросы ребенка. Фраза «магическим образом» сегодня едва ли гипербола. Но мышление ли это на самом деле? Еще нет, но это хорошее начало, и движение продолжается. Цель и правда выглядит очень далекой. Вместо того чтобы рассматривать наш подъем шаг за шагом, давайте взглянем на то, что ждет нас на вершине. Что-нибудь может остановить наше развитие?

Будущее микроэлектронных технологий неясно. Закон Мура пока что работал на нас, провел через несколько опасных моментов, но его дни подходят к концу. До сих пор новые технологии появлялись всегда вовремя, чтобы поддержать экспоненциальный рост вычислительной мощности по расписанию, но это не стоит воспринимать как данность. Быть может, следующий скачок окажется очень сложным и на его подготовку уйдет 50 лет. Или он вообще никогда не случится, хотя мы всегда можем повысить мощность за счет параллельного использования дополнительных чипов. Расписание — это интересный вопрос, но он меркнет в сравнении с размышлениями о пункте назначения.

Теперь рассмотрим слово «мыслить». Мыслящие машины есть давно — это мы сами. Биологические мозги думают уже миллионы лет. Мозг подчиняется законам физики, которые представляют собой механический набор уравнений. В принципе, хороший физический симулятор мог бы, хоть и очень медленно, смоделировать мозг и его окружение. Этот виртуальный мозг определенно был бы мыслящей машиной.

Остается только один вопрос: сколько нужно физики, чтобы такая симуляция заработала? Классической физики, электродинамики и химии хватит? Потребуется ли квантовая логика (или какая-то еще)? Консенсус однозначно на стороне представления о том, что классической физики окажется достаточно (идея про «Новый ум короля» [116] «Новый ум короля. О компьютерах, мышлении и законах физики» (The Emperor's New Mind: Concerning Computers, Minds and The Laws of Physics) — книга британского физика Роджера Пенроуза, вышедшая в 1989 году. В ней Пенроуз утверждает, что человеческое сознание нельзя смоделировать с помощью обычного компьютера, поскольку оно не алгоритмично, однако его природу можно понять при помощи аппарата квантовой механики. — Прим. ред. была отвергнута). Поэтому я думаю о своем мозге и теле как о гигантской машине, составленной из октильона молекул: много-много магнитных деталей детского конструктора, поведение которых хорошо известно и может быть смоделировано. Есть веские причины полагать, что статистическая аппроксимация физики даст такие же результаты. Но опять же это относится только к расписанию, а не к пункту назначения. Важный вопрос: как на основе такой сложной машины возникают мышление и сознание? Есть некая конструкция, некий мост, ведущий от цифрового и виртуального к аналоговому, органическому и реальному?