Эми Уэбб - Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

Состав группы имел решающее значение. В нее вошли первоклассные инженеры, социологи, психологи, математики, физики и специалисты по когнитивистике. Им предстояло ставить фундаментальные вопросы и отвечать на них: что значит «мыслить», как работает наш «разум» и как научить машины учиться таким же образом, каким это делают люди? Идея заключалась в том, что разноплановая группа продолжит совместную работу после завершения семинара, развивая эту новую область знания. Поскольку речь шла о междисциплинарном подходе к созданию мыслящих машин, для его обозначения понадобилось новое имя. Участники остановились на немного двусмысленном, но элегантном термине «искусственный интеллект».

Маккарти составил предварительный список из 47 экспертов, присутствие которых считал необходимым, чтобы завязать нужные связи между людьми и заложить основу для дальнейших исследований и работ по прототипированию. Составить список людей, без которых нельзя было обойтись, когда по-настоящему начнутся работы по концептуализации и конструированию ИИ, было очень сложно. В частности, Минскому не нравилось, что на встрече не будет двух ключевых фигур: Тьюринг умер за два года до того, а фон Нейман находился в терминальной стадии рака [33].

Тем не менее в своих стараниях собрать разностороннюю группу специалистов, чьи знания и навыки взаимно дополняли бы друг друга, организаторы упустили из виду несколько существенных аспектов. Все в списке были белыми – несмотря на то, что в областях знания, интересовавших Маккарти и Минского, работало множество первоклассных цветных специалистов. Все они работали или в технологических гигантах своего времени (IBM, Bell Labs), или в узком кругу избранных университетов. Множество одаренных женщин уже тогда вносили заметный вклад в инженерное дело, информатику, математику, физику – но им места в списке не нашлось [34]. Среди приглашенных были только мужчины, за исключением жены Марвина Минского, Глории. Не отдавая себе отчета в своих предубеждениях, эти ученые, пытавшиеся понять, как устроен человеческий ум, как мы мыслим и как машины могли бы учиться у всего человечества, резко ограничили свою выборку теми, кто выглядел и говорил так же, как они.

В следующем году группа собралась на последнем этаже факультета математики Дартмутского колледжа. Среди тем ее работ были теория сложности, моделирование естественного языка, нейронные сети, связь случайности и творчества, а также самообучающиеся машины. По рабочим дням они собирались в главной аудитории факультета для общего обсуждения, после которого расходились, чтобы работать над частными задачами. Во время одного из таких общих собраний профессора Алан Ньюэлл, Герберт Саймон и Клифф Шоу предложили способ доказательства теорем логики и смоделировали процесс вручную. Свою программу они назвали Logic Theorist, «Ученый логик». Она оказалась первой программой, способной имитировать навыки решения задач, присущие человеку. (Впоследствии программа доказала 38 из 52 теорем из «Оснований математики» Альфреда Норта Уайтхеда и Бертрана Рассела, фундаментального учебника по началам математической науки.) Клод Шеннон, несколькими годами ранее учивший компьютеры играть в шахматы против людей, получил возможность показать прототип своей программы, работа над которой тогда еще продолжалась [35].

Тем летом в Дартмуте расчетам Маккарти и Минского на фундаментальный прорыв в области ИИ не суждено было оправдаться. Чтобы превратить ИИ из теории в практику, им не хватило времени, не говоря уже о вычислительной мощности [36]. Тем не менее именно к этому моменту восходят три практики, образующие фундамент ИИ в известном нам сегодня виде:

– теоретическая и практическая разработка ИИ, его тестирование и совершенствование будут производиться крупными технологическими компаниями и академической наукой, работающими совместно; – совершенствование ИИ требует больших сумм денег, поэтому станет необходима коммерциализация этих работ в той или иной форме – будь то взаимодействие с государственными или военными органами через партнерства или разработка продуктов и систем, которые могут быть проданы;

– исследование и разработка ИИ будут опираться на сеть ученых, работающих на стыке дисциплин, что означает создание новой отрасли науки с нуля. Это также означает, что уже работающие в этой отрасли будут нанимать, как правило, знакомых им людей, обеспечивая относительную однородность сети и ограничивая выборку.