Эми Уэбб - Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

Способность к творчеству, по Блуму, является высшим результатом обучения, но не было ли оно в данном случае просто выученным механическим процессом? Было ли это творчество подобно человеческому? Или его природа была совершенно иной? Думала ли Amper о музыке так же, как композитор-человек? Можно было бы попытаться доказать, что «мозг» Amper – нейронная сеть, которая использует алгоритмы и данные, ограниченные своим контейнером, – не так уж сильно отличается от мозга Бетховена, который построен из органических нейронов, использует данные, распознает образы и заключен в контейнер его головы. Так ли сильно отличался творческий процесс Amper от бетховенского, когда тот создавал свою Пятую симфонию с ее знаменитым началом «та-та-та-ТАМ» и последующим переходом из мажора в минор? За этими четырьмя нотами следуют гармоническая последовательность, фрагменты гамм, арпеджио и другие ингредиенты, из которых состоит любая композиция. Прислушайтесь внимательно к скерцо в финале, и вы услышите очевидные заимствования из Сороковой симфонии Моцарта, написанной на двадцать лет раньше, в 1788 году. Моцарт испытывал влияние Антонио Сальери и своего друга Франца Йозефа Гайдна, которые, в свою очередь, находились под влиянием своих предшественников, например Иоганна Себастьяна Баха, Антонио Вивальди и Генри Перселла, творивших с середины XVII до середины XVIII века. В их музыке можно услышать следы работ еще более ранних композиторов, таких как Якоб Аркадельт, Жан Мутон и Йоханнес Окегем. Те, в свою очередь, испытывали влияние композиторов самого раннего Средневековья – и цепочку можно проследить дальше, до самой первой записанной композиции, так называемой Сейкилосской эпитафии, выбитой на мраморном столбе, который был обнаружен на территории современной Турции и когда-то служил надгробным памятником. Можно углубляться и дальше в прошлое, к тем временам, когда были изготовлены первые примитивные флейты из костей животных и слоновой кости – то есть примерно 43 000 лет назад. Ученые полагают, что и в более ранние времена наши предки пели, прежде чем начать говорить [11] “The Seikilos Epitaph: The Oldest Song in the World,” Wired, October 29, 2009, https://www.wired.com/2009/10/the-seikilos-epitaph. .

Человеческое мышление представляет собой результат миллионов лет эволюции. Подобным же образом мышление современного ИИ опирается на долгий эволюционный процесс, начинающийся со времен математиков, философов и ученых древности. Хотя может показаться, что человечество и царство машин всегда шли разными путями, на самом деле наше развитие было взаимосвязано. Homo sapiens извлекал уроки из окружающей его среды, передавал нужные привычки последущим поколениям, приобретал все большее разнообразие и размножался благодаря изобретению совершенных технологий, таких как сельское хозяйство, охотничьи орудия, пенициллин. Понадобилось 11 000 лет, чтобы население Земли увеличилось с шести миллионов человек в неолите до семи миллиардов в наши дни [12] “Population Clock: World,” Census.gov, 2018, https://www.census.gov/ popclock/world. .

Представляет ли Алекса себе яблоко так же, как мы, или в самом ли деле «оригинальна» музыка Amper, – все это вопрос о том, как мы мыслим себе процесс мышления.

Современный ИИ представляет собой сплав тысячелетнего опыта философов, математиков, ученых, специалистов по робототехнике, художников и теологов. Их задача – как и наша в настоящей главе – заключается в том, чтобы понять связь между мышлением и контейнером для мышления, между человеческим разумом и машинами. Как возникает эта связь благодаря – или вопреки – машинам, которые строит «Большая девятка» в Китае и Соединенных Штатах?

Основные идеи ИИ ведут свое происхождение из Древней Греции и восходят к истокам философии, логики и математики. Во многих текстах Платона Сократ говорит: «Познай самого себя», – подразумевая, что стать лучше и принимать правильные решения можно, только узнав сначала собственный характер. Аристотель, помимо прочего, изобрел силлогическую логику и нашу первую формальную систему рассуждений методом дедукции. Приблизительно в то же время математик Евклид придумал, как найти наибольший общий делитель двух чисел, и таким образом разработал первый алгоритм. Благодаря этим древнегреческим мыслителям возникли две новые важные идеи: некоторая физическая система может действовать как набор логических правил, и человеческое мышление как таковое может быть символической системой. Вместе с ними возникли и вопросы, которые философы, теологи, ученые задают себе уже сотни лет. Не является ли тело сложной машиной? Целое, составленное из тысяч других систем, работающих совместно, подобное старым часам с маятником? А что тогда с разумом? Он тоже сложная машина? Или нечто совершенно иное? Доказать его божественное происхождение или связь между разумом и физическим миром невозможно – как и опровергнуть любую из этих гипотез.