Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Во-вторых, искусственное сознание, упакованное в коробочку размером с мозг человека, может испытывать в миллионы раз больше переживаний в секунду, чем мы, так как электромагнитные сигналы распространяются со скоростью света, – то есть в миллионы раз быстрее, чем распространяются сигналы вдоль нейронов. Однако чем больше искусственный интеллект, тем медленнее должны быть его глобальные мысли, чтобы информации хватило времени достичь каждой из его частей, как мы видели в главе 4. Поэтому мы ожидаем, что у искусственного интеллекта “Gaia” размером с Землю будет только около десяти осмысленных переживаний в секунду, как у человека, а искусственный интеллект размером с галактику может пронзить лишь одна глобальная мысль в 100 000 лет, – то есть не более сотни переживаний за все время существования нашей Вселенной до настоящего времени! Поэтому, казалось бы, у большого искусственного интеллекта должен быть мощный стимул делегировать вычисления маленьким подсистемам, способным выполнять их, чтобы не терять времени, – подобно тому, как наше сознание делегировало моргательный рефлекс в маленькую подсистему, быструю и бессознательную. Хотя мы уже видели, что сознательная обработка информации в нашем мозгу – это всего лишь верхушка нашего в общем-то бессознательного айсберга, мы должны ожидать еще больших крайностей у больших интеллектуальных систем будущего: представляя собой единое сознание, они, вероятно, должны будут оставить без внимания почти всю обработку информации, происходящую внутри них. Кроме того, хотя осознанные переживания, которые испытывает такая система, могут быть чрезвычайно сложными, они при этом развиваются черепашьими шагами в сравнении с быстрой деятельностью ее меньших частей.

Неудивительно, что в голову в связи с этим приходит упоминавшаяся выше полемика по поводу того, могут ли части сознательной сущности также обладать сознанием. Теория интегральной информации отрицает такую возможность, и это означает, что если какая-то будущая астрономически большая система с искусственным интеллектом будет обладать сознанием, то почти вся обработка информации внутри нее будет проходить бессознательно. Отсюда следует, что если цивилизация меньших сущностей с искусственным интеллектом в процессе улучшения своих коммуникативных способностей придет к точке, когда возникает единый коллективный обладающий сознанием ум, каждое из их намного более быстрых индивидуальных сознаний внезапно угаснет. Если предсказание теории интегральной информации ошибочно, то, с другой стороны, коллективный разум сможет сосуществовать с целой армией обладающих сознанием меньших умов. Тогда мы даже можем себе представить иерархию вложенных друг в друга сознаний всех уровней, от микроскопического до космического.

Как мы видели выше, бессознательная обработка информации в нашем человеческом мозгу представляется связанной с легким, быстрым и автоматическим способом мышления, что психологи называют “системой 1” {127} 127 См. сн. 103. . Например, система 1 может сообщить вашему сознанию, что проведенный ею сложный анализ визуальной информации, полученной от органов чувств, выявил в приближающемся человеке вашего лучшего друга. При этом она никоим образом не сообщает, какие вычисления ею проводились. Если такая связь между системами и сознанием подтвердится, то возникнет соблазн распространить эту терминологию на искусственный интеллект, называя системой 1 все быстрые рутинные задачи, делегированные бессознательным модулям. Трудоемкая, медленная, требующая усилий и глобального контроля со стороны всего искусственного интеллекта – это система 2. У нас, людей, также есть осознанные переживания, связанные с тем, что я называю “системой 0”: никак не обрабатываемое пассивное восприятие происходит вокруг вас, когда вы сидите не двигаясь и даже не думаете, а просто наблюдаете. Системы 0, 1 и 2 кажутся непрерывно усложняющимися, и даже поразительно, что только та, что посередине, представляется бессознательной. Теория интегральной информации объясняет это тем, что пассивная сенсорная информация в системе 0 хранится в решетчатых структурах с очень высокой интеграцией, в то время как система 2 имеет высокий уровень интеграции из-за петель обратной связи, где вся информация, которой вы располагаете сейчас, может повлиять на будущие состояния вашего мозга. С другой стороны, именно предсказание сознания в решетчатых структурах вызвало критику Скотта Ааронсона в эпизодах, о которых шла речь выше. Подводя итог, можно сказать, что если теория, дающая решение довольно трудной проблемы сознания, сможет в один прекрасный день пройти через строй строгих экспериментальных проверок так, что мы начнем серьезно относиться к ее предсказаниям, то тем самым будет значительно сужен круг возможных вариантов решения еще более сложной проблемы – относительно того, что может испытывать в будущем обладающий сознанием искусственный интеллект.