Мичио Каку - Физика будущего

Сегодня исследователи ИИ не представляют, как можно воспроизвести в роботе процессы мышления. Большинство ученых просто поднимает руки и говорит, что как-нибудь громадные сети компьютеров сами выдадут «системные эффекты», так же как иногда из хаоса спонтанно возникает порядок. Если же прямо спросить, как именно эти системные эффекты приведут к возникновению сознания, большинство пожимает плечами и закатывает глаза.

Мы не знаем, как сделать робота, который обладал бы сознанием, но вообразить робота, который превзошел бы нас, мы в состоянии. Для оценки уровня сознания воспользуемся всем уже сказанным.

Такой робот должен великолепно проявлять себя в третьем качестве: он сможет гораздо лучше, чем мы, производить сложнейшие расчеты и моделирование будущего; он сможет рассмотреть больше вариантов, под разными углами, более подробно и глубоко. Его модели будут более точными, чем наши, потому что он будет лучше владеть здравым смыслом и законами природы, а потому лучше видеть закономерности. Он научится замечать проблемы, которые человек мог бы недооценить или просто не заметить. Более того, он научится ставить перед собой собственные цели. Если роботы поставят себе цель, в частности, помогать роду человеческому, все в порядке. Но если однажды окажется, что человечество мешает достижению какой-то их цели, последствия могут быть весьма неприятными.

Все это порождает следующий вопрос: что станет с человечеством, если будет реализован второй сценарий?

В одном сценарии нас, ничтожных человечков, просто отодвинут в сторону как пережиток эволюции. Более приспособленные виды развиваются и сменяют менее приспособленные — это закон эволюции. Возможно, существование человечества на этом закончится и последние люди будут доживать свой век в зоопарках под любопытными взглядами наших творений-роботов. Возможно, такова наша судьба: дать жизнь суперроботам, которые затем будут относиться к нам как к чудовищно примитивной и не слишком существенной главе своей эволюции. Может быть, в этом и состоит наша историческая роль — породить тех, кто сменит нас на пути эволюции. В этом сценарии нашей задачей будет побыстрее уйти с пути разумных роботов.

Дуглас Хофштадтер признался мне, что, возможно, таков естественный порядок вещей, но мы должны относиться к этим сверхразумным роботам как к собственным детям — ведь они и впрямь наши дети в каком-то смысле. Если человек может заботиться о своих детях, сказал он мне, то почему он не может так же заботиться и о разумных роботах, которые тоже являются нашими детьми?

Ганс Моравек представляет, как может чувствовать себя человек, которого обошли и оставили далеко позади роботы: «…жизнь может показаться бессмысленной, если нам суждено будет провести ее за глупым разглядыванием нашего сверхразумного потомства, в то время как они будут пытаться растолковать нам свои все более впечатляющие достижения упрощенным языком, чтобы мы могли понять».

Если настанет наконец судьбоносный день, когда роботы обойдут нас разумом, мы не только перестанем быть самыми разумными существами на Земле; наши создания смогут изготовить собственные копии и даже улучшить их, так что «дети» будут умнее «родителей». Эта армия самовоспроизводящихся роботов положит начало бесконечному ряду будущих поколений, причем каждое следующее будет умнее предыдущего. А поскольку теоретически роботы смогут создавать следующие поколения очень быстро, со временем этот процесс вплотную подойдет к экспоненциальному взрыву, и бесчисленные роботы в своем ненасытном стремлении к разумности начнут истощать ресурсы планеты.

В одном из возможных сценариев этот ненасытный аппетит ко все более высокому интеллекту со временем истощит все ресурсы планеты и Земля целиком превратится в компьютер. Некоторые считают, что сверхразумные роботы отправятся с Земли к звездам, чтобы там продолжить свой бесконечный квест; они доберутся до других планет, звезд и галактик и попытаются превратить в компьютеры и их. Но поскольку планеты, звезды и галактики находятся от нас невероятно далеко, Земля-компьютер, возможно, сумеет изменить законы природы, так чтобы можно было путешествовать быстрее скорости света и поглощать целые звездные системы и галактики. Некоторые даже верят, что в конце концов этот сверхкомпьютер сможет поглотить всю Вселенную, так что Вселенная тоже станет разумной.