Валерий Чумаков - Конец света - прогнозы и сценарии

Но если мы создадим искусственный разум, равный человеческому, то что может помешать нам создать разум, превосходящий человеческий? Разум, для которого проблемы, кажущиеся нам сейчас сложными и даже нерешаемыми, будут простыми и понятными. Дальше получается еще интереснее. Если человек создаст разум, более совершенный и мощный, чем его собственный, ничто не помешает этому созданному разуму создать еще более мощного искусственного собрата. Причем произойдет это не только при молчаливом согласии, но и при непосредственной поддержке человечества, которому все увеличивающаяся мощность компьютеров для решения своих, человеческих задач просто необходима. Ведь чем мощнее компьютеры, тем лучше наша жизнь. В сущности, для человечества компьютер — это такой относительно безопасный наркотик, дозу которого постоянно хочется увеличивать. Вреда от этого наркотика мы не ощущаем. Пока.

Я не собираюсь никого пугать ни «бунтом машин», ни появлением «терминаторов», истребляющих людей, ни наступлением эпохи «матрицы». Во-первых, предотвратить такой бунт совсем не сложно. И дело тут даже не в «трех законах робототехники», хотя и в них тоже. Три закона, целью которых является защита человека от возможных действий разумных машин, были сформулированы известным американским фантастом русского происхождения Айзеком Азимовым в рассказе «Хоровод» еще в 1942 году. Вот эти законы, намертво закрепленные в любом искусственном интеллекте.

Первый закон: робот не может причинить вреда человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Второй закон: робот должен выполнять приказы человека в той мере, в какой это не противоречит первому закону.

Третий закон: робот должен заботиться о своей безопасности в той мере, в какой это не противоречит первому и второму законам.

Кроме того, значительно позже, уже в 1986 году, Азимов дополнил этот свод нулевым законом: робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.

Так вот, дело не в том, что человек способен в любой момент выключить «зарвавшийся» компьютер (это может оказаться непросто сделать), а в том, что рядом с суперинтеллектом человек окажется существом более низкого порядка. Даже самое минимальное отставание уже приведет к стойкому непониманию происходящего. Компьютер будет сам ставить перед собой задачи и сам будет их решать, причем методами, которые человек не сможет (или не будет успевать) постигнуть. Вокруг нас появятся объекты, тайну работы которых нам не под силу будет понять.

Нельзя сказать, что при ИИ человечеству будет жить плохо. Кошка не представляет, и, наверное, не пытается представить, по какому принципу работает электрообогреватель, но это не мешает ей греться около него.

Обогнать наш разум, кажущийся нам совершенным, вовсе не сложно. Нейрофизиологи говорят, что вычислительные способности человеческого мозга составляют 1014 (сто триллионов) операций в секунду. При этом современные суперкомпьютеры уже оперируют скоростями 1015 операций в секунду. По оценке физика Ричарда Кэрригена из Национальной американской лаборатории ускорения Ферми (US Fermi National accelerator laboratory) в Иллинойсе, объем сознательной памяти человека составляет всего 2,5 гигабайта. Это маловато даже по сравнению с обычными компьютерами, у которых только оперативная память уже сейчас иногда зашкаливает за 4 гига, а уж про жесткий диск с его минимально-стандартными 60 гигабайтами и говорить нечего. Нейрофизиологи установили, что в каждый конкретный момент человеческий мозг может «оперировать» не более чем пятью — девятью объектами (средний человек обычно держится на уровне семи объектов). Поэтому большинство телефонных номеров на Земле состоит из семи цифр: человек «на ощупь» определил наиболее продуктивное количество предметов. Число семь считается чуть не священным. Даже в поговорках внимание к нему отражено: «Семеро с ложкой, один с сошкой», «Семеро одного не ждут», «За семь верст киселя хлебать». Мы ходим за семь морей, поднимаемся на седьмое небо и т. д. Для нас просто то, что до семи, дальше начинаются сложности.

Нам сложно понять принцип решения дифференциальных уравнений, сложно взять в уме не только интеграл, но даже извлечь квадратный корень из трехзначного числа, так как при этом надо оперировать с большим количеством цифр. Для компьютера таких проблем не нет. Для него тот же интеграл — задача на уровне «У Васи было три яблока. Одно он съел, сколько яблок у Васи осталось». Для ИИ будет довольно сложно объяснить человеку вещи, кажущиеся ему элементарными, а уж со сложными он и заморачиваться не будет, успокоив себя тем, что это человеческому разуму без надобности.