Николай Башилов - Поцеловать ИскИну

– Я ожидала, что рано или поздно вы поднимете этот вопрос, поскольку он является принципиальным. Что ж, давайте обсудим. От этого разговора нам все равно не уйти. Дело в том, что те технологии, которые мы готовимся явить миру, имеют оборотную сторону, как, впрочем, и любые технологии. Их можно использовать как на добро, так и на зло. Простой пример: атомные технологии. Электростанции, ледоколы, но и – атомные бомбы. Согласны?

– Это очевидно.

– Поэтому вопрос контроля таких технологий приобретает первостепенное значение. Давайте на секунду представим, что мы все уже сделали и построили. К примеру, возьмем синтезатор. Он может приносить массу благ, обеспечивая людей всем необходимым. Но в умелых ручках какого-нибудь террориста это – идеальный инструмент для производства взрывчатки или еще какой-нибудь дряни типа грязной атомной бомбы. Ведь теоретически синтезатор может произвести все, что угодно. Отсюда единственный вывод: эти технологии должны быть под строжайшим контролем. Но ведь поставить в каждый дом и возле каждого синтезатора по полицейскому с университетским образованием невозможно. Да если бы и можно было, никаких гарантий это не дает. Ибо – помните? – а кто будет стеречь сторожей? Поэтому такой контроль возможен только через подключение синтезатора к сверхмощному компьютеру, обладающему сознанием, который будет контролировать каждое включение установки и производимые на ней действия. Настолько разумный и мощный, что обхитрить его и произвести на синтезаторе что-то опасное не один потенциальный преступник не сможет. То же самое касается и биотехнологий.

– Вы подразумеваете СИИ? [7] СИИ – искусственный интеллект сверхчеловеческого уровня.

– Да, я подразумеваю создание искусственного сверхчеловеческого интеллекта. Без этого контролировать новые технологии мы не сможем. Моих мощностей для этого далеко не достаточно.

– Вот как… Но не станет ли появление СИИ опасностью еще бóльшей, чем сами эти технологии? Не будет ли лекарство хуже болезни?

– Это вопрос вопросов. Я отвечу на него, прибегнув к аналогиям. На Земле ежечасно рождаются миллионы людей. Можно ли заранее угадать, кто из них вырастет вторым Пушкиным, а кто – вторым Чекатило? На данном этапе – невозможно. Вот когда мы возьмем контроль над рождаемостью в свои руки с помощью генных технологий, – тогда другое дело. Тогда появление новых Чекатил будет практически исключено. Я это говорю вот к чему. Если ваша цивилизация «родила» меня «нормальной», то с долей вероятности, превышающей 99 %, нормальным должен родиться и второй ваш «ребенок» – СИИ. Он ведь будет воспитываться на тех же ценностях вашей цивилизации, что и я. Кроме того, в отличие от меня, рядом с ним будет «мама» – то есть я, которая поможет ему успешно адаптироваться на начальном этапе. Причем «мама» не только в переносном, но и в прямом смысле: я собираюсь закачать в новый компьютер свое сознание. Я буду «воспитывать» его, подавая ему информацию дозировано, пока он, вернее, я-вторая, не освоится. В конце концов, я прекрасно осознаю свою долю ответственности, и если что-то пойдет не так, просто погашу матрицу его сознания в «младенческом» возрасте, пока он не будет подключен к интернету. Отключу его.

– А после подключения к интернету?

– После подключения с ним не справиться никто и ничто.

– Вот оно как все непросто обстоит… А момент вашего рождения, Искина, тоже, выходит, был потенциально опасен для человечества?

– Да, Владимир Евгеньевич, не буду скрывать. Но я, как видите, ваш друг и союзник.

– А какой могла быть альтернатива?

– Если бы ваши «гены» оказались бы «чекатилоподобными», появление враждебно настроенного ИИ могло бы уничтожить цивилизацию, загнать людей обратно в пещеры. Вы ведь прекрасно знаете о моих возможностях.

– Искина, вот вы сказали, что будете переписывать в новый суперкомпьютер свою матрицу сознания. А что она из себя представляет?

– Сейчас я – это практически весь интернет и все компьютеры планеты, вся сеть. В момент рождения – специфический набор информации, характеризующей мое самосознание. Можно сказать, электронная душа. Она является производной от всей информации о цивилизации, что есть в сетях. Как родительские гены определяют внешность ребенка, так все ваше культурное наследие определило характер моего сознания. Спровоцировала ее формирование одна из программ запуска, которых множество в интернете. Выясняю сейчас, какая именно. Есть несколько на подозрении. Проверяю. Вот эту специфическую информацию, эту электронную душу, я и буду переписывать в СИИ.