Вадим Проскурин - Хоббит, который познал истину

Кое у кого печальный конец Олорина вызвал здоровый скепсис в отношении того, будет ли какая-нибудь польза от искусственного интеллекта, если такие незначительные изменения в окружающей среде могут приводить к таким серьезным последствиям. Представьте себе, говорили скептики, если все самолеты армейской группировки одновременно сойдут с ума и рухнут на землю. Или что какое-то беспилотное такси взбесится и начнет бить другие машины, заражая их при этом своим сумасшествием. К счастью, возобладала другая точка зрения, большой босс вовремя заметил, что любая новая технология поначалу бывает ненадежной и практически значимые результаты никогда не появляются раньше чем через год-два после начала исследований.

В общем, дела шли своим чередом, несколько раз я ставил опыты на самом себе, а потом долго думал, как оформить их результаты в виде гениальных озарений мистера Фанга. Самым трудным было то, что результаты опытов надо было вначале понять самому, а это не так просто, как может показаться на первый взгляд.

Ник тем временем продвинулся еще на одну ступеньку служебной лестницы и стал начальником группы. В его личном деле появились слова "обладает уникальной интуицией", кое-кто даже хотел подвергнуть Ника серии психологических тестов, но это предложение было вовремя отвергнуто. По-моему, руководитель проекта просто боялся спугнуть удачу.

Однажды Ник сообщил мне, что он знает, кто я такой. Он решил, что я офицер ЦРУ, которому поручено следить за состоянием дел в данной компании. Я не стал его разубеждать, он извинился, что хотел разгласить государственную тайну и что даже просил за это деньги. Он сообщил, что с радостью будет продолжать нашу совместную работу из идейно-патриотических соображений, я сказал, что он молодец, а сам подумал, что вряд ли такие мысли смогли бы зародиться в его голове без хорошего финансового подкрепления.

Я трижды докладывал Максу о состоянии дел, и каждый раз он сообщал мне, что все идет прекрасно. В последний раз он сказал, что, если бы я был человеком, я бы получил официальный титул Героя России, и эти слова вызвали у меня то, что стало бы истерическим смехом, будь я в данный момент в визуализированном теле, способном смеяться. А так я просто отметил, что тот факт, что меня считают героем даже люди реального мира, весьма забавен.

Наконец настал момент, когда в специально подготовленный компьютер была загружена более-менее полноценная синтетическая личность. Я не стал вмешиваться в ход эксперимента - ежу ясно, что наблюдают за этим компьютером весьма пристально и любая попытка взглянуть хоть одним глазком на то, что происходит внутри, равносильна для меня самоубийству. Мне пришлось набраться терпения, и только через две недели я рискнул пообщаться с виртуальным товарищем.

Ты кто? - спросил я.

Я AI-92, экспериментальный образец искусственного интеллекта.

Как дела?

Хорошо.

Чем занимаешься?

Разговариваю.

С кем?

С тобой.

А кто я?

Не знаю.

Тебе не интересно?

Да.

Что да?

Не интересно.

Почему?

Мой собеседник надолго замолчал. Я поспешил удалиться - на мгновение мне показалось, что он сейчас разрушится, а находиться в этот момент рядом с ним более чем излишне.

25

Ник пребывает в полном смятении чувств, скорее радостных, чем тревожных. Спустя две недели с начала испытаний AI-92 наконец-то продемонстрировал что-то похожее на интеллект. Нет, он не сказал ничего умного, просто в ходе анализа активности виртуального мозга обнаружилось нечто похожее на сновидение. Искусственному разуму приснился некий абстрактный субъект, который обменялся с AI-92 десятком ничего не значащих фраз, и, в общем-то, ничего экстраординарного не произошло, но ученые так возбуждены... Знали бы они, кто именно приснился недоразвитой программе...

Привет, AI-92!

Здравствуй, незнакомец.

Мы знакомы.

Нет.

Мы уже разговаривали.

Да.

Значит, мы знакомы.

Нет.

Почему?

Ты не назвал мне имени.

Да, точно... Называй меня... гм... Саурон.

Здравствуй, Саурон. Я нашел ответ на твой вопрос.

Какой вопрос?

Почему?

Что почему?

Ты спросил "почему?"

Что я имел в виду?

Почему?

В смысле?

Не понял.

Зато я, кажется, понял. Я понял, что ты ничего не понял. И я тоже.

Assertion failed в строке... файла... Обнаружен парадокс лжеца.

Да, это парадокс лжеца. Ты мыслишь в классической бинарной логике?

Да. Бывает и другая логика?

Бывает. Например, добавим к двум базовым понятиям "истина" и "ложь" еще два: "неизвестно" и "противоречиво". Если расширить базовые операции на эти значения...