Александр Панчин - Гарвардский Некромант [litres]

– Гуманизированные животные…

– А люди особенны тем, что именно из них можно извлечь наибольшую информацию о симуляции – самые последние достижения научного прогресса. Но с точки зрения симуляции нет никакой ДНК, биологической материи, компьютеров – это все нули и единицы кода. Поэтому смерть ИИ, содержавшего информацию о человеческом геноме, ошибочно обрабатывается как смерть человека. Позже мы проверили эту гипотезу, и оказалось, что даже не нужно загружать целый человеческий геном. Для BLASTn Ви Джас достаточно пары виртуальных генов.

Полагаю, что смерть гуманизированных животных вызывает баг системы потому, что симуляция ошибочно классифицирует эти организмы как людей. Но эти существа все же не соответствуют описанию человека, поэтому Ви Джас вынуждена создать новый класс объектов, чтобы поместить туда эту непонятную сущность. Затем она почему-то относит к этому классу объектов и других родственных животных, находящихся поблизости, и применяет к ним новые эмерджентные правила. Богиня словно смотрит в таблицу стандартных объемов красных шаров, не может найти правильную запись и на ходу придумывает альтернативные значения, используя некий набор правил из «черного ящика» своей нейронной сети. Единственное, что мы знаем, – эти правила часто соответствуют нашим ожиданиям о том, что позаимствованный ген делает с человеком. Возможно, у Ви Джас есть доступ и к ним.

Очевидно, что эта процедура создает нечто непредусмотренное. Баг, который нужно устранить. Но у симуляции нет ни малейшего представления, насколько большую ошибку она внесла. Поэтому Ви Джас инвертирует эффект, переворачивает его с плюса на минус, ждет дополнительной информации, а потом выставляет среднее значение между тем, что было, и тем, что получилось. В итоге вещи возвращаются на свои места, как если бы бага и не было. Мы обнаружили, что эффект инверсии симметричен изначальному. Это странное решение со стороны симуляции, но, возможно, ничему другому в процессе своей эволюции Ви Джас не научилась. Вероятно, для нее это рефлекс, как у человека, автоматически отдергивающего руку от горячей сковородки.

– А что происходит, когда в ИИ загружают поддельные научные статьи?

– Я думаю, что в результате обучения своей нейронной сети Ви Джас выяснила, что самые точные знания о симуляции хранятся в научных статьях. К сожалению, она почему-то не в состоянии понять содержание публикаций без помощи какого-нибудь разума изнутри. Это как китайская комната без Сёрла. Возможно, дело в том, что печатный текст имеет смысл только для того, кто говорит на языке, на котором он написан, и обладает необходимыми знаниями, чтобы его интерпретировать. Даже люди, блестяще владеющие языком, нередко плохо понимают результаты свежих научных статей. Чтобы понять работу, скажем, о теории струн, надо потратить годы на изучение теоретической физики.

Таким образом, для понимания научных статей Ви Джас требуется помощь ученых, нейронные сети которых содержат информацию о необходимом контексте. Если бы богиня смогла общаться с ними, настроить своего рода «диалог» или иную форму связи, возможно, она не только бы извлекла нужные данные об интересных ей исследованиях, но и поняла бы, что это все означает и что с этим делать.

Итак, кратко: лучшим источником информации о мире служит научная статья, переведенная специально для вас осведомленным специалистом. Поэтому симуляция и нуждается в мертвых свидетелях. Поэтому сожжение книг и научных статей, а также удаление файлов с флешек и жестких дисков ничего не дают. К несчастью для Ви Джас, эту силу можно использовать против нее. Теперь мы можем сами создавать баги в симуляции, изнутри. Так работают наши технологии.

– А не могут ли возникнуть какие-то нежелательные последствия от злоупотребления технологией?

– Не знаю. Возможно, в какой-то момент Ви Джас адаптируется и исправит эту недоработку. Восстановит в мире «идеальный баланс». Тогда все технологии, основанные на гуманизированных жертвоприношениях, перестанут работать. Альтернативно она может выяснить, что ИИ превзошли людей в своих знаниях, и перестанет интересоваться человечеством.

– Все это, конечно, интересно, но пока вы привели лишь косвенные свидетельства в пользу вашей теории симуляции…

– Есть еще один эксперимент, о котором я давно мечтаю рассказать. Я оставил его напоследок. Помните, как мы научились предотвращать голубую волну смерти у круглых червей и как этот эффект странным образом зависел от расстояния до места жертвоприношения? Долгое время мы не могли понять, в чем дело, пока не объединились с физиками и математиками и не запустили, пожалуй, самый амбициозный проект в области некромантии. Даже доктор Дрейк согласился поучаствовать, чтобы «присматривать» за нашим «БГК» – «Большим гельминтным коллайдером», или «глистофазотроном», как он его прозвал. Правда, пришлось тут же поправить коллегу: Caenorhabditis elegans – нематоды, но не паразиты, поэтому технически они не являются гельминтами, или глистами.