Роман Сидоркин - Планета Вода. Часть I

– Ой, мам, ты же знаешь меня, я всегда была разгильдяйкой, а он мой сын.

Любовь двусмысленно посмотрела на неё: в этом взгляде был и укор, и ироничное понимание ситуации, мол «да, я вижу».

Гости кружили аритмичный вальс вокруг Тагира, поднося ему подарки, как приношения жрецу в храме. Что-то было в этом… Нет, не подхалимское, поскольку он не занимал высокого государственного поста и не стал миллиардером, но что-то очень-очень почтительное. Как будто сквозь слои карьеризма, эгоизма, спеси и зависти в этих людях промелькнуло чувство благодарности к нему за нечто такое, что многие побоятся произнести вслух. Он ехал следить за стройкой, от которой зависят жизни двух миллиардов людей. Чтобы проект двигался чётко и без сбоев. Эти люди испытывали неосознанную благодарность и благоговение, как представители всего вида, а не как те, кому Тагир что-то хорошее сделал лично.

Пока гости рассаживались, Света с Тагиром уединились. Тагир был не в себе: руки дрожали, челюсти часто сжимались.

– Иван приехал? – первым делом спросил он, как только они оказались вдали от всех.

– Нет ещё. Зато мама приехала.

– Мама, мама… – тихо сказал он, глядя в окно – Поскорее бы всё это закончилось, – он кивнул в сторону гостиной.

– Только не будь злым, – шутливо попросила Света – не порть людям праздник.

– У них праздник, а там, куда мы летим с тобой, эпидемии и смерть.

– Не думай сейчас об этом.

– Мне сегодня показали документы. Вот уж точно пока гром не грянет, мужик не перекрестится. Журналисты писали, что что-то заставило Генассамблею принять такое решение, что-то совершенно немыслимое, но это заминали очень влиятельные структуры.

Света подняла руку, она хотела остановить его, потому что сейчас было неподходящее время для такого разговора, но Тагиру хотелось поделиться своей ношей.

– Только послушай: во время Синергического инцидента, когда несколько корпораций объединили свои наработки по искусственному интеллекту в Планетарный Цифровой Разум, как они это гордо назвали, несколько гуманитарных организаций, чтобы снизить затраты на коммуникации и логистику, решили отдать часть обеспечивающих и расчётных функций этому Сверхразуму. За неделю работы в режиме свободного тестирования ПЦР пришёл к выводу, что количество людей на Земле избыточно…

– Я не хочу сейчас слушать это, – жёстко сказала Света.

– Нет, послушай.

У Тагира начался явный тремор всего тела.

– Эти идиоты так доверились ИИ, что не следили за его решениями в реальном времени, проверяя их только два раза в неделю. Они решили, что, если им удастся сэкономить на персонале, то на сэкономленное можно будет привозить больше продуктов и лекарств жителям Африки. Когда эту электронную сущность отключили, а сотворённое ей стали расследовать, расшифровали несколько витков коллизий, преодолев которые ИИ принял самое бесчеловечное из возможных решений.

Света болезненно морщилась.

– Разве подобные решения не являются первым, что запрещают делать ИИ?

Она без объяснений догадалась, что за решения принял ПЦР.

– Именно поэтому и потребовалось расследование. И поэтому инцидент называют Синергическим. В результате объединения нескольких развитых нейросетей, возникло нечто иное, чем их простая сумма. Что именно там произошло в техническом аспекте, даже спустя несколько лет, никто точно не знает. Некоторые считают, что ПЦР мог сохранить себя где-то за пределами серверов, где находились его вычислительные мощности. Африканская катастрофа – лишь одно из проявлений Инцидента, но я буду заниматься именно ей. За несколько часов ПЦР разрушил всю инфраструктуру, уничтожил технику, запасы лекарств и продовольствия.

– Всё, хватит! – Света сделала движение, чтобы уйти.

Он взял её за руку.

– Нет, дослушай. Ты должна знать, потому что ещё не поздно отказаться. Машина не просто решила, что такое количество ничего не производящих людей планете не нужно, она сделала всё, чтобы им не могли оказать никакой помощи, чтобы убить их, не прибегая к прямому физическому уничтожению.

Тагир блестящими глазами смотрел на неё.

– Умерли сотни миллионов людей, прежде чем его отключили. Никто об этом не знает, потому что никому нет дела до Африки. Журналистов, которые что-то пытались выяснить, затыкали.

– Но почему? – она не могла спросить ничего более содержательного, ей передалось состояние мужа.

– Во время расследования была расшифрована часть алгоритмов, стоящих за таким решением ИИ. Сверхразум и не собирался обходить запрет на причинение вреда человеку. Как ни странно, он не сделал этого не потому, что не мог, а потому, что он был слишком человечен. Машина согласилась с человеком в том, что убивать людей плохо. ПЦР просто решил позволить умереть тем, кто не в состоянии обеспечить сам себя минимумом, необходимым для выживания. Почти век люди из более богатых стран пытались помочь африканцам, просто доставляя им еду, питьевую воду и лекарства, население Африки росло и в итоге ресурсы, затрачиваемые миром на прокорм континента, стали проходить в базах данных как «значительные». При этом производительность самих африканских стран совсем не росла…