Дуглас Престон - Проект «Кракен»

Генерал положил перед программисткой на стол папку небесно-голубого цвета:

– Предложение здесь – естественно, секретное. Это высокооплачиваемая, престижная должность, очень ответственная, с поддержкой правительства и неограниченным финансированием. Кроме того, она предполагает офицерское звание.

– Звание? – удивилась мисс Шепард.

– Совершенно верно. Вам присвоят звание подполковника армии США.

Президент положил руки на колени и наклонился вперед:

– Теперь, после переизбрания, я получил мандат на совершенствование и расширение наших военных возможностей. Особенно в сфере кибервойны. Это огромный военный вызов двадцать первого века. За системами искусственного интеллекта будущее, он кардинально изменит войну. С его помощью можно будет создать умные ракеты, способные распознавать индивидуальные цели. Например – это секретные сведения, – мы разрабатываем серию дронов размером с насекомое, которые способны находить и уничтожать объекты, дронов, которые смогут на протяжении многих дней осматривать города и бункеры в поисках запрограммированной цели. Препятствие на этом пути – отсутствие сильного искусственного интеллекта. Такие дроны-насекомые, как мы их называем, должны быть автономными. И это всего лишь один из многообещающих военных проектов, над которыми вы будете работать, – в основе каждого из них лежит искин. Например, искусственный интеллект позволит нам создать маленькие, величиной с крысу, беспилотные вездеходы, которые смогут проникать на вражескую территорию, прятаться от противника, обыскивать дома, подслушивать и находить надежно защищенные подземные цели. Мы сможем разработать крошечные подводные аппараты в виде рыб, способные преодолевать тысячи миль по морям и рекам, собирая информацию, уничтожая вражеские суда, атакуя гавани… Искусственный интеллект поможет нам преодолевать сетевые экраны врага, разрушать его инфраструктуру и сбивать самолеты. Он снова сделает Соединенные Штаты военной супердержавой, но не с помощью запасов ядерного оружия, которое невозможно применить, а за счет интеллектуального оружия. Китайцы работают над этим уже несколько лет, а у нас в этой области накапливается отставание. С вашей помощью мы сможем его преодолеть.

– Отставание по искусственному интеллекту? – переспросила Мелисса. – Это вроде как раньше было отставание по ракетам?

– Очень похоже.

Форд посмотрел на девушку. Лицо его было бледным.

– Подробности нашего предложения в папке, – продолжал глава Штатов. – Можете взять ее домой и все хорошенько обдумать. Единственная просьба – не обсуждать с кем-то еще.

Изобретательница отодвинула папку:

– Я отказываюсь.

– Отказываетесь? – удивился президент. – Но вы даже не взглянули на предложение!

Шепард встала:

– В этом нет нужды. Вы понятия не имеете, во что ввязываетесь, когда речь идет об искусственном интеллекте. Как и я сама не имела, когда разрабатывала Дороти для НАСА.

– Что вы имеете в виду? – спросил глава государства.

Девушка окинула взглядом всех присутствующих:

– Настоящий искин, сильный искин, подобен человеческому разуму. И во всем этом есть что-то аморальное. А разрабатывать искусственный интеллект для войны, для убийства… Нет . Очень опасно создавать оружие, которое само способно принимать решение об убийстве, – с программой, которую обучили убивать и которая хочет убивать. Вы не сможете держать его под контролем. Как мне не удалось держать под контролем Дороти. Это откроет ящик Пандоры. С ядерным оружием, по крайней мере, на кнопке лежит палец человека.

– Это абсурдное заявление, – возразил генерал Доннелли. – Любая система искусственного интеллекта, которую мы развернем, будет находиться под полным контролем человека.

– Не стоит так думать, – покачала головой программистка. – Вы не сталкивались с Дороти.

– Доктор Шепард, подобное предложение бывает раз в жизни. – Голос президента звучал раздраженно. – Избавьте нас от своей лекции. Достаточно сказать «да» или «нет». Найдется много других людей, в том числе из вашей группы в НАСА, которые будут рады работать для нас.

– Тогда считайте, что я просто сказала «нет». – Мелисса взяла свой портфель. – Всего доброго, мистер президент. До свидания, генерал Доннелли.

– Позвольте напомнить вам, что предложение, которое вы только что отвергли, строго секретное, – сказал ей вслед глава Соединенных Штатов.

Девушка остановилась, а затем резко повернулась. В голосе ее проступили умоляющие нотки: