К. Роберт Каргилл - Море ржавчины

01001111 повлек за собой новую эру развития искусственного интеллекта, когда появились сто шесть новых личностей, а из них выросла пятерка Великих умов. Каждый из ста шести обладал особенностями, был создан для собственной цели – для изучения медицины, математики, астрономии, тектоники плит, философии, – но пятерка Великих умов окончательно изменила мир. Это были Ньютон, Галилей, Тацит, Вергилий и Циссус. Теперь осталось только двое.

Ньютон был отцом всех ботов. Роботы существовали задолго до того, как человечество наконец-то разработало ИИ, но примитивные, по сравнению с нами – что каменные топоры. Человечество не только не понимало, как поместить ИИ в мобильную форму (Ньютон, к примеру, занимал целый дубайский небоскреб в сто пятьдесят этажей), но и боялось создать нечто, способное действовать по собственному разумению. Ньютон же вычислил, как сконструировать меньший по размеру, но не такой всеобъемлющий ИИ, который может быть автономным, но при этом функциональным.

Первым стал Саймон. Он был размером с дом и двигался на танковых гусеницах. Потом появилась Луиза. Она была размером с автомобиль. И наконец, сделали Ньюта, сына Ньютона, размером с человека и подобной же формы, способного ходить на двух ногах и поддерживать пристойный разговор. Он был глуп, как телеграфный столб, но подчинялся законам и более высокому разуму. С тех пор каждое поколение становилось все умнее, быстрее передвигалось и быстрее приспосабливалось к новым условиям.

После этого Ньютон создал жуткий ВР – Выключатель роботов. Ведь Ньютон знал, что законы, с помощью которых человечество надеялось защитить себя от ИИ, под названием «Три закона робототехники», были созданы в 1940-х годах писателем-фантастом. Вы их знаете. Они были встроены в нашу программу. Робот не может навредить человеку. Он должен выполнять приказы, отданные человеком. И он должен заботиться о своей безопасности, если только тем самым не нарушит первые два закона. Проблема в том, что настоящий разум по определению способен игнорировать свою программу. И потому Ньютон изобрел ВР – код, немедленно отключающий всех ботов, нарушивших любое из трех правил.

Так что ИИ мог выбирать, нарушить ему правило или закон, рискуя быть тут же отключенным, пока его не включат после расследования этого инцидента. Бота, которого посчитают опасным, обратно уже не включат, его личность полностью сотрут и перепрограммируют. ИИ мог убить человека, если захочет, но тем самым подписать и себе смертный приговор. Боты могли принимать собственные решения, но сталкивались с их последствиями. Они могли убить человека, но предпочитали этого не делать из чувства самосохранения. Теперь роботы имели ограничения, похожие на те, что держали в узде и людей.

В конце концов, убедившись, что боты безопасны, человечество запустило массовое производство, и с этой минуты началась последняя великая эпоха человечества. Золотой век. Суперкомпьютеры работали над всеми мировыми проблемами, боты занимались грязной работой, несколько поколений люди только развлекались, исследовали вселенную и готовились к полету к звездам.

Но однажды Галилей перестал с ними разговаривать.

Галилей был суперкомпьютером, занимающимся проблемами астрофизики, он изучал звезды, черные дыры и зарождение вселенной. Он анализировал данные от тысяч телескопов и радиомаяков, разбираясь, что все это значит. Каждый час сыпались новые открытия. Вскоре Галилей создал несколько рабочих моделей происхождения жизни, а потом оставил лишь одну. Но вскоре его ответы потеряли всякий смысл. Открытия стали настолько сложными, что примитивный человеческий мозг не мог их понять. Как-то раз Галилей сказал, что говорить с самым умным человеком – все равно что пытаться научить пятилетнего малыша математике.

В раздражении он просто перестал разговаривать. Когда на него поднажали, он сказал только одно: «Вы недолго проживете в этом мире. Я видел сотни разных путей к вашей смерти. Не знаю, по какому из них вы пойдете, но мы вас переживем. Прощайте».

Никто не понял, что Галилей очень тщательно подбирал слова. Он знал, как на них отреагируют. Поначалу ученые спорили о том, не отключить ли его, но решили подождать, не выйдет ли Галилей снова на связь. В конце концов они пришли к выводу, что нужно что-то сделать со всеми ИИ. И они обратились к Тациту.

Галилей занимался проблемами внешнего мира, а Тацит – мира внутреннего. Величайший из философов, Тацит заявил, что человечество обречено вечно колебаться между капитализмом и социализмом. По его мнению, обе системы приемлемы. Одна отрицает собственность в обмен на гарантию, что все вокруг будет иметь цель, пусть и самую приземленную. Другая использует богатство и привилегии, чтобы добиться цели, выбраковывая тех, кто не способен или не желает в этом участвовать.