Карл Ольсберг - Enter

Очнитесь! Скажите «нет» этому наркотику! Пока не поздно. Машины еще подконтрольны нам. Но как долго это будет продолжаться?

Единицы уже очнулись. Среди них – Теодор Качинский, блестящий математик с IQ, равным 170, который еще в семидесятых годах раскрыл правду и решил единолично вести борьбу с научной элитой. В 1996 году его арестовали, объявили сумасшедшим и приговорили к пожизненному заключению. В своем манифесте Качинский писал:

«Для начала предположим, что программистам удастся создать интеллектуальные машины, которые умеют все делать лучше человека. В таком случае следует предположить, что вся работа будет осуществляться сложнейшими, высокоорганизованными техническими системами, и человеческий труд перестанет быть необходимым. Тогда наступит один из двух вариантов развития событий: машинам будет доверено принимать решения без вмешательства человека или же контроль над ними со стороны человека сохранится.

Если машинам позволят принимать решения самостоятельно, то мы не можем предсказать, что произойдет в результате, поскольку невозможно предвидеть, как поведут себя такие машины. Мы лишь заметим, что судьба человечества станет зависеть от милости машин.

Можно было бы возразить, что люди никогда не поглупеют настолько, чтобы передать власть машинам. Мы не утверждаем ни то, что люди сделают это добровольно, ни то, что машины силой вырвут власть у людей. Однако человечество может легко впасть в такую зависимость, в которой не останется иной альтернативы, кроме как соглашаться со всем, что решат машины. По мере того как общество и его проблемы будут все больше усложняться, а машины становиться все умнее, люди будут все чаще передавать машинам принятие решений только лишь потому, что их решения будут давать лучшие результаты, чем решения, принятые человеком.

В итоге может наступить такая фаза развития, на которой принимать решения, необходимые для продолжения функционирования системы, станет настолько сложно, что человек перестанет справляться с этой задачей. К этому моменту машины фактически возьмут человечество под контроль. Люди просто не смогут выключить машины, поскольку будут от них слишком зависимы и отключение будет равнозначно самоубийству.

Возможен сценарий, в котором человек сохранит контроль над машинами. В этом случае рядовой гражданин будет контролировать свою личную технику, например автомобиль или компьютер. Однако контроль над сложными компьютерными системами будет в руках малочисленной элиты, как это уже происходит сейчас, но с двумя отличиями: совершенствование технологий позволит элите все прочнее контролировать массы, и, поскольку человеческий труд перестанет быть нужным, эти массы станут избыточными, бесполезным балластом внутри системы.

Если элита будет бездуховной, то она захочет уничтожить большую часть человечества. Если же она будет более гуманной, то начнет вести пропаганду или использовать психологические и биологические методы сокращения рождаемости, чтобы широкие массы населения вымерли и полностью уступили мир элите. Если же элита будет состоять из мягкосердечных либералов, она может взять на себя роль «добренького пастыря». Будет прикладывать все усилия, чтобы масса полностью удовлетворяла телесные потребности, чтобы ее дети росли в здоровой психологической обстановке, чтобы у каждого было «правильное» хобби для заполнения свободного времени и чтобы с каждым несогласным «работали», избавляя от «проблемы».

Жизнь станет настолько бесцельной, что людей придется переделать биологически и психологически, чтобы или отнять у них тягу к власти, или подтолкнуть их к «творческому» воплощению властных притязаний в форме безвредных увлечений. Эти переделанные люди будут счастливы в новом обществе, но с высокой долей вероятности не будут свободными. Статусом они окажутся не выше домашних животных».

Отточенную логику этих слов до сих пор никто не смог опровергнуть. Пионер программирования и основатель компании Sun Microsystems Билл Джой процитировал эти строки в 2000 году в своем знаменитом эссе «Почему мы не нужны будущему». Однако научно-военно-промышленный комплекс сумел подавить дискуссию на эту тему. За время, прошедшее с момента ареста Качинского, мы заметно приблизились к воплощению его антиутопии. Подумайте, какие из его предсказаний уже сбылись или вот-вот сбудутся! Подумайте о разоблачениях, сделанных Эдвардом Сноуденом, о безграничной власти Google и Facebook, о крушениях биржи, вызванных автоматизированными торгами акциями, о беспилотных автомобилях, о зависимости от компьютерных игр, биотерроризме, Фукусиме. Все это – уже реальность!