Кирилл Берендеев - Механическое чудо

– Двуногое прямоходящее животное, обладающее разумом? – предположил Олег.

– А если этот человек – инвалид. И у него только одна нога. Или вообще ни одной? А если он поступает с точки зрения робота неразумно? К тому же под выданное вами определение попадают сами роботы. Что будет, если один робот станет считать другого робота человеком?

– Кх-кх, – Олег пристыжено опустил голову. – Как я понимаю, это и есть моё тестовое задание?

– Нет, – Ирвин К. Доулинг задумчиво постучал пальцами по подлокотнику кресла. – Это достаточно простая задача. Нудная, но всё-таки простая. Нами написана программа, выявляющая на основании семидесяти трёх показателей, человек находится перед роботом или нет. Максимальные проблемы возникли, когда мы попытались программно реализовать первый закон роботехники.

– Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред? – спросил Олег.

– Именно. Здесь имеются два подводных камня, с которыми мы уже сталкивались при решении предыдущих задач. Термин «человек» и понятие «вреда».

– А как же программа, которая «на основании семидесяти трёх показателей…"? – ехидно заметил Олег.

– Одно дело, когда человек находится прямо перед тобой и пытается отдавать тебе приказы. И совсем другое дело, когда он находится, например, около строящегося дома, а робот с пятнадцатого этажа выбрасывает строительный мусор. Дистанционно распознать человек это или вовсе не человек за короткий отрезок времени крайне затруднительно.

– Понятно, – тяжело вздохнул Олег. – А с вредом-то что вышло?

– Вред, наносимый роботом самому себе, и вред, наносимый роботом человеку, несопоставимы. Идеальный вариант – когда робот вообще не наносит никакого вреда человеку, но это, увы, невозможно. В нашем обществе достаточно людей, которым само существование роботов может нанести моральный вред. Концепция вреда для человека так и не сформулирована. Представьте себе робота, который препятствует альпинистам, так как подъём в горы на его взгляд напрямую связан с риском для жизни. Или робота, который громит табачную лавку, потому что курение вредит человеческому здоровью. Представили?

– В общих чертах, – ответил Олег.

– Так вот, это ещё не всё. При полевых испытаниях выяснилось, что концепции трёх законов роботехники и саморазвивающегося псевдоинтеллекта несовместимы.

– А это ещё почему? – не понял Олег.

– Самостоятельное развитие интеллекта подразумевает динамические приоритеты, зависящие от опыта данного индивида. Если наш псевдоинтеллект сделать полностью динамическим, то рано или поздно три закона уйдут в историю, как не соответствующие изменившимся приоритетам робота. Если же три закона жестко привязать к основам мотивации псевдоинтеллекта, то это затормозит развитие робота, некоторые ситуации, связанные с риском для жизни человека не будут рассматриваться, что обесценит роботов в ряде специальностей. Например, такой робот не сможет работать спасателем или инструктором экстремальных видов спорта.

– Господин Бондарев, ваше задание состоит в создании концепции алгоритма, который мог бы реализовать три закона роботехники в программном коде российского робота, – сказал Березин. – В вашем распоряжении все наработки мистера Доулинга и других программистов компании. Единственное ограничение – вы не можете снимать с этих материалов копии или выносить их за проходные – вы понимаете, эти материалы стоят денег.

– Естественно, господин Березин, – ответил Олег.

– Ещё вопросы есть? Если нет, можете идти работать.

– Хорошо, господин Березин.

– И удачи вам!

Когда Олег вышел за дверь, Ирвин К. Доулинг расхохотался.

– Думаете, у него получится?

– Это называется «свежий взгляд», – ответил Березин. – Человек со стороны способен объективно увидеть картину в целом, её слабые и сильные места.

– Этот «свежий взгляд» будет работать ровно двадцать минут, до тех пор, пока он не откроет наши наработки.

– Мистер Доулинг, как вы думаете, сколько времени необходимо, чтобы прийти к концепции глобального открытия?

– Вся жизнь, – не задумываясь, ответил Ирвин К. Доулинг.

– А чтобы осуществить его, когда вся база уже имеется?

– В некоторых случаях несколько минут. Господин Березин, вы полагаете, это тот случай?

– Очень хочется на это надеяться.

В течение недели Олег деловито шарил по архивам компании, пытаясь разобраться в наработках «Рашен Роботс». Они касались программного кода, компоновочных решений, дизайна роботов, а так же многих вещей, отношение которых к роботехнике казалось весьма отдаленным. Роботы оказались классическими – с двумя ногами, двумя руками и головой; вот только в высоту они не превышали пятидесяти сантиметров. Питался робот от автономного генератора, заряжаемого от электрической сети. Погружаясь в детали, Олег день за днем все более приходил к мысли, что для того, чтобы просто разобраться в текущих делах, потребуется гораздо больше времени, чем неделя. Олег уже был морально готов признать поражение, но на третий день Березин пригласил его к себе.