Мичио Каку - Физика будущего

(Даже азимовские законы не избавляют от проблем в тех случаях, когда ситуация порождает противоречие между тремя законами. Представьте, к примеру, что кому-то удалось создать благожелательного робота. Что произойдет, если человечество вдруг сделает губительный выбор и поставит под угрозу собственное существование? Дружественный робот может решить, что необходимо взять под контроль правительство и не дать человеку нанести себе вред. Именно с этой проблемой столкнулся Уилл Смит в кинофильме «Я, робот», когда центральный компьютер решил, что для спасения человечества «некоторыми людьми необходимо пожертвовать, а от некоторых свобод отказаться». Чтобы не позволить роботам поработить человечество и спасти его, некоторые предлагают дополнить законы робототехники еще одним, нулевым законом: робот не может нанести вред человечеству или поработить его.)

Однако многие ученые склоняются к варианту так называемого «дружественного ИИ», при котором подразумевается, что человек с самого начала сделает роботов доброжелательными созданиями. Поскольку именно мы — создатели роботов и именно мы будем их разрабатывать, ничто не помешает нам сделать так, чтобы роботы с самого начала занимались только полезными и добрыми делами.

Понятие «дружественный ИИ» или «дружественный сверхразум» ввел в обращение Элиезер Юдковский (Eliezer Yudkowsky), один из основателей Института сингулярности по искусственному интеллекту. Дружественный ИИ несколько отличается от законов Азимова, которые предполагается навязывать роботам, возможно против их воли. (Более того, законы Азимова, привнесенные в сознание роботов извне, могут побудить их поступить наоборот и заняться поиском хитрых путей их обхода.) В дружественном ИИ, напротив, ничто не мешает роботам убивать и безобразничать. Здесь нет законов, насаждающих искусственную мораль. Скорее можно сказать, что эти роботы с самого начала придуманы так, что для них естественным является желание помогать людям, а не губить их. Они сами выбирают путь добра.

Такой подход породил новое направление, получившее название «социальной робототехники». Его цель — наделить роботов качествами, которые помогут им безболезненно войти в человеческое общество. Ученые компании Hanson Robotics, к примеру, утверждают, что единственная задача их исследований — разработка роботов, которые «эволюционируют в социально разумные существа, способные любить и достойные места в расширенной человеческой семье».

Проблема с подобными подходами в том, что больше всего — и намного! — денег в разработки по искусственному интеллекту вкладывают военные, и роботы, создаваемые по их заказам, специально предназначены для выслеживания и убийства людей. Несложно вообразить себе будущих роботов-солдат, задачей которых будет распознавать солдат противника (людей) и уничтожать их с безошибочной эффективностью. При этом придется принимать чрезвычайные, невообразимые меры, чтобы гарантировать, что военные роботы не обернутся против своих хозяев. К примеру, беспилотный роботизированный самолет Predator управляется дистанционно, так что все его действия постоянно контролируют люди, но когда-нибудь самолеты-беспилотники, вероятно, станут автономными и получат возможность самостоятельно выбирать и поражать цели. Сбой в системе управления такого автономного самолета может вызвать катастрофические последствия.

В будущем, однако, все большая доля финансирования в разработку роботов будет поступать из гражданского коммерческого сектора, особенно в Японии, где назначение роботов — помогать, а не разрушать. Если такая тенденция сохранится, дружественный ИИ действительно может стать реальностью. В этом сценарии в робототехнике со временем возьмут верх потребительский сектор и рыночные силы, так что вкладывать деньги в дружественный ИИ станет чрезвычайно выгодно.

В дополнение к дружественному ИИ существует и другой вариант: слиться со своими созданиями. Вместо того чтобы просто ждать, пока роботы превзойдут нас в интеллекте и мощи, нам следует улучшать себя и становиться сверхлюдьми. Я считаю, что будущее будет двигаться по обоим этим путям, т. е. человек будет создавать дружественный ИИ и одновременно совершенствоваться.

Этот вариант исследовал, в частности, Родни Брукс (Rodney Brooks), бывший директор знаменитой Лаборатории искусственного интеллекта МТИ. Он всегда был бунтарем, сражался с общепринятыми, но косными представлениями и вносил в эту область свежие идеи. Когда он только пришел в робототехнику, там безраздельно господствовал подход «сверху вниз». В результате в робототехнике наблюдался застой. Брукс вызвал немало удивленных взглядов, когда призвал к созданию армии насекомоподобных роботов, которые обучались бы на основе подхода «снизу вверх», т. е. натыкаясь на препятствия. Он не хотел делать еще одного тупого неуклюжего робота, которому требовалось бы несколько часов, чтобы пересечь комнату. Вместо этого он придумал проворных «инсектоидов», которые почти не требуют предварительного программирования, но быстро учатся передвигаться и ориентироваться среди препятствий методом проб и ошибок. Он предвидит наступление дня, когда его роботы и подобные им будут исследовать Солнечную систему, натыкаясь в пути на всевозможные препятствия. Эта идея, высказанная Бруксом в очерке «Быстрые, дешевые и себе на уме», на первый взгляд кажется странной и даже нелепой, но со временем такой подход привел к раскрытию целого спектра новых путей развития. В частности, одним из побочных результатов его идеи стали марсианские роверы, которые уже много лет бороздят поверхность Красной планеты [10] Марсоходы Spirit и Opportunity десантировались на Марс в январе 2004 г. Первый пережил две марсианские зимы и погиб в третью, в середине 2010 г., второй успешно работает до настоящего времени (июль 2011 г.) и прошел по поверхности Марса уже 33 км. — Прим. пер. . Стоит ли удивляться, что Брукс был также президентом компании iRobot, продающей сегодня всюду напоминающие жуков роботизированные пылесосы.