Джон Маркофф - Homo Roboticus? Люди и машины в поисках взаимопонимания

Несколько лет назад Джерри Каплан, ветеран Кремниевой долины, который начал карьеру как исследователь искусственного интеллекта в Стэнфорде, а затем в 1980-х гг. стал одним из тех, кто ушел из этой области, предупредил группу стэнфордских специалистов по вычислительной технике и аспирантов: «От ваших сегодняшних действий здесь, в Лаборатории искусственного интеллекта, воплощающихся в создаваемых вами системах, может зависеть, как общество будет справляться с этой проблемой». Он утверждал, что неизбежное появление искусственного интеллекта следующего поколения несет с собой критически важный этический вызов: «Есть опасность, что мы выращиваем живых роботов за счет нашей собственной жизни» {10}. Проблема двойственности, о которой он говорил исследователям, заключается в пропасти между обладающими интеллектом машинами, которые заменяют человека, и компьютерными системами, расширяющими возможности человека.

Подобно многим другим технологам в Кремниевой долине, Каплан считает, что мы на грани создания экономики, которая функционирует практически без участия человека. Это может звучать апокалиптически, но описываемое Капланом будущее почти определенно придет. Его более глубокая мысль заключается в том, что сегодняшнее ускорение развития технологии – не слепой процесс. Он зависит от личного выбора каждого из инженеров, которые создают облик нашего будущего.

Осенью 2007 г. на заброшенной военной базе в калифорнийской пустыне на импровизированную гоночную трассу вышел коренастый человек с клетчатым флагом и энергично взмахнул им, когда мимо него плавно проехал внедорожник Chevrolet Tahoe. Это был Тони Тетер, директор DARPA.

За рулем автомобиля, украшенного большими буквами GM, не было водителя. В машине отсутствовали и пассажиры, более того, водителей и пассажиров не было ни в одном из других участвовавших в «гонке» автомобилей. Это действо, в котором автомобили беспрерывно колесили по городку, ранее использовавшемся военными для отработки действий в городских кварталах, вообще не выглядело как гонка. Оно больше походило на послеполуденный трафик в воскресный день в научно-фантастическом фильме вроде «Бегущего по лезвию» (Blade Runner).

В самом деле, это было необычное по любым меркам событие. Проводимое DARPA состязание Urban Challenge свело вместе специалистов по робототехнике, исследователей в области искусственного интеллекта, студентов, автомобилестроителей и программистов, которые занимались созданием роботов-автомобилей, способных автономно передвигаться в городских условиях. Оно было третьим в ряду соревнований, организованных Тетером. В то время военные технологии разрабатывались с целью повышения поражающей способности солдата, а не его замены. Для управления роботизированными военными самолетами требовались люди, а в некоторых случаях – многочисленные команды. В отчете научного совета Министерства обороны в 2012 г. отмечалось, что во многих военных операциях для обеспечения полета одного дрона нужна команда из нескольких сот человек {11}.

Наземные беспилотные транспортные средства были более серьезным вызовом. Дело в том, как заметил один из руководителей DARPA, что «земля твердая» не в смысле «как камень», а в том смысле, что «задача передвижения по ней – твердый орешек». Движение по дороге и без того сложно, но разработчики роботов-автомобилей должны справляться с бесконечной чередой особых ситуаций: движение ночью, движение против солнца, движение во время дождя, движение по льду – у списка нет конца.

Рассмотрим проблему создания машины, которая умеет реагировать на что-то простое на дороге, например пластиковый пакет. Пакет твердый или мягкий? Опасен ли он для автомобиля? На поле боя он может быть импровизированным взрывным устройством. Люди могут видеть подобные препятствия и реагировать на них без усилий при движении с низкой скоростью и при хорошей видимости. Для исследователей искусственного интеллекта, однако, решение этой проблемы – труднодостижимая цель в сфере машинного зрения. Это лишь одна из несметного числа задач, которые DARPA вознамерилось решить через организацию соревнований Urban Challenge для беспилотных автомобилей. В 1980-х гг. робототехники и в Германии, и в Соединенных Штатах добились кое-каких успехов на пути к созданию беспилотного автомобиля, но на практике оказалось легче построить робота для полета на Луну, чем робота, который сможет вести машину в часы пик. И вот Тони Тетер принял вызов. Предприятие было рискованным: если соревнования не дадут результатов, то Grand Challenge («Большой вызов», иначе) переименуют в «Блажь Тетера». Поэтому взмах клетчатым флагом на заключительной гонке символизировал в равной мере и победу Тетера, и победу беспилотников.