Роберт Сойер - Вселенная. Емкие ответы на непостижимые вопросы

Это также приводит нас к важным вопросам о таких вещах, как этика роботов. Мы все знаем о трех законах робототехники Азимова – роботы не могут причинять вред человеческим существам, они должны подчиняться человеческим существам и должны беречь себя, если это не противоречит первым двум законам. Мы уже размышляли над этим в течение многих лет, но мне крайне интересно, в самом ли деле машина похожа на человеческий мозг. Пока что это для меня один из действительно больших вопросов.

Еще один важный элемент – это воздействие на занятость. Если посмотреть на недавнюю динамику занятости, скажем, в Соединенных Штатах, можно увидеть, что есть две большие категории работ: есть неповторяющиеся когнитивные задачи, например, написать статью, выполнить научные исследования, провести терапию, обслуживать за столом в качестве официанта, быть сантехником – это нерутинная физическая работа, а есть множество рутинных задач, и число нерутинных рабочих мест возросло с 30 до 60 миллионов, а рутинные практически не изменились. Это говорит о том, что автоматизация затрагивает рабочие места с рутинным трудом, и так и будет продолжаться. Тогда вопрос сводится к тому, перехватят ли роботы и нерутинные работы, вроде тех, на которых заняты все мы. Вот этого, я думаю, опасаются все.

Если соединить все эти неопределенности, пути, ключевые вопросы и сроки, мы получим несколько сценариев. Один можно назвать «сценарием колосса» – поистине разрушительного гигантского компьютера, который создан по алгоритму «сверху вниз», супер-ИИ, который пытается захватить мир. (Я думаю, что это крайне маловероятный сценарий для любого ближайшего будущего, да и вообще какого-нибудь будущего. Его реализация очень трудна и займет очень много времени. Кроме того, мне кажется, что пути реализации этого сценария малореалистичны). С другой стороны, второй сценарий, малый ИИ, как я описывал выше, уже здесь. Он создан по алгоритму «сверху вниз», узкофункционален, очень полезен и делает мир намного производительнее.

Третий сценарий можно было бы назвать «универсальный помощник», и в некотором отношении это самый оптимистичный сценарий. Он придет немного позже, через несколько лет, возможно, пять или десять. По своим применениям он универсален. Он может быть создан «сверху вниз» и «снизу вверх». Его применение может быть разнообразным, но главное в том, что он дает каждому человеческому существу персонального ассистента, способного выполнять многие из наших задач в фоновом режиме. Люди, которые больше всего пострадают от персонального помощника, – это представители интеллигенции – бухгалтеры, юристы и подобные им. В ближайшие 10–15 лет мы практически точно будем иметь искусственный интеллект, способный решать такие задачи.

Затем, конечно, нужно сказать о сценарии сингулярности – намного позже может появиться супер-ИИ, но я думаю это крайне маловероятно и может случиться намного позже конца текущего века, если вообще когда-нибудь произойдет. А может, и никогда. Итак, возможные сценарии таковы – колосс, малый ИИ, универсальный помощник, сингулярность – этот разброс показывает неопределенности, которые мы имеем сегодня. Мы не знаем, что именно случится, так что же все эти рассуждения дают нам?

Во-первых, я думаю, что волна упомянутых мной малых ИИ не будет шагом к ОИИ. Риски занятости более реальны в краткосрочном периоде, но и они, на самом деле, плод воображения. Основное препятствие для прихода искусственного интеллекта – это недостаток воображения. В том смысле, что эта технология будет постоянно создавать новые категории рабочих мест и целые новые отрасли. В этом отношении история поддерживает оптимистов. Многие из нас делают то, чего раньше никто не делал. И это будет продолжаться. Так что в отношении ближайшего будущего я вполне оптимистичен.

Во-вторых, если и есть угроза, что ИИ перехватит власть, мы предупреждены о ней заранее – за много, много лет. У нас достаточно времени. К тому же понять, как работает мозг, перенести это в программный код и реализовать на каком-либо устройстве – настолько сложно, что это займет еще много десятилетий.

Самый большой риск – случайное формирование ИИ, которого мы не ожидаем. Но более реально, что еще один цикл внимания к ИИ прокрутится вхолостую. Эта третья волна интереса к ИИ с 1950-х и есть большой риск, что в этот раз мы не добьемся никаких существенных результатов и снова утратим общественное внимание. А когда-нибудь потом получим сюрприз.