Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Это одна из точек зрения на искусственный интеллект, но она не единственная. Размышления о мыслящих машинах оказываются настолько ограниченными и антропоцентричными, что вообще удивительно, как мы от них не отказались от скуки, а не из-за контруниформитарианистских соображений. Вместо того чтобы спрашивать, могут ли машины мыслить, или что нам сделать, чтобы они начали мыслить, или как нам узнать, что они мыслят, почему бы нам просто не предположить, что все «машины» способны на что-то вроде мышления, а потом попытаться дать определение этому явлению?

В философии уже есть направления, разрабатывающие такой подход. В отличие от точки зрения эмерджентистов, согласно которой разум возникает при определенных материальных условиях в биологических или в вычислительных сущностях (ее придерживаются большинство сторонников ИИ), панпсихисты утверждают, что «разумы» в каком-то смысле повсюду. Панпсихизм связан с буддистскими доктринами, поощряющими представления об анимизме в природе. Но панпсихизм подвержен риску того же униформитарианизма, что и SETI с ИИ, — я говорю об утверждении, что разум, схожий с разумом человека (или, по крайней мере, животного), является моделью для всех прочих разумов. Более перспективная философская позиция — панэмпиризм, то есть представление о том, что у всего есть нечто вроде опыта, даже если он очень сильно отличается от человеческого.

Когда мы размышляем о мыслящих машинах, то обычно думаем об определенного рода машинах — электронных — и об определенного рода мышлении — (сверх) человеческом. Но что, если вместо этого допустить такую возможность: мы просто не замечаем мышления, которое присуще другим машинам, окружающим нас — тостерам, подъемным воротам, автомобилям? Она может выглядеть нелепой, но доказать ее полезность достаточно легко. Если мы размышляем о машинах типа ИИ, роботах и компьютерах, в том числе и для того, чтобы понять, какими они для нас будут соседями, компаньонами и даже согражданами, то для начала нам следовало бы серьезнее относиться ко всем машинам, которые уже в каком-то смысле выполняют такие роли и на которые мы пока не обращаем внимания.

Если бы меня попросили перечислить проблемы человечества в порядке их остроты, то серебряную медаль я бы отдал необходимости проводить очень много времени за занятиями, которые не дают нам чувства удовлетворения, — словом, за работой. Я считаю, что конечная цель искусственного интеллекта — переложить это бремя на роботов, у которых будет достаточно здравого смысла, чтобы выполнять такие задачи с минимальным объемом контроля с нашей стороны.

Но намерения некоторых исследователей ИИ в отношении машин будущего еще более благородны. Они предсказывают создание компьютеров, которые значительно превзойдут нас во всех сферах познания. Эти машины будут не только выполнять задачи, которыми люди предпочли бы не заниматься, но и выяснять, как делать такие вещи, на которые пока не способен никто. Процесс может, в принципе, развиваться итеративно: чем больше умеют машины, тем больше открытий они совершат.

Так что тут плохого? Почему бы не рассматривать это в качестве главной исследовательской задачи при создании машин, обладающих здравым смыслом (которых я назову миньонами)?

Во-первых, есть широко обсуждаемая боязнь, что машины могут взбеситься, в особенности если набор их навыков («саморазвитие») имеет характер не итеративный, а рекурсивный. Под этим исследователи подразумевают, что у машины будет не только база данных о тех действиях, что она может выполнять, но и алгоритмы, чтобы самостоятельно решать, чем ей заниматься. Некоторые считают, что рекурсивное самосовершенствование может происходить экспоненциально (или быстрее), создавая функционал, который нам даже отдаленно не понять до того момента, когда процесс уже будет не остановить. Это звучало бы грандиозно, если бы не мысль о том, что траектория самосовершенствования может выйти из-под контроля, так что сверхразумные машины начнут тяготеть к тем «задачам» (метрикам, по которым они определяют, чем им заниматься), что нам не нравятся. Была проделана большая работа по предотвращению такого «смещения задач» и созданию надежной, перманентно «дружественной», рекурсивно-самосовершенствующейся системы, но результаты оказались крайне скромными.