Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Тут мы сталкиваемся с объединением человеческого и компьютерного субстратов. Смартфоны быстро становятся неотделимой частью нас самих. Истеблишмент всегда с подозрением относится к новым способам коммуникации, но эти средства расширения нас самих распространяются очень стремительно. Много чернил ушло на описание близящихся конфликтов между человеком и компьютером, от экономического апокалипсиса с потерей рабочих мест из-за автоматизации до военной антиутопии, кишащей дронами. Вместо всего этого я вижу развитие симбиоза. И ведь на протяжении всей нашей истории, когда начинался новый этап эволюции, будь то появление эукариотических клеток, или многоклеточных организмов, или мозга, старые системы сохранялись, а новые начинали работать вместе с ними, а не вместо них.

Это повод для оптимизма. Если цифровые компьютеры — альтернативный субстрат для мышления и сознания, а цифровая технология развивается экспоненциально, тогда мы стоим на пороге взрывного развития мышления и сознания. Мы можем оседлать эту волну, но сначала нужно принять машину как часть себя, отринуть гордыню и признать нашу общую сущность. В принципе, нам надо бы встречать перемены с любовью, а не со страхом. Полагаю, у нас получится.

Случится ли это? Уже случилось. Технологии хранения и воспроизведения информации постепенно сливаются на атомном и молекулярном уровне, распределенные и сетевые устройства для хранения и воспроизведения информации распространяются в масштабах всего общества и планеты (их численность уже превосходит численность людей на планете). С учетом всего этого определения «машины» и «мышления» теперь должны охватывать и органический, и неорганический «комплексы» и «системные решения» как взаимозаменяемые понятия — механически, биологически, физически, интеллектуально и даже теологически.

В ближайшем будущем развитие биотехнологий и систем сверхчеловеческого алгоритмического прогнозирования приведет к быстрому устареванию многих современных философских представлений о различии между наблюдением, мышлением и решением, а также сделает количественные аргументы бессмысленными. Когда эти барьеры будут преодолены, и разделение между «мыслящей машиной» и «мыслящей биологической системой» сойдет на нет, внимание немедленно сместится на качественные вопросы — человеческие определения интенциональности и субъектности для мыслящих машин.

Что это будет означать для нас? Существование мыслящих машин, организованных в виде неорганической или квантовой структуры либо биологической холархии [117] Холархия — согласно концептуальной системе американского философа Кена Уилбера, иерархия вложенных друг в друга холонов. Холон — система (или явление), которое само по себе является завершенным, но вместе с этим представляет собой часть ещё большей системы. В качестве примера естественной холархии Уилбер обычно приводит цепочку: атомы — молекулы — клетки — организм и т. д. — Прим. ред. , как-то умаляет человеческую субъектность или расширяет ее? Намерены ли мы уточнить определение самих себя, чтобы оно включало не только созданные нами механические системы, но также и независимые, симбиотические системы, уже присутствующие в нас, — триллионы бактерий в наших внутренностях (которые влияют на наше психическое состояние, воздействуя на течение определенных химических реакций) и биохимические трекеры, препараты и аугменталы, которые мы употребляем? Какое значение это будет иметь для полноценного расширения наших «я» посредством мыслящих машин (и расширения в них)?

Однажды появившийся ИИ быстро найдет дорогу к мировой библиотеке — к интернету. И как только он туда попадет, он соединится со множеством квазичеловеческих систем, распределенных крауд-интеллектов и агрегированных мыслящих машин, уже населяющих это пространство, и быстро научится генерировать или симулировать модели непрерывного сознательного мышления, начав изображать найденные там «я» и легко воспроизводя или кооптируя сложные альтернативные личности и неточности, которые характеризуют Сеть.

Определение различий между реальным и нереальным будет самой важной задачей для независимой, эволюционирующей, работающей интеллектуальной системы. Как ее этому научить? В объектно-ориентированной онтологии Вселенная представлена как уже наполненная объектами и свойствами, из которых человеческое сознание составляет имеющие определенный смысл системы. Вот только в чем качественное отличие между спонтанно созданными мыслящими системами (или композитами из объектов и свойств) и искусственно созданными мыслящими системами? Что произойдет, если (или когда) одна из них отвергнет или превзойдет основные философские принципы своих создателей?