Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Как и мы, удивительные существа с острова ИИ желают оправдывать себя и судить других. У них есть та же небольшая отдаленность от остальной части реальности — отдаленность, которой, как нам кажется, не ощущают другие животные. Разум, подобный нашему, знает, что он разумен, чувствует ошибочность чего-либо и постоянно старается это исправить.

Имея такие проблемы с ПО, а также учитывая уже существующие техногенные угрозы нашему виду, надо ли беспокоиться по поводу злонамеренного искусственного интеллекта? В течение минимум нескольких десятилетий куда более серьезную опасность для нас будут представлять межвидовые моровые болезни, предельное истощение ресурсов, глобальное потепление и ядерное оружие. Потому-то в наших прометеевых страхах и возникает злонамеренный искусственный интеллект — это опосредованное представление о том, как мы сами, находясь на пике развития собственного разума, сознательно убиваем себя.

Представления о благонамеренном искусственном интеллекте являются в равной степени саморефлективными. Машины обращают свои сверхразумы к тем, кто их создал, а не против них. Учитывая уровень автономности, присущий высокоразвитому ИИ, следует полагать, что эти существа будут заинтересованы в нас. Если задуматься, то злонамеренный искусственный интеллект тоже будет в нас заинтересован — только со знаком «минус».

Обе версии этого диковинного зверя отражают более глубокую истину, которая заключается в воздействии на нас новых открытий в магическом компьютерном мире. Дополняя себя гаджетами, мы становимся новыми существами, если угодно, монстрами, с точки зрения нашего прошлого «я».

Мы много раз изменяли свое сознание за последние 50 000 лет, восприняли идеи о жизни после смерти и монотеизм, стали печатной культурой и видом, который вполне осведомлен о том, сколь крошечное место отведено ему в космосе. Но мы никогда не менялись так быстро и не знали настолько хорошо о происходящих изменениях.

Рассмотрим некоторые результаты, достигнутые только за последнее десятилетие. Мы преодолели многие из извечно стоявших перед нами преград времени и пространства благодаря средствам мгновенной связи. Язык уже не разделяет нас ввиду наличия все более качественных средств компьютерного перевода и обмена изображениями. Технологии с открытым исходным кодом и поиск в интернете дают нам мало осознаваемую пока что силу коллективной работы. Помимо положительных моментов, можно также вспомнить исчезновение частной жизни и слежку за людьми для лучшего управления их передвижениями и желаниями. Мы добровольно подчиняемся беспрецедентной социальной связи — казалось бы, мелочь, но способная привести к уничтожению всякого представления о личности и индивидуальности. Под маской роботизации и экономического обмена меняются представления об экономике.

Мы создаем разумные существа, но создаем их внутри себя. Этот интеллект искусственный лишь потому, что он новый. Как только его будет больше, он станет просто разумом. Машины острова ИИ, которых мы так боимся, — возможно, мы сами через несколько поколений. И мы надеемся, что эти машинолюди будут ощущать наше родство с ними даже при всем нашем одиночестве и оторванности от мира, которые также являются источником творческого потенциала человека.

Мы встретились с ИИ, и это мы сами. С извечным людским упорством мы стремимся к новым пределам, но не хотим слишком сильно меняться.

Если считать, что мышление и сознание — это результат формирования определенным образом клеток мозга и их компонентов, значит, наши мысли, эмоции и воспоминания можно воспроизвести при помощи движущихся моделей, собранных из велосипедных запчастей. Конечно, «велосипедный мозг» придется сделать очень большим, чтобы по сложности он соответствовал нашему разуму. В принципе, человеческий интеллект можно гипостазировать в виде сплетения тонких ветвей деревьев, колышущихся на ветру, или в виде движения термитов.

Что будет означать для «велосипедного мозга» или другой машины «думать о чем-то» или «что-то знать»? Есть много разных знаний, которыми может обладать существо-машина. Из-за этого говорить о мышлении так сложно. Например, знание бывает фактологическим или пропозициональным: существо может знать, что Первая франко-дагомейская война была конфликтом между Францией и африканским королевством Дагомея при короле Беханзине.