Стюарт Рассел - Совместимость. Как контролировать искусственный интеллект

Курцвейл оценивает эти изменения положительно. Илон Маск, в свою очередь, считает слияние человека и машины в основном оборонительной стратегией [224] Статья, цитирующая слова Илона Маска о нейронном кружеве: Tim Urban, «Neuralinkf and the brain’s magical future», Wait But Why, April 20, 2017. :

Если мы достигнем тесного симбиоза, ИИ не будет «другим» — он будет вами и будет иметь такие же отношения с корой вашего головного мозга, какие ваша кора имеет с лимбической системой… Перед нами встанет выбор: остаться позади и стать фактически бесполезными или своего рода домашним питомцем — знаете, чем-то вроде кошки — либо постепенно найти какой-то способ вступить в симбиоз и слиться с ИИ.

Компания Маска Neuralink Corporation работает над устройством, получившим название «нейронное кружево», по технологии, описанной в романах Иэна Бэнкса из цикла «Культура». Целью является создание надежной постоянной связи между корой головного мозга человека и внешними компьютерными системами и сетями. Имеется два главных препятствия технического характера: первое — трудности соединения электронного устройства с тканями мозга, их энергопитание и связь с внешним миром; второе — тот факт, что мы почти совершенно не понимаем нейронной реализации высоких уровней когнитивной деятельности в мозге, следовательно, не знаем, куда присоединять устройство и какие процессы оно должно выполнять.

Я сомневаюсь, что препятствия, описанные в предыдущем абзаце, непреодолимы. Во-первых, такие технологии, как нейронная пыль , быстро снижают размер и требования к питанию электронных устройств, которые могут быть подсоединены к нейронам и обеспечивать сенсорику, стимуляцию и внутричерепную коммуникацию [225] Новейшие достижения проекта «нейронной пыли» в Беркли: David Piech et al., «StimDust: A 1.7 mm3, implantable wireless precision neural stimulator with ultrasonic power and communication», arXiv: 1807.07590 (2018). . (К 2018 г. технология достигла размеров около 1 мм 3, так что, возможно, более точный термин — нейронный песок .) Во-вторых, сам мозг имеет потрясающие возможности адаптации. Принято было считать, например, что нам нужно понять код, с помощью которого мозг управляет мышцами руки, прежде чем можно будет успешно подсоединить мозг к роботу-манипулятору, и что мы должны разобраться, как улитка уха анализирует звук, чтобы можно было создать ее заменитель. Оказалось, что мозг делает большую часть работы за нас. Он быстро постигает, как заставить роботизированную руку делать то, что хочет ее владелец, и как отображать информацию, поступающую в имплант внутреннего уха, в форме различимых звуков. Более чем вероятно, что мы наткнемся на способы снабдить мозг дополнительной памятью, каналами коммуникации с компьютерами и, возможно, даже каналами коммуникации с мозгом других людей — даже не понимая в полной мере, как все это работает [226] Сьюзан Шнайдер в книге «Искусственный Вы» (Susan Schneider, Artificial You: AI and the Future of Your Mind (Princeton University Press, 2019)) указывает на риски невежества, сопутствующие таким потенциальным технологиям, как загрузка информации в мозг и нейропротезирование: в отсутствии реального понимания, могут ли электронные устройства обладать сознанием, и с учетом постоянных блужданий философии в вопросе об устойчивой личной идентичности мы рискуем непреднамеренно покончить с собственным сознательным существованием или заставить страдать сознающие машины, не понимая, что они обладают сознанием. .

Независимо от технологической осуществимости этих идей, следует задаться вопросом, обещает ли это направление исследований наилучшее возможное будущее для человечества. Если людям нужно сделать себе операцию на мозге только для того, чтобы пережить угрозу ими же созданной технологии, вероятно, мы где-то ошиблись.

Это распространенная логика — проблемное поведение ИИ порождается постановкой задач определенного типа; исключаем эти задачи, и все прекрасно. Скажем, Ян Лекун, первопроходец глубокого обучения, директор Facebook по исследованию ИИ, часто приводит эту мысль, когда старается преуменьшить риск, который несет ИИ [227] Интервью Яна Лекуна о рисках ИИ: Guia Marie Del Prado, «Here’s what Facebook’s artificial intelligence expert thinks about the future», Business Insider , September 23, 2015. :

У ИИ нет причины для инстинкта самосохранения, ревности и прочего… У ИИ-систем не будет этих деструктивных «эмоций», если мы не встроим в них эти эмоции. Не представляю, что бы побудило нас к этому.