Дэниел Клемент Деннет - Разум - от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

Мы рассмотрели некоторые инновации, которые заставили нас отказаться от идеи великого творения , которая долгое время царила в умах представителей нашего вида. Другие идеи еще ждут своего часа. В течение тысячелетий мы руководствовались мыслью, высказанной в знаменитом изречении Фейнмана: «То, что я не могу создать, я не могу и понять». Однако не так давно наша изобретательность встала на скользкий путь: мы обнаружили себя создающими вещи, которые мы понимаем лишь частично, а они, в свою очередь, могут создавать вещи, которые мы не понимаем вовсе. Поскольку некоторые из этих вещей обладают потрясающими возможностями, мы рискуем начать сомневаться в ценности понимания – или, по крайней мере, в его исключительности. «Понимать – это так старо, архаично, олдскульно ! Кому это надо – что-то понимать, когда мы можем использовать замечательные штуки без каких-либо усилий?»

Существует ли достойный ответ на этот вопрос? Нам нужно нечто большее, чем традиции, если мы хотим защитить идею, что понимание является благом и само по себе, независимо от того, приносит ли оно какие-либо косвенные блага, и по практическим соображениям, чтобы мы могли продолжать жить жизнью, имеющей значение. Философы, и я в том числе, скорее всего, придут в ужас от перспективы будущего без понимания. Сократ сказал: «Неисследованная жизнь не стоит того, чтобы жить», и еще с тех времен мы полагали совершенно очевидным, что все большее понимание всего представляет собой нашу главную профессиональную цель, если не вообще высшую человеческую цель. Но как сказал другой философ, Курт Байер, недавно покинувший нас, «писать о подробностях исследования жизни – занятие не для каждого». Многие люди вполне довольны своим положением потребителей технологий и медицины, научных исследований и художественного творчества и не особенно стремятся понять, как все эти «чудеса» были созданы. Неужто принять эту сверхцивилизованную жизнь и доверить умным артефактам управление нашим благо получием – столь ужасно?

Сам я не могу придумать убедительный аргумент, почему понимание столь ценно для нашего внутреннего состояния, – хотя лично я нахожу его одним из величайших удовольствий жизни, – однако я думаю, что следует сохранять и расширять человеческое понимание и защищать его от активно развивающихся отдельных разновидностей искусственного интеллекта глубинного обучения, и этому есть вполне серьезные практические причины. Артефакты могут ломаться, и немногие понимают их достаточно хорошо, чтобы суметь починить или заменить чем-то другим для выполнения насущных задач, и вполне вероятна ситуация, когда мы все можем оказаться в отчаянном положении. Многие люди уже заметили, что у некоторых наших высокотехнологичных устройств весьма ограничен запас запчастей, да и людей, способных их заменять, не так уж много. Новый принтер с функцией сканера стоит дешевле, чем починка старого. Проще его просто выбросить. Операционные системы для персональных компьютеров следуют той же логике: когда ваше программное обеспечение выходит из строя, не стоит пытаться диагностировать его или найти ошибку, рыться в поисках сбоя, который возник неизвестно откуда; перезагрузите компьютер и обновите его, и ваши любимые программы будут извлечены из безопасного хранилища в памяти и заменят дефектные копии. Но как далеко может зайти этот процесс?

Рассмотрим типичный случай доверия технологиям без понимания. Плавный ход автомобиля – одно из удовольствий жизни; он способен домчать вас туда, куда нужно, вовремя, надежно, и в большинстве случаев поездка проходит классно, с музыкой, кондиционером, в комфорте, а GPS указывает вам путь. Мы склонны воспринимать автомобиль как нечто само собой разумеющееся, атрибут развитого мира, доступное средство передвижения. Мы строим планы, предполагая, что, естественно, автомобиль будет рядом. Однако стоит автомобилю сломаться, как ход жизни серьезно нарушается. Если вы не учились всерьез на механика, вам придется попасть в зависимость от сети эвакуаторов, механиков, автомобильных дилеров и тому подобного. В один прекрасный момент вам приходится продать свою переставшую быть надежной машину и начать строить все заново с другой моделью. Жизнь идет вперед, беспокойства временно позади.

Но что насчет огромной системы, которая делает такую жизнь возможной: хайвеи, нефтеперерабатывающие заводы, страховые компании, банки, рынки, правительство? Наша цивилизация двигалась гладко, преодолев несколько серьезных крахов, тысячи лет, и постоянно росли ее сложность и мощь. Может ли она развалиться? Да, может, но к кому мы обратимся за помощью, чтобы вернуться на прямую дорогу? Мы не можем купить новую цивилизацию, если эта рухнет, поэтому лучше все-таки нам периодически подвергать ее серьезному техосмотру. Кто же, как вы думаете, заслуживает звания механика для этой задачи? Политики, судьи, банкиры, промышленники, журналисты, профессора – лидеры общества, короче говоря, больше похожи на среднего автолюбителя, чем вам хотелось бы думать: они вносят свою скромную лепту в хитроумное устройство, но пребывают в блаженном неведении относительно всех сложностей, от которых зависит целостность системы. По мнению экономиста и мыслителя-революционера Пола Сибрайта [229] Пол Сибрайт – профессор экономики Университета Тулузы, автор книги The War of the Sexes: How conflict and cooperation have shaped men and women from prehistory to the present («Война полов: как противостояние и сотрудничество формировали мужчин и женщин от доисторических времен до настоящего времени»). (Paul Seabright, 2010), оптимистичное туннельное зрение, которое свойственно им в их деятельности, не является ни прискорбным, ни исправимым, наоборот, это благоприятный фактор. Это распределение частичного понимания не случайно. Весь комплекс социального устройства, определяющий во многом нашу жизнь, зависит от нашей близорукой уверенности, что его структура прочна и не нуждается в нашем внимании.