Филип Фернбах - Иллюзия знания. Почему мы никогда не думаем в одиночестве

Старая шутка о взаимоотношениях между людьми сейчас применима уже и к смартфонам: мы не может жить с ними, но жить без них тоже не можем. Раз за разом, тысячи раз, десятки тысяч раз мы суем руку в карман, чтобы просмотреть электронную почту или новости на Facebook. Некоторые из нас мечтают о том, чтобы уехать куда-нибудь подальше и отключиться от постоянного потока информации (хотя бы на несколько дней).

Технологическая революция во многом улучшила нашу жизнь, но и породила тревогу, а иногда чувство безысходности и даже ужас. Перемены в технике приводят к самым разным результатам, и далеко не все из них нам удается предвидеть.

Некоторые крупнейшие предприниматели и ученые говорят о еще более удручающих перспективах. Такие люди, как Илон Маск, Стивен Хокинг и Билл Гейтс, предупреждают нас, что технология может стать настолько сложной, что начнет преследовать собственные цели, отличные от задач ее создателей. Причину этой обеспокоенности сформулировали в 1993 г. Вернор Виндж в эссе «Технологическая сингулярность» (100) и в 2005 г. Рэй Курцвейл в книге «Сингулярность уже близка: когда люди выйдут за пределы биологии» (101), а также – совсем недавно – шведский философ Ник Бостром, работающий в Оксфордском университете (102). По мнению Бострома, опасения, что технология развивается настолько быстрыми темпами, что появление суперинтеллекта становится неизбежным, действительно существуют.

Суперинтеллект – это машина или комплекс машин, интеллектуальные способности которого намного превосходят возможности человека. Возникают сомнения: а вдруг высокоэффективный искусственный интеллект (ИИ) сможет существовать самостоятельно? ИИ-роботы будут создавать новые, еще более умные ИИ-роботы быстрее, чем человек. Если этот процесс будет запущен, первая версия робота сможет создать вторую, которая сможет конструировать еще более эффективные машины и т. д. Вам понятно, к чему это приведет? Футурологи предсказывают взрывное ускорение темпов разработки ИИ, сродни стремительному росту производительности в экономике, свидетелями которого мы являемся с начала промышленной революции. Машины становятся умнее совсе возрастающей скоростью, а потому вскоре у нас появится суперинтеллект, значительно превосходящий способность человека мыслить и решать проблемы. Пессимисты считают, что появление сверхмозга сделает ситуацию непредсказуемой. Суперинтеллект будет эффективнее человека в достижении целей, поэтому, если цели машины и человека вдруг перестанут совпадать, судьба человечества может оказаться печальной.

Овладение новыми технологиями идет рука об руку с нашей эволюцией как вида. По утверждению Иэна Таттерсаля, почетного куратора Американского музея естественной истории в Нью-Йорке, «когнитивные способности и технология взаимно усиливали друг друга» по мере развития цивилизации (103). На протяжении всей нашей эволюционной истории генетические и технологические изменения шли параллельно. По мере того как наш мозг увеличивался в размерах от гоминидов к их потомкам, орудия труда усложнялись и становились более распространенными. Сначала наши предки использовали камни с острыми краями. Следующие поколения научились пользоваться огнем, делать каменные топоры и ножи, затем гарпуны и копья, потом сети, ловушки, капканы, тенета, лук и стрелы и, наконец, начали обрабатывать землю. Каждое из этих технологических достижений сопровождалось изменениями во всех других сферах (культурологическими, поведенческими и генетическими), которые в итоге привели к появлению современного человека. На каждом этапе происходило одновременное изменение орудий труда, культуры, когнитивной деятельности и генов, что создавало новый баланс, обеспечивавший нашим предкам большее могущество для преобразования окружающей среды в соответствии со своими потребностями. Цивилизация стала возможной благодаря новым технологиям, например появлению ирригационных каналов. Цивилизация породила множество разнообразных инструментов уже во времена античности ив конце концов достигла современного уровня с его взрывным развитием информационных технологий, которое началось в середине ХХ в. К счастью или к несчастью, общество и технология всегда подпитывают взаимную трансформацию.

Можно сказать, что люди созданы для восприятия технологических изменений. Наше тело и мозг устроены так, что мы способны использовать новые инструменты в работе, как будто они являются продолжением нашего тела (104). Мы быстро учимся перемещать курсор на экране с помощью мышки или сенсорной панели, как будто водим по экрану пальцем. Когда мы пишем ручкой или карандашом (если вы еще это делаете), то ощущаем поверхность бумаги, а не то, что на самом деле ощущают наши пальцы (давление пишущего инструмента). Это, в частности, позволяет хирургам выполнять микрохирургические операции с использованием роботов. Аналогично, когда мы подметаем пол, мы очень быстро привыкаем к длине метлы и практически сразу можем добраться щеткой до пола позади кровати, как будто древко служит продолжением нашей руки. Повар, специализирующийся на приготовлении суши, учится много лет, чтобы стать высококлассным мастером. Одним из главных признаков хорошего повара является умение работать ножом как собственной кистью.