Митио Каку - Будущее разума

Он развернул перед глазами читателей жуткую антиутопию, в которой все наши технологии сговорились уничтожить цивилизацию. Против нас когда-нибудь обернутся три ключевых наших создания, предупреждал он:

когда-нибудь микробы, полученные биоинженерными методами, выскользнут за стены лабораторий и учинят на Земле настоящий хаос. Поскольку собрать их обратно невозможно по очевидным причинам, они, скорее всего, бешено размножатся и породят на планете смертельную чуму хуже, чем в Средние века. Не исключено, что биотехнологии даже изменят ход эволюции человека, положив начало «нескольким отдельным и неравноценным видам… что поставит под угрозу концепцию равенства — краеугольный камень нашей демократии»;

когда-нибудь наноботы могут взбеситься и выплеснуть в мир неограниченное количество «серой слизи», которая покроет Землю целиком и задушит на ней всякую жизнь. Поскольку наноботы «переваривают» обычные вещества и преобразуют их в другие формы, то испортившиеся наноботы могут выйти из-под контроля и пожрать значительную часть планеты. «Серая слизь станет, безусловно, грустным финалом человеческих приключений на Земле; это намного хуже простого огня или льда, к тому же начаться может с обычной лабораторной случайности»;

когда-нибудь роботы захватят власть и сменят человечество. Они станут настолько разумными, что просто оттолкнут человечество на обочину. Мы останемся лишь примечанием в книге эволюции. «Роботы ни в каком смысле не будут нашими детьми… На этом пути наше человечество вполне может погибнуть».

Джой утверждал, что по сравнению с опасностью, которую представляют для нас эти три чуда техники, опасность атомной бомбы периода 1940-х гг. может показаться пустяком. Тогда Эйнштейн предупреждал о том, что ядерным технологиям под силу разрушить цивилизацию: «Ясно с поразительной очевидностью, что наши технологии превзошли нашу человечность». Но атомная бомба была создана в результате масштабной правительственной программы, которую можно было жестко регулировать, тогда как эти технологии развиваются частными компаниями, где регулирование сильно ослаблено, если вообще присутствует, указывает Джой.

Конечно, соглашается он, в краткосрочной перспективе эти технологии, возможно, облегчат страдания. Но в долгосрочной перспективе все преимущества померкнут перед тем фактом, что результатом развития этих технологий может стать научный армагеддон, способный положить конец роду человеческому.

Джой даже обвинил ученых в эгоизме и наивности в их попытках создать лучшее общество. Он писал: «Традиционная утопия — это хорошее общество и хорошая жизнь. Хорошая жизнь невозможна без других людей. Эта техноутопия сводится только к заявлениям типа: “Я не буду болеть; я не умру; я буду лучше видеть и поумнею” и т.п. Если бы вы рассказали об этом Сократу или Платону, они посмеялись бы над вами».

Завершается статья следующим заявлением: «Я думаю, не будет преувеличением сказать, что мы стоим на пороге дальнейшего совершенствования абсолютного зла, возможности которого простираются гораздо дальше, чем возможности оружия массового уничтожения по отношению к отдельным государствам…»

Какой же из этого может следовать вывод? «Что-то вроде вымирания», — предупреждает Джой.

Как и ожидалось, статья вызвала целую бурю возражений.

После выхода этой статьи прошло уже больше десяти лет — для высоких технологий это целая жизнь. Сегодня уже можно посмотреть на некоторые из предсказаний автора с позиций нового знания. Оглядываясь назад и рассматривая предупреждения в перспективе, мы без труда заметим, что Билл Джой преувеличил угрозу высоких технологий, но одновременно вынудил ученых взглянуть в лицо этическим, моральным и социальным последствиям их работы, а это всегда хорошо.

Кроме того, его статья положила начало дискуссии о том, что такое человек. Разгадывая молекулярные, генетические и нейронные загадки мозга, не дегуманизируем ли мы в какой-то степени человека, не упрощаем ли, сводя человеческую сущность к набору атомов и нейронов? Если нам удастся нанести на карту все нейроны мозга до единого, а также отследить все нервные пути, не лишит ли это человечество покрова тайны и магии?

Ответ Биллу Джою

Задним числом понятно, что угроза со стороны роботов и нанотехнологий далеко не так близка, как считал Билл Джой, и я сказал бы, что предупрежденное человечество успеет предпринять самые разные контрмеры (к примеру, запретить некоторые направления исследований, если они ведут к созданию неуправляемых роботов, или вставить в них специальные чипы для выключения в критических ситуациях, или разработать надежные устройства для иммобилизации в случае необходимости вообще всех роботов).