Эрик Дрекслер - Машины создания

Если мирные соглашения не будут работать, кто-то может рассмотреть использование военной силы, чтобы подавить опасные успехи. Но из-за проблемы контроля, военное давление само по себе было бы не достаточно. Чтобы подавить продвижение силой вместо этого потребовало бы, чтобы одна сила победила и оккупировала враждебные силы, вооружённые ядерным оружием – вряд ли безопасная политика. Далее, победившая сила была бы сама главной технологической силой с мощной военной силой и демонстрирующейся готовностью её использовать. Можно ли в этом случае доверять такой силе, чтобы она подавила собственный прогресс? Даже если так, можно ли ей доверять, что она сможет поддерживать бесконечную, вездесущую бдительность по всему миру? Если нет, тогда угрозы в конце концов возникнут в тайне, и в мире, где открытая работа над активными щитами предотвращена. Вероятным результатом будет катастрофа.

Военная сила в демократических странах имеет большие выгоды, но военная сила сама по себе не может разрешить нашу проблему. Мы не можем выиграть безопасность с помощью стратегии завоевания и подавления исследований.

Эти стратегии остановки исследования – будь то через личное бездействие, локальное бездействие, договорные соглашения или завоевание мира – всё это выглядит обречённым на провал. Однако противодействие прогрессу будет иметь свою роль, потому что нам будет нужно выборочная, умно нацеленная задержка, чтобы отсрочить угрозы до того, как мы к ним подготовимся. Давление со стороны бдительных активистов будет важным, но чтобы помочь управлять прогрессом, а не остановить его.

Если попытки подавить исследования по ИИ и нанотехнологии кажутся бесполезными и опасными, чему из противоположного следовать – односторонние как можно больше усилия? Но это также представляет проблемы. Мы в демократиях вероятно не можем производить стратегические прорывы в идеальной секретности. Слишком много людей было бы вовлечено на протяжении слишком многих лет. Поскольку правительство СССР узнало бы о наших усилиях, их реакция оказалась бы очевидной озабоченность, и они бы несомненно рассматривали бы большой прорыв с нашей стороны как большую угрозу. Если нанотехнология была бы разработана как часть секретной военной программы, их информационные аналитики опасались бы разработки тонкого, но решающего оружия, возможно основанного на запрограммированных «микробах». В зависимости от обстоятельств, наши оппоненты могли бы решить атаковать, пока они ещё могут. Важно, чтобы демократии сохраняли лидерство в этих технологиях, но было бы наиболее безопасно, если мы сможем как-то сочетать эту силу с совершенно неугрожающими видами политики.

Если мы следуем любой из вышеназванных стратегий, мы неизбежно вызовем сильный конфликт. Попытки подавить нанотехнологию и ИИ столкнули бы потенциальную силу, которая будет заниматься подавлением, с жизненными интересами исследователей, корпораций, военных учреждений и медицинских пациентов. Попытки достичь одностороннего прогресса в этих технологии столкнёт кооперирующиеся демократии против жизненно важных интересов наших оппонентов. Все стратегии будут вызывать конфликт, но должны ли все стратегии серьёзно раскалывать западные общества и весь мир?

В поиске серединного пути, мы могли бы пытаться найти баланс сил, основанный на балансе технологий. Это по-видимому расширило бы ситуацию, которая сохраняла определённую меру мирного сосуществования на протяжении четырёх десятилетий. Но ключевое слово здесь – «по-видимому»: грядущие прорывы будут столь стремительными и дестабилизирующими, чтобы старый баланс продолжал существование. в прошлом, страна могла испытывать технологическое отставание на несколько лет и всё же поддерживать приблизительный военный баланс. Однако, со стремительными репликаторами и продвинутым ИИ, задержка на единственный день могла бы быть фатальной. Стабильный баланс значит слишком много, чтобы на него полагаться.

В принципе существует способ гарантировать технологический баланс между кооперирующимися демократиями и советским блоком: мы могли бы разрабатывать технологии в кооперации, делясь инструментами и информацией. Хотя это имеет очевидные проблемы, по крайней мере это несколько более практично, чем оно может казаться на первый взгляд.