Эрик Дрекслер - Машины создания

Параллельно, молекулярная технология разовьется и вызреет, чему будут помогать продвижения в автоматизированном проектировании. Тогда системы ИИ, построенные ассемблерами, дадут еще более стремительное автоматизированную разработку, развивая технологические идеи в темпе, устанавливаемом системами в миллион раз более быстрыми, чем человеческий мозг. Скорость продвижения технологии вперёд тогда ускорится огромнейшим скачком вперёд: за короткое время многие области технологии пододвинутся к своим ограничениям, установленным законом природы. Тогда продвижение в этих областях остановится на очень высоком уровне достижений.

Эта трансформация – головокружительная перспектива. За ней, если мы выживем, лежит мир воспроизводящихся ассемблеров, способных делать всё, что им говорят делать, без необходимости в человеческом труде. За ней, если мы выживем, лежит мир с системами автоматизированного проектирования, способными направить ассемблеры создавать устройства, на пределе возможного, близко к конечным границам технического совершенства.

В конечном счете, некоторые ИИ системы будут иметь и большие технические способности и социальные способности, необходимые, чтобы понимать человеческую речь и желания. Если ей дать достаточно энергии, материалов и ассемблеров, такая система могла бы вероятно называться «машиной-джином» Она произведёт всё, что вы просите, арабская сказка и "О чем вы просите, это произведет, Аравийская легенда и универсальный здравый смысл подсказывают, чтобы мы воспринимали опасности таких машин создания действительно очень серьезно.

Появление решающих крупных достижений в техническом и социальном ИИ займёт годы. Как сказал Марвин Мински, "умеренно "умеренноинтеллектуальные машины ближайшего будущего обещают только давать нам богатство и комфорт неустанных, послушных и недорогих слуг." Большинство систем, называемых ИИ, не думают и не учатся, они являются только грубой выжимкой из знаний и умений экспертов, сохраненных, упакованных и распространяемых для консультаций.

Но прибудет и подлинный ИИ. Удерживать его вне наших ожиданий означало бы жить в мире фантазии. Ожидать ИИ – ни оптимистично, ни пессимистично: как всегда, оптимизм исследователей – пессимизм технофоба. Если мы не готовимся к их прибытию, системы социального ИИ могли бы поставить серьёзную угрозу: подумайте об ущербе, причиняемом всего лишь человеческим интеллектом террористов и демагогов. Подобным образом системы технического ИИ могли бы дестабилизировать мировой баланс в военной сфере, давая одной стороне неожиданное и огромное преимущество. С надлежащей подготовкой, однако, искусственный интеллект мог бы помочь нам строить будущее, которое работает – для Земли, для людей, и для продвижения интеллекта во вселенную. Глава 12 подсказывает подход как часть более общего вопроса управления трансформацией, которую принесут ассемблеры и ИИ.

Зачем нужно обсуждать опасности сегодня? Потому что уже не слишком рано начать разрабатывать институты, способные иметь дело с такими вопросами. Технический ИИ появляется сегодня и каждое его продвижение вперёд ускорит гонку технологий. Искусственный интеллект – всего лишь одна из многих мощных технологий, которыми мы должны научиться управлять, каждая из которых добавляет что-то к сложной смеси угроз и возможностей.

Новая космическая программа

Космос и усовершенствованная технология

Изобилие

Общество с положительной суммой

ЗЕМЛЯ – лишь маленькая часть мира, а остальная часть мира будет важна для нашего будущего. В терминах энергии, материалов и пространства для роста космос – это почти всё. В прошлом инженерные проекты как правило завершались завоеванием нового пространства. В будущем открытые границы космоса расширят человеческий мир. Успехи в ИИ и нанотехнологии будут играть решающую роль.

Чтобы понять космос как границу, для людей это заняло века. Наши предки когда-то видели ночное небо, как черный купол с крошечными искорками, светом, который посылают боги. Они не могли себе представить космическое путешествие, потому что они даже не знали, что космос существует.

Мы теперь знаем, что космос существует, но немного людей уже понимают его ценность. Едва ли это удивительно. Наши умы и культуры развивались на этой планете, и мы только начали воспринимать идею границы дальше неба.