Эрик Дрекслер - Машины создания

Некомпетентность будет кончено неизбежна, но должна ли она быть фатальной? Мы, человеческие существа, по своей природе глупы и невежественны, однако мы иногда ухитряемся объединить наши кусочки компетентности и знания, чтобы достигать великих вещей. Никто не знает, как долететь до Луны и никто никогда не узнает, однако дюжина людей прошлась по её поверхности. Мы преуспели в технических вопросах, потому что научились строить институты, которые собирают многих людей вместе, чтобы генерировать и проверять идеи. Эти институты добиваются надёжности путём избыточности, и качество их результатов зависит от во многом от того, как сильно это нас заботит и как напряжённо мы работаем. Когда мы концентрируем достаточно внимания и ресурсов на надёжности, мы часто преуспеваем. Это – то, почему полёты на Луну закончились успешно без гибели в космосе и почему никакое ядерное оружие никогда не было запущено и не взорвалось по случайности. И это то, почему мы можем суметь управлять нанотехнологией и продвинутым ИИ с достаточной осторожностью, чтобы гарантировать компетентную работу. Неустойчивые люди с ограниченными способностями могут объединиться, чтобы образовать стабильные, компетентные институты.

Лень – интеллектуальная, моральная и физическая – кажется возможно нашей самой большой опасностью. Мы можем только отвечать на великие вызовы великими усилиями. Сделают ли достаточно людей достаточные усилия? Никто не может этого сказать, поскольку никто не может сказать за любого другого. Но успех не потребует неожиданного всеобщего прозрения и мобилизации. Он потребует только растущего сообщества людей, пытающихся разработать, опубликовать и воплотить работоспособные решения, и чтобы они имели хорошую и растущую меру успеха.

Это не так невероятно. Забота о технологии стала широко распространённой, также как идея ускоряющегося изменения потребует лучшего предвидения. Лень не поймает в западню каждого, и введённые в заблуждение мыслители не будут вести по ложному направлению усилия всех. Смертоносные псевдо-решения (такие как запрещение исследований) проиграют битву идей, если достаточно людей разоблачат их. И хотя мы сталкиваемся в большим вызовом, успех сделает возможным осуществление великих мечтаний. Великие надежды и страхи могут подвигнуть достаточно людей, чтобы дать возможность человеческой расе выиграть.

Страстное участие и действие не будут достаточны; мы также будем нуждаться в хорошо обоснованных стратегиях. Это потребует больше чем хороших намерений и чётких целей: мы должны также отслеживать фактические связи в мире, которые будут связывать то, что мы делаем, с тем, что мы получаем. По мере того, как мы приближаемся к технологическому кризису беспрецедентной сложности, имеет смысл попытаться улучшить наши институты оценки важных технических фактов. Как ещё мы можем направлять ведущую силу и минимизировать угрозу последней некомпетентности?

Институты эволюционируют. Чтобы вывести лучшие институты для нахождения фактов, мы можем копировать, адаптировать и расширять наши прошлые успехи. Они включают свободную прессу, научное сообщество, и суды. Все имеют свои достоинства, и некоторые из этих достоинств могут быть объединены.

Собрание экспертов

От междоусобиц к честному судебному процессу

Один из подходов

Почему бы не справедливый судебный процесс?

Построение справедливого судебного процесса

Обществу нужны лучшие способы понимания технологии – это давно уже очевидно. Вызовы будущего просто делают нашу потребность более насущной.

Обещания технологии манит нас вперёд, а давление конкуренции делает остановку практически невозможной. По мере того, как гонка технологий ускоряется, новые разработки входят в нашу жизнь всё быстрее, а фатальные ошибки становятся более вероятными. Нам нужно создать лучший баланс между нашим предвидением и нашей скорость продвижения. Мы не можем сделать много, чтобы замедлить рост технологии, но мы можем ускорить скорость предвидения. И с лучшим предвидением, у нас будет больше шансов направлять гонку технологий в безопасном направлении.

Предлагались различные способы для управления технологией. "Люди должны контролировать технологию" – неплохой лозунг, но он может иметь два возможных значения. Если это значит, что мы должны заставить технологию служить человеческим потребностям, то он вполне имеет смысл. Но если он означает, что люди как целое должны принимать технические решения, то в нём очень мало смысла. Электорат не может оценить внутренние взаимосвязи между технологией, экономикой, окружающей средой и жизнью; у людей нет необходимых знаний. Сами люди согласны: в соответствии с исследованием Государственным фондом науки США 85 процентов взрослых людей в США считают, что большинство граждан не имеет знаний, необходимых, чтобы выбирать, какие технологии разрабатывать. Публика в целом оставляет технические суждения техническим экспертам.