Рей Бредбері - У сріблястій місячній імлі

Таким чином, Реннан, Макінтош, Дювеннан та їхні колеги знали, що є поріг, до якого система повинна бути завчасно доведена, — поріг доцільності, нижче якого план створення штучного мудреця не мас ніяких шансів бути реалізованим, оскільки хоч би що було створено нижче цього порога, воно ніколи не зуміє вдосконалити самого себе. Такий поріг існує в ланцюговій реакції вивільнення ядерної енергії: нижче нього реакція не може стати само-підтримуючою, а надто лавинною. Нижче порога певна кількість ядер розщеплюється, нейтрони, які вилітають з них, викликають розпад інших ядер, але реакція має згасаючий характер і швидко припиняється. Щоб вона могла тривати далі, коефіцієнт розмноження нейтронів повинен бути більшим за одиницю, тобто необхідно подолати певний поріг, що й відбувається, якщо маса урану перевищує величиною критичну. В мислячій системі їй відповідає певна інформатична маса.

Теоретично було передбачено існування такої маси, чи, точніше, “маси”, оскільки термін вживається тут аж ніяк по в механічному розумінні; її значення зумовлюється деякими константами й параметрами, які показують розвиток так званих “дерев” даної евристики. [7] Евристика — тут метод навчання, який має на меті схилити учня до самостійних спостережень і міркувань, а не до пасивного засвоєння відомостей, що їх йому подають. Із зрозумілих причин я не маю тут можливості вдаватися в подальші подробиці. Мені хотілося б швидше дозволити собі нагадати, з яким неспокоєм, тривогою і навіть страхом чекали творці першої атомної бомби вирішального випробування — вибуху, який перетворив піч у пустелі Аламогордо в яскравий сонячний день. А вони ж послуговувалися найпередовішими як на ті часи теоретичними та експериментальними пізнаннями. Одначе жоден учений ніколи не може бути впевнений, що знає про досліджуване явище все. І це — в атомній фізиці, а що ж казати про таку галузь, де результатом має бути розум, який за самим задумом конструкторів переважає всю їхню розумову потужність.

Я вже застеріг вас, шановні читачі, що маю намір огудити ГОЛЕМа. Що вдієш: він вчинив стосовно власних “батьків” принаймні непорядно. Справді, перетворюючись у ході робіт, які нами велися, з об’єкта в суб’єкт, із будівельної машини — у власного будівничого, із сумирного титана — в суверенного володаря, він нікого не інформував про зміни, які в ньому відбувалися. Мова йде не про голослівні звинувачення чи інсинуації, оскільки на засіданні спеціальної комісії конгресу сам ГОЛЕМ заявив ось що (цитую за протоколами засідань комісії, що зберігаються в Бібліотеці конгресу, том ССІЛХ, зошит 719, частина II, с. 926, рядок 20 зверху): “Я не інформував нікого, дотримуючись прекрасної традиції. Адже Дедал теж не інформував Міноса про деякі властивості пір’я і воску”. Безперечно, це гарно сказано, але смисл цих слів це викликає ніяких сумнівів. Одначе про цей бік подій, пов’язаний із створенням ГОЛЕМА, в цій книзі не сказано жодного слова.

Д-р Крів вважає (мені відомо це з приватних розмов, що їх він мав зі мною і зміст яких люб’язно дозволив обнародувати), що не можна випинати лише цей варіант справи, замовчуючи інші, не відомі широкому загалові, бо він є лише одним з багатьох пунктів у списку взаємних претензій, які виникли в плутанині відносин між ЮСІБом, консультативними групами, Білим домом, конгресом і сенатом, нарешті, радіо й телебаченням та ГОЛЕМом, чи, висловлюючись коротше, між людьми і створеною ними нелюдиною.

Д-р Крів вважає (а його думка, наскільки мені відомо, досить поширена в МТІ й університетських колах), що коли навіть відкинути мотивування необхідності побудови ГОЛЕМа, то бажання перетворити його в “раба Пентагону” в будь-якому відношенні і поза всякими сумнівами було більш ницим з морального погляду, аніж ті хитрощі, до яких він удався, щоб лишити своїх конструкторів у невіданні стосовно переміни, яка дала йому змогу врешті звести нанівець усі зусилля конструкторів, котрі зробили все можливе для створення відповідних засобів контролю.

На жаль, у нашому розпорядженні немає розробленого апарата етичної арифметики, який дав би змогу шляхом простих операцій додавання і віднімання визначити, хто виявився в процесі створення Найсвітлішого Розуму па Землі більшою свинею — він чи ми. Крім таких речей, як почуття відповідальності перед історією, як голос сумління, як свідомість неминучого ризику, що супроводжує здійснення політичних заходів в антагоністичному світі, у нас немає нічого, що дало б нам змогу скласти “баланс” заслуг та провин і дістати в підсумку “сальдо гріхів”. Можливо, і ми не безгрішні. Однак ніхто з провідних політиків ніколи не вважав, що “суперкомп’ютерний” етап гонки озброєнь має на меті наступальні дії, тобто агресію. Мова йшла виключно про посилення оборонної могутності нашої країни. Ніхто також не намагався з допомогою “підступних махінацій” уярмити ГОЛЕМа чи будь-якого іншого серед створюваних прототипів — конструктори прагнули тільки зберегти максимальний контролі, над своїм дітищем. Більше того, якби вони так не чинили, їх слід було б визнати безвідповідальними шаленцями.