У кабіні спостереження поруч бокса — двоє: інженер Дейв та його вчитель, підстаркуватий директор Інституту автоматики. Обидва не зводять очей з «Крихітки».
— То в чому ж справа, професоре? — запитує Дейв. — Ми щойно перевірили всю схему. Ніяких пошкоджень немає, контрольні завдання виконуються абсолютно точно. І от, як бачите, ввімкнулася самостійно і рветься геть з приміщення…
— Випустіть її…
— Не можна, професоре! — стривожено заперечує Дейв. — Вона наробить такого бешкету!
— Випустіть.
Знизавши плечима, Дейв клацнув вимикачем.
Стальні ворота повільно піднялися. «Крихітка» насторожилась, підповзла до отвору.
В сусідньому боксі стоїть майже така ж, тільки менша кібернетична споруда. Це — перша, ще недосконала модель електронно-обчислювальної злагоди з самопрограмуванням. Її електронний мозок вимкнено, атомний реактор вийнято. Вона неспроможна зробити жодного руху.
Зі своєю старшою сестрою кібернетична «Крихітка» зустрічається вперше. В її системі машинних рефлексів нема таких, що визначали б родинні почуття. Навпаки, інженер Дейв запрограмував дії машини так, що вона сприймає кожен невідомий предмет як потенційного ворога. Тепер він і сам не радий цьому.
— Хижак! Справжнісінький хижак! — у голосі інженера звучить майже розпач.
Порівняння з хижаком зовсім не випадкове. Сяжки «Крихітки» ворушаться стривожено, реле-перемикачі електронного мозку цокотять гарячково. Там зараз розв'язується складна задача: «Що це, як в такому випадку поводитись?»
Невідому річ, яка не виявляє агресивних намірів, за програмою, треба обмацати, сфотографувати і обминути. А «Крихітка», як тільки скінчився процес аналізу, зірвалася з місця, налетіла на свою сестру і почала її шматувати.
«Крихітка» — машина універсальна. Її сяжки обладнані газовими різаками, пилками, гайковертами. Тепер усі ці інструменти пущено в хід. Рухи споруди надзвичайно злагоджені, точні. Вона діє не навмання, а насамперед знищує пристрої керування своєї жертви.
— Що ти робиш, клята?! — блідий інженер Дейв ледве стримується, щоб не вигукнути в мікрофон беззаперечну команду «Стоп!».
— Не хвилюйтесь, Дейв… — директор інституту зосереджений, але спокійний. — Коли вона почала виявляти схильність до агресивності?
— Днів три тому. Обминаючи перешкоди, вона поповзла просто на нас з братом. А сьогодні вранці у неї з'явилася манія руйнування.
— Руйнування?.. — директор з сумнівом похитав головою. — А що робить «Крихітка» з деталями зруйнованих машин?
— Не знаю, бо не дозволяв їй руйнувати.
— Ну, то зараз побачимо.
«Крихітка» продовжувала свою справу. Швидко й упевнено вона розбирала машину на складові частини, пошкоджені деталі викидала геть, а придатні — дбайливо сортувала. За якусь годину від складної злагоди лишився голий металевий кістяк та купи залізяччя, дротів, пластмаси.
Власне, нічого незвичайного в діях «Крихітки» досі не було. Ще при побудові інженер Дейв вклав у електронну пам'ять споруди програму демонтажу першої-ліпшої машини за спеціальним наказом. Але що ж вона робитиме далі?
«Крихітка» завмерла. Здавалося, вгамувавши жадобу руйнування, вона заспокоїлась. Проте мікрофони доповіли: реле-перемикачі споруди клацають дедалі інтенсивніше, а на дубляжній схемі в кабіні спостереження індикатори кожної ділянки електронного мозку злагоди сяють яскраво. Який процес аналізу й синтезу відбувається зараз у ньому? Які нові команди записуються на барабани пам'яті? Визначити це вже не можна. Споруда вийшла з-під контролю свого творця, вона — «збожеволіла».
Ні, машина не мислить і свідомості не має. Та хіба є свідомість у хробака чи комахи? А вони ж виконують складні цілеспрямовані дії, породжені й удосконалені важким і тривалим процесом еволюції. То, може, і машинні рефлекси кібернетичної «Крихітки» зараз перебудовуються в напрямку найбільшої доцільності?
Інженер Дейв сподівався чогось надзвичайно хорошого. Але самостійно вироблена програма електронного мозку споруди була просто неймовірною: «Крихітка» почала розбирати сама себе. Гайковерти та клешні-затискачі зняли захисний кожух апаратури, в схему посунулись сяжки, обладнані електричними паяльниками.
На дубляжній схемі в кабіні спостереження один по одному згасали індикатори каскадів злагоди. Їх понад п'ятдесят тисяч, і втрата кількох десятків з загальної кількості ще нестрашна. Але ж, кінець кінцем, настане мить, коли електронний мозок зазнає непоправної шкоди… Що ж буде тоді?
Читать дальше