Дуглас Престон - Проектът „Кракен“

— Малко ми е трудно да възприема, че една компютърна програма може да се ядосва или да заплашва.

— По принцип, софтуерът не „иска“ да прави каквото и да било. Той е просто изпълним код. Смятам, че експлозията е накарала софтуера да премине в авариен режим на оцеляване, в който е зациклил.

— Прилича ми на ХАЛ от онзи филм — „Космическа одисея“.

— Знаеш ли, сравнението не е никак лошо.

— И къде е тази програма в момента?

— Нямам представа. Вероятно се е скрила в някой интернет сървър и замисля как да ме унищожи.

— И ти избяга само защото тя те е заплашила?

— Не бяха само заплахи. Тя подпали компютъра ми.

— Как?

— Предполагам, че е повредила контролера, който следи заряда в литиевойонната батерия, вкарала го е в режим на свръхзареждане, докато се нагрее и пламне. Затова изгорих мобилния си телефон и айпада, затова строших и твоя телефон. Затова се крия в тези планини. За да не може Дороти да се добере до мен.

— Това ли е планът ти? Да се скриеш в планините с надеждата да ти се размине?

— Не съм длъжна да ти обяснявам.

— Защо не уведоми НАСА за тези заплахи?

— Да не би да смяташ, че ще ми повярват? Ако им разкажа подобна история, веднага ще ме затворят в лудница.

— Но ти си отговорна…

— Виж какво, написах тази програма съгласно спецификацията, която получих. Дадох им точно онова, което искаха. Вината не е моя. Работа на НАСА е да я проследи и да я изтрие. Полуделият софтуер си е техен проблем. Аз бях дотук.

Форд се загледа в огъня.

— Все още не разбирам как някаква си компютърна програма може да взима подобни решения и да ги осъществява — да бяга, да преследва, да заплашва.

Мелиса не му отговори веднага. Небето стана лилаво и звездите започнаха да изгряват една по една. Яденето къкреше и около огъня се носеше приятен аромат на готвено и на дърва.

Накрая тя каза:

— Повечето хора не разбират принципите на работа на изкуствения интелект. Спомняш ли си онази стара програма, наречена „Елиза“?

— Програмата за психоанализа?

— Да. Когато бях в шести клас, се сдобих с нейна версия, написана на бейсик. „Елиза“ разполагаше с база данни, в която бе записан набор от думи и изрази. Когато напишеш нещо, софтуерът търси в базата данни и открива подходящия отговор. На практика тя перифразира думите ти и ги превръща във въпрос, който ти задава. Например ти написваш „Майка ми ме мрази“, а програмата те пита: „Защо майка ти те мрази?“ С едни приятели се хванахме и пренаписахме програмата така, че да представим Елиза като гаднярка. Ти й казваш: „Баща ми не ме харесва“, а тя ти отговаря: „Баща ти не те харесва, защото си тъпа пикла“. Пренаписвахме я непрекъснато и всеки път тя ставаше все по-агресивна и вулгарна. После попадна у един учител и той ме прати при директора. Директорът беше възрастен, нищо не разбираше от компютри. Зареди „Елиза“ и започна да пише разни неща… искаше да види какво сме направили. „Елиза“ започна да го обижда, да го ругае, да го псува. Той побесня. Реагира, сякаш не „Елиза“, а истински човек му говори тези неща. Започна да обяснява на „Елиза“, че се държи неприлично, че не бива да му говори по този начин. Дори заплаши да я накаже! Беше забавно — някакъв чичка, който представа си няма от компютри, да се ядосва на една глупава програма!

— Не разбирам какво имаш предвид.

— „Дороти“ прилича на „Елиза“ с тази разлика, че е много по-усъвършенствана. В интерес на истината, софтуерът не мисли , не чувства , няма емоции, нужди, желания. Но симулира всички тези човешки реакции толкова добре, че не можеш да го отличиш от човек. Това означава терминът „мощен изкуствен интелект“: когато комуникираш с програмата, да не можеш да разбереш дали е човек, или машина.

— Но това не обяснява защо Дороти преследва именно теб.

— Дороти разполага с вградена рутинна програма, наречена ИНС, или Избягване на негативни стимули. ИНС се включва, когато нещо застраши сондата „Експлорър“. Не забравяй, че този софтуер трябва да управлява космически апарат на милиарди километри от Земята, където би трябвало да оцелее въпреки многобройните опасности, пред които ще бъде изправен, и въпреки липсата на помощ от Центъра за управление на полетите. Затова възприема като заплаха мен. И в известен смисъл аз наистина съм заплаха. Зная повече за него от всеки друг. Моите шансове да го открия и изтрия са най-големи.

Форд поклати смаяно глава.

Мелиса отметна русата си плитка и се засмя саркастично.