Дейвид Брин - Битие

Въпреки всичко при това темпо постоянните удари в корала щяха за нула време да го превърнат в хамбургер. Една вълна го издигна достатъчно високо, за да се огледа. Видя океан и още океан. Рифът явно беше някой потънал атол, може би около бивш остров. Сигурно преди няколко десетилетия тук беше имало хора, но надигащите се води ги бяха прогонили и бяха завзели домовете им. Което означаваше, че няма да има лодки. Нито телефон.

Докато пропадаше отново надолу, зърна космическата си капсула, все още само на няколко метра от него, уловена между чука и наковалнята и разбивана на доскоро скъпи парчетии. „Аз съм следващият“ — помисли си Хакер. Коралите сякаш го заобикаляха отвсякъде. И с всяка следваща вълна течението го приближаваше към смъртоносната наковалня.

Обзе го паника, която задръсти всичките му сетива. Хакер се замята и зарита, бореше се с водата като с някакъв личен враг. Напразно. Не можеше да чуе дори собствените си ужасени стонове, макар да знаеше, че раздират гърлото му. Инфразвуковият му имплант в челюстта продължаваше да напомня за себе си с прещраквания, импулси и странни вибрации, сякаш морето бе забелязало незавидното му положение и го наблюдаваше с равнодушен интерес.

„Почва се“ — помисли си той и се извърна: знаеше, че следващата вълна ще го запрати право срещу острите корали.

Внезапно усети рязко сръчкване в гърба.

Изненадващо нежно обаче.

Второ сръчкване, после трето, този път в кръста… и изобщо не приличаше на пробождане. Нещо или някой започна да го избутва от челюстите на коралите. С ужас и в същото време с изумление Хакер се обърна…

… и видя гладко лъскаво същество, което го гледаше с черните си любопитни очи… и отново го сръга с тясната си муцуна.

Хакер изстена от облекчение. Делфин!

Посегна към спасителя си. След миг колебание делфинът му позволи да се хване за гръбната му перка и го понесе надалеч от сигурната гибел.

И тъй, как да ги запазим лоялни? Какви мерки трябва да вземем, за да сме сигурни, че нашите машини ще ни останат верни?

След като изкуственият интелект стане равностоен на нашия, той няма ли да проектира нов, още по-добър? И после още по-добър — и още, с все по-бързо темпо? Дали в най-лошия случай изкуственият интелект няма да реши да елиминира досадните си създатели, както става в толкова много евтини драми? А в най-добрия няма ли да се чувстваме унизени, че се отнасят към нас с носталгична търпимост? Все едно сме слабоумни старци или домашни любимци?

Решения? Азимов предлага закони на роботиката, които повеляват всеотдайност към човечеството и са вградени толкова дълбоко в самата тъкан на синтетичните умове, че не могат да бъдат премахнати. Но какво се случва със законите, замислени с добри намерения? Нима добрите юристине ги извъртат така, както си поискат? Писатели като Азимов и Уилямсън предвиждат как свръхразумните машини стават господари на всичко въпреки че са програмирани „да служат на човека“.

Други методи?

1) Как предците ни са опитомили вълците? Ако някое куче убие агне, всичките му роднинибивали унищожавани. Може би да предложим на ИИ някакво изкушение да ни предадат — и да унищожим онези, които се опитат? Не забравяйте, че ИИ ще са по-умни от кучетата! В такъв случай дали да не ги накараме да се съревновават? Да се държат под око?

Опитите и подборът могат да се окажат трудни, след като изкуствените същества получат граждански права. Дали в такъв случай да не допускаме машините да станат прекалено привлекателни, приятелски настроени или съчувствени? Да изискваме всички роботи да се провалят на теста на Тюринг, за да можем винаги да различаваме човека от машината, като елиминираме от самото начало предателите дори когато те плачат (изкуствено)? Или това ще повтори онези закони от миналото, които забранявали робите да се учат да четат?

Не забравяйте, че много компании печелят от създаването на сладки или привлекателни машини. Или да вземем новата тенденция на бракове с роботи. Брокери и дизайнери на ииполовинки ще се борят за своята индустрия, та дори тя да води до срив на раждаемостта. Но това е друга тема.

2) Как да създадем нови и по-умни същества и в същото време да ги запазим лоялни? Човечеството прави това всяко поколение — със собствените си деца!

В такъв случай трябва ли да прегърнем настъпващата ера, като дефинирамеумните машини да бъдат човечни? Да им позволим да минат всички тестове на Тюринг и да спечелят симпатиите ни? Да ги пращаме в училищата си, да ги наемаме на работа, да окуражаваме най-умните да се държат едни други под око в името на цивилизацията, която ги приема по начина, по който ние приемаме поколенията умни хлапета — които след това страдат от същото унижение да приемат още по-умните си наследници? Да им дадем неотменен интерес за запазване на едно човечество, което — по дефиниция — включва както плът, така и силиций?