Robert Heinlein - Piętaszek

— Owszem, potrafiłbym stworzyć taki organizm. Oczywiście pod warunkiem, że pozwolono by mi na klonowanie. I wierz mi; wszyscy piloci poszliby wówczas na zieloną trawkę. Ale nie byłby to SIL, lecz żywy artefakt. Gdybym pokusił się o wyprodukowanie w laboratorium istoty mającej stać się rzeczywiście idealnym pilotem — to znaczy takim, który w razie awarii mógłby zastąpić nawet komputer pokładowy — po prostu nie byłbym w stanie nadać jej wyglądu normalnego człowieka.

— Och, nie rób tego!

Obaj obrócili się ze zdziwieniem w moją stronę; Janet również spojrzała na mnie, najwyraźniej zaskoczona. Natychmiast pożałowałam, że nie trzymałam języka za zębami.

— Dlaczego nie? — spytał Georges.

— No… Bo ja na przykład nie wsiadłabym do takiego statku. Czułabym się bezpieczniej, wiedząc, iż to Ian jest kapitanem.

— Dziękuję ci, Marjie — powiedział Ian — lecz słyszałaś przecież, co mówił Georges. Jemu chodzi o pilota-klona, który byłby lepszy ode mnie. Myślę, że to jest realne. Do diabła, to musi kiedyś nastąpić! Tak, jak niegdyś koboldy zastąpiły górników, tak ktoś lub coś zastąpi w końcu kapitanów SBS-ów. Nie muszę się z tego powodu cieszyć, ale taka jest prawda.

— Georges — zapytałam — czy pracowałeś kiedyś z inteligentnymi komputerami?

— Oczywiście. Sztuczna inteligencja to dziedzina bardzo zbliżona do tego, czym się zajmuję.

— W takim razie z pewnością wiesz, że specjaliści w tej dziedzinie już kilka razy ogłaszali, iż udało się im dokonać przełomu w konstrukcji tych maszyn. Krótko mówiąc twierdzili, że skonstruowali „świadomy” komputer. Lecz za każdym razem kończyło się to jednym wielkim rozczarowaniem.

— Uhmm. I dosyć przykrym.

— Nie. Raczej nieuniknionym. I tak będzie zawsze. Komputer może stać się „świadomy”, naturalnie. Wystarczy podnieść poziom prędkości przetwarzania danych oraz stopień ich złożoności do poziomu, jaki jest w stanie przetworzyć ludzki mózg, i problem z głowy. Ale wówczas odkrywamy nagle, że wszystko na nic. Okazuje się, że ten poziom dla maszyny jest po prostu nieosiągalny. Ciągle ktoś musi wydawać jej polecenia, inaczej głupieje. Ten dylemat jest nierozwiązywalny. Komputer nigdy nie będzie naprawdę inteligentny. — Wzruszyłam ramionami i mówiłam dalej: — Ian może nie zawsze jest w stanie uratować swoich pasażerów, ale przynajmniej będzie próbował. Za to żywy artefakt, nie należąc do gatunku ludzkiego i nie będąc wobec niego lojalnym, może rozbić statek choćby dla samego piekła, jaki w ten sposób rozpęta. Może po prostu być zmęczony sposobem, w jaki jest traktowany. Czy mam dalej wymieniać hipotetyczne powody? Nie, Georges, ja zawsze będę wolała latać z Ianem. Twój artefakt mógłby przypadkiem nauczyć się nienawidzieć ludzi.

— Nie mój artefakt — powiedział cicho Georges. — Czy zauważyłaś, jakiego trybu używałem, mówiąc o tym projekcie?

— Obawiam się, że nie.

— Przypuszczającego. A wiesz dlaczego? Ponieważ to, co powiedziałaś przed chwilą, nie jest dla mnie niczym nowym. Nie twierdziłem, że zamierzam zrealizować ów projekt, bo to nie byłaby prawda. Owszem, potrafiłbym stworzyć takiego pilota. Lecz sprawienie, by postępował on według takich samych zasad etycznych, jakie wpojono Ianowi w czasie szkolenia — to już przekracza moje możliwości.

— Ten problem można by jakoś rozwiązać — odezwał się Ian. — Być może wystarczyłoby wymóc na kompaniach, żeby przed zatrudnieniem jakiegokolwiek SIL-a lub ŻA-ta poddawano go testowi na przestrzeganie zasad ludzkiego kodeksu etycznego.

— A jak wyobrażasz sobie taki test? Bo ja nie znam żadnego sposobu na przekazanie owych zasad zarodkowi. Marjie dowiodła natomiast, iż za pomocą treningu również nie da się tego osiągnąć. Zresztą, nawet jeżeli, to co miałby udowodnić taki test? — Georges wzruszył ramionami i zwrócił się do mnie: — Kiedy byłem studentem, przeczytałem kilka klasycznych powieści, których bohaterami były humanoidalne roboty. To były naprawdę urocze historyjki. Oś wielu z nich stanowiło coś, co nazywano Prawami Robotyki*.[* Chodzi tu o powieść Isaaca Asimova zatytułowaną „Trzy Prawa Robotyki”, należącą do kanonu SF] Był to zbiór podstawowych pojęć i reguł, znajdujący się na stałe w systemie operacyjnym każdego humanoida. Uniemożliwiał on czynienie krzywdy ludziom; obojętnie, czy przypadkowo, czy też celowo. Świetny temat dla literackiej fikcji… ale jak sprawić, by mogła się ona stać rzeczywistością? Co zrobić, żeby posiadająca własną świadomość sztuczna istota inteligentna — obojętnie: elektroniczna czy też organiczna — była zawsze lojalna wobec ludzi? — Na ustach Georgesa pojawił się cyniczny uśmieszek. — Są tacy, dla których inteligencja zaczyna się na poziomie, na którym świadoma istota zaczyna sobie zadawać pytanie: „A co ja będę z tego mieć?”. Tak sobie myślę, Marjie, że zanim zaproponowałem ci, byś sprzedała to jajo, powinienem może poinformować cię, co ty będziesz z tego miała.

— Nie słuchaj go — powiedziała Janet. — Po prostu położy cię nagą na zimnym, metalowym stole i będzie cię obmacywać, nie mając jednak żadnych erotycznych zamiarów. Wiem coś na ten temat, bo sama dałam się namówić już trzy razy. I nigdy nie zobaczyłam nawet złamanego grosza.

— A dlaczego miałbym ci płacić — obruszył się Georges — skoro i tak wszystkie pieniądze idą do wspólnej kasy? Marjorie, moja droga, stół nie jest ani zimny, ani metalowy, tylko obity miękkim pluszem. I jeśli się na nim znajdziesz, będziesz mogła czytać, oglądać video, rozmawiać ze mną lub robić cokolwiek innego. Dawno już minęły czasy, kiedy tego rodzaju zabiegi były brutalną i niebezpieczną ingerencją w organizm kobiety. Lecz jeśli uważasz…

— Przerwijcie na moment — wtrącił się nagle Ian. — Zdaje się, że są jakieś nowe wiadomości.

— Tu Rada Ocalenia — mówił dziwnie ubrany mężczyzna siedzący przed kamerą. — Wydarzenia ostatnich dwunastu godzin są jedynie ostrzeżeniem dla nieudolnych, bogatych tyranów usiłujących utwierdzić się w roli klasy hegemonicznej. Ich czas się kończy. Muszą odejść, by mogły wreszcie zatryumfować praworządność i sprawiedliwość. Zabójstwa i terror będą trwały, dopóki nasze słuszne żądania nie zostaną spełnione. Nie wyłączajcie terminali! Pozostańcie przed ekranami i czekajcie na dalsze informacje na lokalnych kanałach awaryjnych.

Każdy, kto był wówczas zbyt młody, by słyszeć te wystąpienia, z pewnością czytał o nich w szkolnym podręczniku. Muszę je jednak przypomnieć choć w części, aby pokazać, jak bardzo wpłynęły one na to, co działo się później w moim życiu. Owa tak zwana „Rada Ocalenia” przedstawiała się jako tajne stowarzyszenie, którego celem była jakoby naprawa wszelkiego zła i nieprawości na Ziemi i na wszystkich planetach, na których żyli ludzie.

Przed zapanowaniem obiecanej sprawiedliwości i praworządności miały jednak pospadać głowy. Wiele głów. Szefowie Rady ogłosili, że mają sporządzone listy członków wszystkich rządów na całym globie i poza nim; osobno dla niezależnych stanów i osobno dla liderów polityki ogólnoświatowej. W myśl zamierzeń Rady wszyscy oni mieli się stać celami zamachów.

Rada przyrzekła, że zabójstwa, terror i sabotaż będą się nasilać — coraz bardziej i bardziej — tak długo, aż spełnione zostaną wszystkie jej żądania.

Po odczytaniu listy liderów światowych ten sam mężczyzna, który pierwszy pojawił się na ekranie, zaczął wymieniać nazwiska z listy dotyczącej Kanady Brytyjskiej. Z zachowania się obojga moich gospodarzy nietrudno było wywnioskować, iż większość wyborów uważają oni za trafne. Na liście znajdował się również nowo wybrany kandydat na premiera. Zabrakło tam jednak nazwiska dotychczasowego szefa rządu. Przyznam, iż byłam tym mocno zaskoczona, choć z pewnością nie tak bardzo, jak on sam. Jak czulibyście się, gdybyście przez całe życie zajmowali się polityką, docierając w końcu na sam szczyt, i gdyby wówczas jakiś bystrzak nie wiadomo skąd stwierdził, że nie jesteście wystarczająco ważni, by was zabić?