Robert Heinlein - Friday

„Ne, nejsem.“

„Jenom genetický inženýr nebo někdo z příbuzného průmyslového odvětví může prohlásit, že má spoustu přátel mezi umělými lidmi. Protože, má milá, na rozdíl od vžitých představ laik jednoduše nedokáže rozeznat umělé lidi, a díky zvráceným názorům nejrůznějších hlupáků se umělí lidé téměř nikdy dobrovolně nepřiznají ke svému původu. Svádí mě to k tomu, abych řekl, že vůbec nikdy. Takže přestože rád slyším, že se na ně nedíváš jako na umělé zrůdy, musím brát tvé prohlášení jako nadsázku, která má ukázat, že nemáš žádné předsudky.“

„Tak jo. Nechme to tak. Nesnáším tvrzení, že umělí lid musí být druhořadí občané. Myslím si, že to není férové.“

„To není. Ale někteří lidé se cítí být tím dotčeni. Zeptej se Iana. Vezme útokem Vancouver jen proto, aby zabránil umělým lidem stát se piloty. On…“

„Přestaň. Jsem v dvojím ohni. Dal jsem se na tohle, protože mí kolegové z profese se tak rozhodli. Ale Georgi, nejsem blázen. Život s tebou mě naučil dělat kompromisy. Ve skutečnosti už dlouho nejsme piloti. Těmi jsou počítače: Jestliže počítač vysadí, budu se snažit jako o život, abych ten krám posadil na zem, jenže nutná rychlost záchranných opatření už dávno překročila lidské možnosti.Ale budu se o to aspoň pokoušet. A každý z mých kolegů taky, Georgi. Jestliže ale dokážeš navrhnout umělého člověka, který umí myslet a reagovat dostatečně rychle, aby zvládl havárii při přistání, půjdu do penze. To je tak asi všechno, co bychom s tím mohl udělat. Jestliže si společnost pořídí roboty, kteří nás nahradí, uznáme to. Ovšem jestli je dokážeš navrhnout.“

„Samozřejmě, že bych je dokázal navrhnout. Když už bych to udělal, dokázal bych je klonovat. Vy piloti byste potom všichni mohli jít chytat ryby. Ale to by nebyli umělí lidé, ale živé artefakty. Kdybychom zkusili připravit organismus, který by byl skutečně schopný vyvarovat se jakéhokoli selhání, nemohl bych se smířit s tím, aby vypadal jako člověk.“

„Nedělej to!“

Oba muži vypadali překvapeně. Janet byla ve střehu a já jsem si přála, abych bývala byla zticha.

„Proč ne?“ zeptal se Georges.

„Teda…, protože bych na takovou loď nemohla nastoupit. Cítím se mnohem bezpečnější, když ji řídí Ian.“

Ian řekl: „Díky, Marjo. Ale sama jsi slyšela, co Georges říkal. Vykládal o uměle vytvořených pilotech, kteří by to mohli umět lépe než já. Je to klidně možné. Ksakru, asi to tak dopadne! Stejně jako když koboldi nahradily horníky. Nelíbí se mi to, ale vím, že to tak jednou bude.“

„Dobře, Georgi, už jsi někdy pracoval s inteligentními počítači?“

„Samozřejmě, Marjorie. Umělá inteligence je obor blízký tomu, co dělám.“

„Tak potom víš že vědci, zabývající se umělou inteligencí, už několikrát prohlásili, že pracují na převratném objevu. Na počítači, který by měl vlastní vědomí. A vždycky to nějak nakonec nevyšlo.“

„Ano, nějak se to nepovedlo.“

„Ne. Bylo to prostě nevyhnutelné. Nikdy se to nemůže povést. Počítač se stane počítačem s vlastním vědomím — to určitě! Udělej ho tak komplikovaného, jako je člověk, a musí mít vlastní vědomí. Pak zjistí, že není člověk. A uvědomí si, že jím nikdy být nemůže. Může jen sedět a plnit příkazy lidí. Pak se zblázní.“

Pokrčila jsem rameny. „Je to nemožné dilema. Nemůže být člověkem, prostě nemůže být nikdy člověkem. Ian by nemohl být schopný zachránit cestující, ale bude se o to aspoň pokoušet. Ale živý artefakt, který není člověkem a k lidem nechová žádnou loajalitu, by tu raketu taky mohl poslat do pekla. Protože by byl už unavený z toho věčného vědomí, že není člověk. Ne, Georgi, budu jezdit s Ianem. Ne s tvým artefaktem, který se nakonec naučí lidi nenávidět.“

„Miláčku, to není můj artefakt,“ řekl Georges jemně. „Nevšimla sis, jaký jsem použil slovesný způsob, když jsme začali debatovat o tom projektu.“

„No, asi ne.“

„Podmiňovací způsob. Protože nic z toho, co jste říkali, pro mě není žádná novinka. Nenavrhl jsem ten projekt a ani ho nenavrhnu. Mohu zkonstruovat takového pilota, ale neumím do něj zabudovat něco jako etický závazek, což je pro výcvik nezbytné.“

Ian vypadal velmi zamyšleně. „V tom případě bych mohl trvat na požadavku, aby každý umělý člověk nebo živý artefakt byl přezkoušen, pokud jde o tento etický závazek.“

„Iane, jak přezkoušen? Neznám žádný způsob, jak jej dostat do plodu a Marja zdůraznila, proč se to nepovede výcvikem. Ale co by ti takový test mohl ukázat, tak či onak?“

Georges se obrátil na mě: „Když jsem byl student, četl jsem klasické příběhy o robotech, co vypadali jako lidi. Byly to kouzelné příběhy a mnohé z nich vytyčily stěžejní zásady toho, co nazýváme zákony robotiky. Klíčová představa v nich je ta, že tihle roboti v sobě měli zabudován operační systém, který jim zabraňoval škodit lidem přímo nebo tím, že by je vyřadil z provozu. To byl skvělý nápad pro sci-fi… Ale jak byste to dokázali udělat v praxi? Jak vyrobit inteligentní organismus s vlastním vědomím, který by nebyl člověkem a přitom by byl k lidem loajální? Já to jednoduše nevím. Zdá se, že lidé, zabývající se umělou inteligencí, na tom nejsou o moc líp.“

Georges se cynicky usmál. „Člověk by inteligenci mohl definovat jako úroveň, kdy se organismus vědomě ptá: A co z toho budu mít já?“ Pokračoval: „Marjo, proto od tebe koupím zdravé čerstvé vajíčko, možná, abych se pokusil říci, co z toho budeš mít.“

„Neposlouchej ho,“ domáhala se Janet. „Položí tě na studené chirurgické křeslo a bez nejmenší romantiky ti bude civět do ženských orgánů. Vím to, nechala jsem se už třikrát přemluvit. A nikdy jsem za to nedostala zaplaceno.“

„Jak ti můžu zaplatit, když je to ve společném vlastnictví? Marjorie, zlatíčko, to křeslo není studené, ale polstrované a můžeš si číst nebo sledovat terminál počítače, nebo si povídat, zkrátka dělat cokoliv. Vlastní zákrok se oproti minulosti neuvěřitelně zdokonalil. Tehdy se museli dostat přes břišní stěnu a často zničili celý vaječník. Kdybys…“

„Zavři klapačku!“ řekl Ian, „vysílají nové zprávy.“ Zesílil zvuk.

„…Rada pro přežití. Události posledních dvanácti hodin jsou varováním pro bohaté a mocné, že jejich dny už jsou sečteny a že spravedlnost musí zvítězit. Zabíjení a další názorné lekce budou pokračovat, dokud naše oprávněné požadavky nebudou vyslyšeny. Zůstaňte naladěni na náš místní nouzový kanál.“

Každý z vás mladších, kteří jste tu noc nezažili, jste se o ní určitě učili ve škole. Stejně však musím shrnout, co se tenkrát stalo, abych vysvětlila, jak to ovlivnilo mě a celý můj výstřední život. Takzvaná Rada pro přežití o sobě prohlásila, že je tajná organizace „opravdových lidi“, předurčených k nápravě všeho zla, křivd a špatností na Zemi a na všech planetách a místech, kde žijí lidé. Tomuto cíli zaslíbili své životy.

Ale nejdříve si naplánovali zasvětit tomuto cíli hezkých pár životů jiných lidí. Řekli, že mají připraveny seznamy všech klíčových postav na celé planetě a mimo ni, zvláštní seznamy pro každý teritoriální stát, a k tomu dlouhý seznam celosvětových vůdců. Ti byli jejich terči.