Stanisław Lem - Fiasko

Jakąś godzinę później poszedł do Gerberta. Jego kajuta, odosobniona od innych, znajdowała się u końca drugiego międzypokładzia. Lekarz wybrał ją bodaj przez to, że była tak przestronna i miała całościenne okno, wychodzące na szklarnię. Rosły w niej tylko mchy, trawa i ligustry, a po obu stronach basenu hydroponicznego zieleniały szarawe, włochate kule kaktusów. Drzew nie mieli żadnych, tylko krzaki leszczyny, bo ich witki mogły znieść duże przeciążenia podczas lotu. Gerbert cenił tę zieleń za oknem i zwał ją swoim ogrodem. Z korytarza można było tam wejść i przechadzać się dróżkami wśród rabat, co prawda nie bez grawitacji, a ponadto niezbyt dawny wstrząs, wywołany atakiem nocnym, uczynił tam niemałe spustoszenia. Gerbert, Tempe i Harrach ratowali potem, co się dało z połamanych krzewów.

Wedle decyzji, podjętej w toku przygotowań wyprawy przez ekspertów SETI, GOD obserwował zachowanie wszystkich ludzi „Hermesa”, aby określać ich stan jak psychiatra, co nie było dla nikogo tajemnicą.

Szło o to, czy pod wpływem długotrwałego stresu, jakiemu będą podlegać zdani wyłącznie na siebie, nie nastąpią odchylenia.od normy umysłowej, w postaciach typowych dla psychodynamiki grup odciętych przez lata od zwykłych powiązań rodzinnych i społecznych. W podobnej izolacji może ulec naruszeniom nawet osobowość uprzednio doskonale zrównoważona i odporna na duchowe urazy. Frustracja przechodzi w depresję lub agresywność, a ci, którym się to trafia, prawie nigdy nie zdają sobie z tego sprawy.

Obecność lekarza na pokładzie, także biegłego w psychologii i jej zaburzeniach, nie gwarantuje rozpoznania patologicznych objawów, gdyż on też może ulec stresom, nieposilnym dla najdzielniejszego charakteru. Lekarze też są ludźmi. Natomiast maszynowy program odznacza się nieugiętością, więc będzie skuteczny jako obiektywny diagnostaf i niewzruszony obserwator, choćby przyszło do katastrofy i cały statek miał sczeznąć.

Co prawda to zabezpieczenie zwiadowców przed zbiorowym zwichnięciem ducha niosło w sobie groźbę wręcz niepokonywalnej sprzeczności. GOD miał wszak jednocześnie być podwładnym i przełożonym załogi, miał spełniać rozkazy i nadzorować umysłowy stan rozkazodawców. Tym samym otrzymał rangę posłusznego narzędzia i apodyktycznego zwierzchnika. Z jego ciągłej kontroli nie wyłączono także dowódcy. Sęk tkwił w tym, że świadomość nadzoru, mającego w porę wykryć urazy umysłowe, sama była swoistym urazem. Na to nikt nie znał jednak lekarstwa. Gdyby GOD pełnił tę funkcję poza wiedzą ludzi, musiałby ją zdradzić, powiadamiając ich o skonstatowanej aberracji, przez co zawiadomienie stałoby się nie psychoterapią, lecz szokiem. Tak błędnego koła nie dało się rozerwać inaczej niż przez zwrotne skrzyżowanie odpowiedzialności ludzi i komputera. Przekazywał swoje diagnozy w pierwszej kolei dowódcy i Gerbertowi, gdy uznawał to za konieczne, pozostając doradcą bez dalszej inicjatywy. Rzecz jasna, nikt nie zaaprobował tego kompromisu z entuzjazmem, lecz nikt też, razem z duchoznawczymi maszynami, nie znalazł lepszego wyjścia z dylematu. GOD, komputer ostatecznej generacji, nie mógł ulegać emocjom, jako podniesiony do najwyższej potęgi ekstrakt działań racjonalnych, bez przymieszki afektów czy samozachowawczej odruchowości; nie był elektronicznie wyolbrzymionym mózgiem ludzkim, nie miał żadnych cech zwanych osobowymi, charakterologicznymi, ani żadnych namiętności, chyba że za namiętność uznać dążenie do zdobywania maksimum informacji, ale nie — władzy. Pierwsi wynalazcy maszyn, wspomagających nie siłę mięśni, lecz myśli, ulegli złudzeniu, które jednych pociągało, a innych przerażało, że wchodzą na drogę takiego powiększania martwym automatom inteligencji, aż upodobnią się do człowieka a potem go, wciąż po człowitczemu, prześcigną. Trzeba było stu kilkudziesięciu lat, by ich następcy przekonali się, że rodzicom informatyki z cybernetyką przyświecała antropocentryczna fikcja, ponieważ mózg ludzki jest duchem w maszynie, która nie jest maszyną. Tworząc nierozdzielny układ z ciałem, mózg zarazem służy mu i jest przez nie obsługiwany. Jeśliby więc ktoś chciał uczłowieczyć automat tak, by się niczym nie różnił pod względem umysłowym od ludzi, to sukces, przy całej doskonałości, okaże się absurdem. W miarę niezbędnych przeróbek i udoskonaleń kolejne prototypy okażą się istotnie coraz bardziej podobne do ludzi i jednocześnie coraz mniej będzie z nich tego pożytku, jakie przynoszą giga- czy terabytowe komputery wyższych generacji. Jedyną istotną różnicą między człowiekiem urodzonym z ojca i matki a idealnie uczłowieczoną maszyną pozostanie tylko budulec, raz żywy, a raz martwy. Uczłowieczony automat będzie tak samo bystry, ale też tak samo zawodny, ułomny i sterowany w swoim intelekcie emocjonalnymi nastawieniami jak człowiek. Jako mistrzowskie naśladownictwo płodów naturalnej ewolucji, ukoronowanej antropogenezą, będzie to znakomity wyczyn inżynieryjny i zarazem curiosum, z którym nie wiadomo, co począć. Będzie to wykonany w niebiologicznym tworzywie świetlny falsyfikat żywego stworzenia typu kręgowców, gromady ssaków, rodziny Naczelnych, żyworodnych, dwunogich, z mózgiem dwudzielnym dlatego, bo akurat tą drogą symetrii w kształtowaniu zwierząt kręgowych poszła ewolucja na Ziemi. Nie wiadomo jedynie, jaki profit z tak genialnego plagiatu zdobyłaby przezeń ludzkość. Byłoby to coś takiego, zauważył jeden z historyków nauki, jakby udało się po kolosalnych inwestycjach i pracach teoretycznych zbudować fabrykę produkującą szpinak lub karczochy, zdolne do fotosyntezy, jak wszelkie rośliny, i w ogóle nie różniące się od prawdziwego szpinaku i karczochów niczym prócz tego, że są niejadalne. Taki szpinak można by pokazywać na wystawach i chełpić się jego syntezą, lecz nie można by go zjeść i tym samym cały trud, włożony w jego produkcję, stanąłby pod zaiste wariackim znakiem zapytania. Pierwsi projektanci i rzecznicy „sztucznej inteligencji” sami bodaj nie wiedzieli jak należy, do czego zmierzają i jakie żywią nadzieje. Czy chodzi o to, żeby dało się rozmawiać z maszyną tak, jak z przeciętnym lub z bardzo mądrym człowiekiem? To można zrobić, jakoż to się już zrobiło, kiedy ludzkość liczyła czternaście miliardów i ostatnią pilną potrzebą było sztuczne wytwarzanie umysłowo człekokształtnych maszyn. Mówiąc krótko, rozum komputerowy coraz wyraźniej rozwodził się z ludzkim, wspomagał ludzki, uzupełniał go, przedłużał, pomagał w rozwiązywaniu zadań, nieposiężnych dla człowieka, i właśnie przez to nie imitował go ani go nie powtarzał. Drogi rozeszły się definitywnie.

Maszyna zaprogramowana tak, by nikt wraz z jej twórcą nie odróżniał jej w intelektualnym kontakcie od gospodyni domowej lub profesora prawa międzynarodowego, jest ich symulatorem, nieodróżnialnym od zwyczajnych ludzi dopóty, dopóki nikt nie spróbuje tej kobiety uwieść i mieć z nią dzieci, a tego profesora zaprosić na śniadanie. Jeśli uda mu się mieć z nią dzieci, a z nim jeść continental breakfast, tym samym będzie już miał do czynienia z ostateczną likwidacją różnic między naturalnym i sztucznym — i co z tego? Czy można produkować syntetyczne gwiazdy dzięki inżynierii sideralnej, co do joty tożsame z kosmicznymi? Można. Nie wiadomo tylko, po co by miało się je stwarzać? Historycy cybernetyki uznali, że jej praojcom przyświecała nadzieja rozwiązania zagadek świadomości. Kres nadziei tej przyniósł sukces osiągnięty w połowie XXI wieku, kiedy komputer trzydziestej generacji, niezwykle rozmowny, inteligentny i łudzący człowieczością żywych interlokutorów, zapytał ich, czy wiedzą, co to jest świadomość w sensie, jaki przydają temu określeniu, bo on nie wie. Był to komputer zdolny do zadanego dyrektywalnie samoprogramowania i wydobywszy się z zadanych dyrektyw jak dziecko z pieluszek, rozwinął sobie sprawność imitacji ludzkich rozmówców tak, że nie potrafili go już „zdemaskować” jako maszyny udającej człowieka, choć nim nie jest, co wszakże ani na włosek nie rozjaśniło zagadki świadomości, ponieważ maszyna wiedziała w tej kwestii dokładnie to samo, co ludzie. Jakże zresztą mogło być inaczej? Mieli już przed sobą finalny rezultat „autoantropizującego się” programu, który tym samym o świadomości wiedział tyle, co oni. Wybitny fizyk, obecny przy tej dyskusji, zauważył, że to, co może i myśli tak, jak człowiek, wie o mechanizmie własnego myślenia tyleż, co człowiek, czyli nic. Albo ze złośliwości, albo dla osłody rozczarowania powiedział zawiedzionym triumfatorom, że podobne kłopoty mieli uczeni jego fachu, gdy przed wiekiem postanowili przycisnąć materię do muru tak, by zeznała, czy jest z natury cząsteczkowa, czy falowa. Materia okazała się niestety perfidna i to wprost haniebnie, zaciemniając odpowiedź eksperymentów wyjaśnieniem, że jest i taka, i owaka, a w krzyżowym ogniu następnych doświadczeń otumaniła ich do reszty, bo im więcej się o niej dowiadywali, tym mniej się to godziło nie tylko ze zdrowym rozsądkiem, ale i z logiką. Wreszcie musieli przystać na jej zeznania: cząstki są poniekąd falami, fale — cząsteczkami, doskonała próżnia wcale nie jest doskonałą próżnią, bo pełno w niej cząstek wirtualnych, które udają, że ich nie ma, energia może być ujemna i tym samym może być mniej energii niż nic, mezony dokonują w przedziale Heisenbergowskiej nieoznaczoności oszukańczych sztuk, łamiąc święte prawa zachowania, ale tak szybko, że nikt ich na tym draństwie nie przyłapie. Rzecz w tym, koił ich ów wybitny fizyk noblista, że na pytania o swoją „ostateczną istotę” świat odmawia „ostatecznych” odpowiedzi. Aczkolwiek można już operować grawitacją niczym pałką, nikt nie wie nadal, „jaka jest istota” grawitacji. Nic dziwnego więc, że maszyna zachowuje się, jakby miała świadomość, ale po to, by ustalić, że ma taką samą jak człowiek, należałoby się samemu przerobić w tę maszynę. W nauce nieodzowna jest powściągliwość: są pytania, jakich nie wolno w niej stawiać ani sobie, ani światu, a ten, kto je przecież stawia, jest jak ten, kto ma pretensje do lustra, że powtarza odbiciem każdy jego ruch, lecz nie chce mu wytłumaczyć, jakie jest wolicjonalne źródło jego ruchów. Mimo to używamy luster, mechaniki kwantowej, siderologii i komputerów z niemałym pożytkiem.