Станислав Лем - Фиаско

Първите изобретатели на машини, подпомагащи мислите, а не мускулите, се бяха поддали на заблудата — за едни привлекателна, за други ужасяваща, — че тръгват по пътя на такова увеличение на интелекта на мъртвите автомати, че те ще настигнат човека, а после, пак по човешки, ще го надминат. На техните наследници им бяха необходими близо сто и петдесет години за да прозрат, че родителите на информатиката и кибернетиката са били водени от антропоцентрична фикция, защото човешкият мозък е дух в машина, която не е машина. Образувайки с тялото неделима система, мозъкът едновременно му служи и е обслужван от него. Затова, ако някой би поискал да очовечи автомата така, че в умствено отношение той да не се различава от хората с нищо, при цялото си съвършенство този успех ще се окаже абсурден. В процеса на наложителни промени и усъвършенствувания поредните прототипи действително ще бъдат все по-приличащи на хората и същевременно все по-малка ще бъде ползата от гига– или терабайтовите компютри от по-висши поколения. Единствената съществена разлика между човека, роден от баща и майка, и идеално очовечената машина ще бъде в градивния материал — веднъж жив, веднъж мъртъв. Очовеченият автомат ще бъде също така умен, но и също тъй ненадежден, несъвършен и ръководен от емоционалната си нагласа като човек. Като майсторско копиране на плодовете на естествената еволюция, увенчана с антропогенеза, това ще бъде забележително инженерно постижение и същевременно curiosum — ненужен и безполезен. Това ще бъде изработен от небиологичен материал, прекрасен фалшификат на живо същество от тип гръбначни, клас бозайници, семейство примати, живородни, двуноги, с мозък, разделен на две полукълба, защото точно по този път на симетрия при формирането на гръбначните е тръгнала еволюцията на Земята. Не е известно само каква ще бъде ползата за човечеството от този толкова гениален плагиат. Както бе отбелязал един историк на науката, би било същото, ако с колосални инвестиции и теоретична работа успеем да изградим фабрика, която произвежда спанак и ангинари, способни да фотосинтезират като всички растения, и неразличаващи се от истинския спанак и истинските ангинари по нищо — освен по това, че не стават за ядене. Такъв спанак може да се излага по витрините, производителят му може да се гордее със синтеза му, но той не може да се яде и с това целият вложен в производството му труд се поставя под огромен, налудничав въпросителен знак. Изглежда, първите проектанти и привърженици на „изкуствения интелект“ сами не са знаели как трябва, към какво да се стремят и на какво да се надяват. Дали целта е да се разговаря с машината като с посредствен или с много умен човек? Това би могло да се направи, то вече бе направено, когато човечеството наброяваше четиринадесет милиарда и произвеждането на умствено човекоподобни машини беше последната му грижа. Накратко, компютърният разум все по-определено се отдалечаваше от човешкия, подкрепяше човешкия, допълваше го, удължаваше го, помагаше му да решава различни задачи, непосилни за човека, и тъкмо затова не го имитираше или копираше. Пътищата им се разделиха дефинитивно.

Една машина, програмирана така, че никой, дори нейният създател, не би я отличил при интелектуален контакт от домакинята или професора по международно право, е техен симулатор, неразличим от обикновените хора дотогава, докато някой не се опита да съблазни тази жена и да има деца от нея, а професора да покани на закуска. Ако му се удаде да си роди деца от тази жена, а с професора да изяде continental break fast, ще се окаже, че той се е сблъскал с окончателното премахване на разликите между естественото и изкуственото. И какво от това? Може ли да се произвеждат с помощта на сидералното инженерство изкуствени звезди, до йота идентични с космическите? Може. Само че защо е нужно да се прави това?

Историците на кибернетиката стигнаха до извода, че техните прадеди са се надявали да разгадаят тайните на съзнанието. Тези надежди бяха рухнали в средата на XXI век, когато един компютър от трийсето поколение — извънредно разговорчив, интелигентен и въвеждащ в заблуждение живите си събеседници с човещината си, ги бе попитал знаят ли какво е съзнание в смисъла, който те влагат в това понятие, понеже той не знае. Компютърът бил способен да се самопрограмира директивно и след като израснал от зададените директиви като дете от пелените, развил умението да имитира човешките си събеседници до такава степен, че те вече не можели да го „демаскират“ като машина, която се преструва на човек, макар да не е човек, защото машината знаела по въпроса точно толкова, колкото и хората. Как впрочем можело да бъде другояче? Пред тях бил крайният резултат на „автоантропизиращата се“ 55 55 Самоочовечаващата се (Лем). — Б. пр. програма, която поради това знаела за съзнанието толкова, колкото и те.