Александра Голубева - Катастеризм [litres]

Врезался в стекло рядом с ними мокрый ноябрьский снег – как тогда, год назад.

Впрочем, что год, что день.

– Тут, правда, вот какой интересный парадокс: опыт и эмоциональные привязки – тоже не что-то осязаемое, а процесс…

– «Человек – это в первую очередь процесс», – пробормотал Даня.

– …Да и эмоциональными привязками легко манипулировать. Эмоции наши – это же просто биохимия организма. Выделяется у человека достаточное количество серотонина – и он весел. Не работает серотониновый обмен, вот как у вас, – и ему плохо. И подчас у этого есть некие… ну, скажем так, правильные причины – логичные, оправданные, а подчас и нет. Знаете, какой один из главных катализаторов выработки серотонина? Солнечный свет. Человеку может быть хорошо просто потому, что солнышко выглянуло. И ему врежется в память и изменит всю жизнь какой-нибудь совершенно несущественный эпизод – из-за этой связки с эмоцией.

– Вы клоните к тому, что всё в нас иррационально и бессмысленно?

– Я клоню к тому, что всё в нас управляемо – просто настолько сложно, что мы до сих пор в этом управлении не разобрались. Но работаем над этим. Я ведь не сказала вам, с какой именно сферой работаю? С нейрофизиологией – ну, в том числе. А мозг – штука очень хитрая. Впрочем… тут нужна небольшая предыстория про мозги цифровые.

У самообучающихся алгоритмов и прочих нейросетей бывают сбои, которые можно без натяжки назвать когнитивными ошибками. Например, ошибкой предубеждения.

Допустим, есть нейросеть, которую мы обучаем отличать кошек от собак. Мы показываем ей разных животных, больших и маленьких, мохнатых и лысых – и даже иногда пони для контраста. Она запоминает, что собаки отличаются друг от друга сильно, а кошки, наоборот, похожи, так что если тебе показали что-то непонятное (например, пони), то это, скорее всего, собака. Такое суждение закрепляется – и чем дольше оно даёт более-менее правильные результаты, тем больше вероятность, что алгоритм решит свой стереотип сузить. Например, вдруг убедит себя, что у архетипической кошки должен быть хвост, а бобтейлы выглядят странновато, так что они, наверное, собаки.

Это, впрочем, не слишком неожиданно. Когнитивные ошибки есть и у людей, и, по всей видимости, это просто побочный эффект любого процесса, напоминающего мышление. Мир слишком многообразен, его слишком много; единственный способ справиться с этим хаотичным шумом – сформировать стереотипы, некие идеальные платоновские образцы (чего угодно, от табурета до семьи), с которыми мы сравниваем всё происходящее. Нам, быть может, и хотелось бы польстить себе, заявив, что мы мыслим глубже и вовсе не стереотипами, только это не так.

Логично, что когда нейросети перешли от более чистого, но и более машинного суждения по дифференциальным признакам к суждению через сравнение со стереотипами, из них полезли ошибки.

Тут всё понятно.

Заинтересовало исследователей другое. Они неожиданно обнаружили, что при определённом объёме входящих данных алгоритмы выходят на плато развития. Казалось бы, у цифровой системы, не ограниченной, как мозг живого человека, объёмом вычислительных мощностей и тому подобным бренным миром, не должно быть сложностей с тем, чтобы стремить свой полёт всё выше и выше; об этом, грозя крючковатыми пальцами, предупреждали нас фантасты-алармисты – мол, понаучите роботов на свою голову, а они превзойдут человечество, экспоненциально умнея с каждым новым байтом, что вы им скормите.

Но нет. Нейросети, данные в которых наращивались и структурировались по принципам, схожим с устройством живых мозгов, почему-то упирались в потолок, и с определённого момента КПД их обучения начинал падать, а вычислительные мощности зацикливались на многократной реструктуризации и переосмыслении уже полученных знаний. Грубо говоря, для того чтобы овладеть ещё одним дифференциальным принципом, отличающим кошку от собаки, такая сеть заново «обдумывала», что есть кошка и что есть собака. И порой ставила под сомнение факты, уже установленные раньше, причём совершенно без видимых причин.

Связано это было именно с интенсивностью подачи новых данных. Если информацию предоставляли сети стабильно, плато не возникало, а вот если её было то густо, то пусто, либо если ввод данных вёлся во много потоков сразу, алгоритмы будто замыкались в себе и переключались на пласт переосмысления старого.

Такое метамышление можно назвать и «сознанием».

Некоторые с восторгом это и сделали. В конце концов, отмечали они, одна из гипотез о том, как возникло человеческое сознание, гласит, что это система, необходимая нам, чтобы регулировать конфликтующую информацию о внешнем мире. Чисто рефлекторное существо чихает, когда у него засвербит в носу. Существо чуть более продвинутое способно подавить этот рефлекс, если у него перед лицом стенка. А спустя многие поколения из него вылупляется существо совсем умное – способное, скажем, понять, что стенка эта – шкафа, куда оно спряталось, потому что по дому его бродит маньяк, так что чихать сейчас совершенно точно не надо.