Андрей Курпатов - Мышление. Системное исследование

Поэтому давайте обратимся к феноменам, которые куда ближе к нашему месту в реальности, нежели физика квантового мира, а конкретно — к искусственному интеллекту и к компьютерным программам, основанным на Big Data.

Что происходит в игре го? Кто-то скажет, что в ней камушки двух цветов двигаются по полю. Но это еще не игра в го. Игра в го — это то, что происходит в голове игрока, который пытается обойти соперника в этом движении по полю, отвоевать у него пространство на доске.

О том, как думает игрок в го, мы имеем (или можем иметь) кое-какое представление. Но какова реальность этой игры в недрах суперкомпьютера AlphaGo, который уже с легкостью обыгрывает людей?

Судя по заверениями создателей искусственного интеллекта AlphaGo, «нейронным сетям» этой машины были скормлены многие и многие тысячи партий в го, сыгранных прежде людьми. Компьютер изучил их и вывел какие-то, только ему известные алгоритмы. На следующем этапе обучения машина сыграла множество партий в го сама с собой (точнее говоря — она была как бы размножена и играла с разными версиями самой себя).

В результате суперкомпьютер AlphaGo научился играть в игру, которая долгое время считалась специфичной для человеческого интеллекта, поскольку предполагает наличие у игрока «стратегического мышления», способности к «распознаванию сложных образов», навыков «предвосхищения поведения соперника» и т. д., и т. п.

Грубо говоря, этот компьютер каким-то загадочным образом научился строить theory of mind [127] «Theory of mind» — термин, не имеющий адекватного аналога в русском языке и переводится обычно как «модель психического состояния другого человека» или «понимание другого сознания». Обладать theory of mind — это значит уметь воспринимать переживания (убеждения, намерения, представления и т. д.) других людей таким образом, что это позволяет понимать и прогнозировать их поведение. другого человека (точнее говоря научился делать нечто такое, что похоже по эффекту на эту специфическую способность человеческой психики и отсутствует, например, у больных, страдающих аутизмом). Причем, научился настолько хорошо, что выиграл турнир у ведущего гроссмейстера этой игры Ли Седоля.

Думает ли при этом AlphaGo, способный положить на лопатки лучшего из людей в этой игре, как мы с вами (то есть, тем самым нашим «стратегическим мышлением», тем же способом «предвосхищения поведения соперника»)? Разумеется, нет. Хотя бы потому что у нас с ним очевидно разное «программное обеспечение».

Иными словами, он делает нечто в той же реальности, что и мы с вами (если, конечно, мы умеем играть в го), но как-то по-другому. То есть, он каким-то своим, особенным образом реконструирует реальность игры в го, а также, надо полагать, реальность пространства мышления своего соперника (в каком-то смысле, конечно), но способами, которые мы даже не можем вообразить.

Таким образом, искусственный интеллект AlphaGo знает о реальности (о том, что происходит) игры в го что-то такое, чего мы не знаем и даже никогда не сможем узнать, потому что это радикально иной способ видения (расчета данных).

Машина обнаруживает в реальности игры в го такие отношения, которые для человеческого интеллекта технически непредставимы (полагаю, что понять их гораздо сложнее, чем уяснить для себя квантово-волновую природу физической реальности).

И речь идет не о каких-то программируемых абстрактных правилах (разработчики программного обеспечения AlphaGo не знают, почему машина принимает те или иные решения в рамках конкретной партии), а о созданных самой машиной способах усматривать в этой реальности такое отношение сил, которое нам совершенно не очевидно, и скорее всего не может быть нами понято, даже если нам на соответствующие отношения укажут.

Еще раз: машина AlphaGo способна «видеть» в реальности игры в го какое-то отношение сил, которое в ней — в этой реальности — очевидно есть (она выигрывает у человека — то есть, критерий эффективности работает), но не такое, какое способны увидеть мы, хотя мы и находимся с этой машиной в одном и том же, так сказать, месте реальности — мы играем в го.

42. Теперь приглядимся к механизмам Big Data. На данный момент существуют программы, которые, работая с большими массивами данных (Big Data), позволяют по считанным лайкам определить характеристики того или иного человека, а также предсказывать его поведение.

Разработчики утверждают, что программе достаточно проанализировать триста наших лайков, чтобы она знала нас лучше, чем наша вторая половина, а если у нее будет пятьсот наших лайков, то она будет знать нас лучше, чем мы сами себя знаем [М. Козинский].