Андрей Курпатов - Мышление. Системное исследование

16. Мы вряд ли будем возражать против утверждения, что компьютер осуществляет некую интеллектуальную активность (именно в этом смысле мы и говорим про «искусственный интеллект»). Однако сказать, что он «думает», нельзя (если, конечно, это не метафора, которой любят пользоваться программисты).

Мы не можем (по крайней мере, пока) признать, что компьютер «мыслит». Мы скажем, что он «считает», «просчитывает», следуя определенным правилам, программам, которые придуманы за него, но это не он сам так «думает».

17. Впрочем, разве мы можем быть уверены, что наш биологический мозг всегда «думает» сам, а не понуждаем к этому определенными предустановленными в нем «программами»? Очевидно, что большая часть его интеллектуальной активности запрограммирована — генетически и научением.

То, как биологический мозг, например, собирает единичные раздражители в некий визуальный образ (видимый мною предмет), — это, по сути, программное действие. По крайней мере, я об этом сознательно не «думаю», это происходит, образно говоря, «в обход меня».

Оборонительная реакция на громкий звук — это тоже программа в том смысле, что эта реакция не является «моим действием», это действие моего мозга — предустановленная в нем генетически программа. Рефлекторное одергивание руки от горячего предмета — это не моя реакция, даже чувство боли я почувствую позже, нежели одерну руку. Это просто элементарный рефлекс, который я, конечно, могу затем осмыслить, но могу и не осмыслять.

Декапитированная лягушка способна плыть, если вы бросите ее в воду, но она уже никогда не узнает об этом.

18. То, что я различаю буквы, которые появляются сейчас на экране моего компьютера, так, а не иначе (букву А, например, как букву А, а букву Б как букву Б), это тоже программа, хотя и выученная. Я не задавался соответствующим вопросом сознательно и целенаправленно, я просто увидел это (эти раздражители) так.

Впрочем, я постоянно совершаю и куда более сложные действия (по существу, конечно, интеллектуальные) как бы «на автомате», то есть совершенно над этим не задумываясь (например, когда выравниваю колеса автомобиля, перестраиваясь на нем из одного ряда в другой).

19. И даже если я задумываюсь над какими-то своими действиями, например, умножая 12 на 12, разве не реализует в этот момент мой мозг уже имеющуюся в нем «программу» умножения? То есть насколько это действие является собственно моим? Мог бы я совершить его сам, если бы соответствующая «программа» в моем мозге отсутствовала?

20. Вопрос, соответственно, стоит таким образом: чем будет в данном случае принципиально отличаться компьютер, реализующий определенную программу, от биологического мозга, который решает ту или иную задачу, используя предустановленные в нем, посредством генетической детерминации или научения, алгоритмы?

Думает ли наш биологический мозг в данных случаях «сам», или за него «думают» эти алгоритмы?

21. При этом понятно, что алгоритмы, конечно, не могут «думать», они лишь актуализируются под действием некоего стимула и, так сказать, проворачиваются, используя соответствующее содержание и производя, по существу, уже имеющийся результат.

Субъективно мне может казаться, что это «я так подумал». Но если это сделал собственно я, а не эти алгоритмы, то я, соответственно, должен иметь способность совершить это же действие другим способом. Но, как выясняется, это зачастую абсолютно невозможно.

22. Если я сам понимаю буквы родного мне языка, а не соответствующие алгоритмы (программы) моего мозга, то почему бы, например, мне не понять знаки или предложения китайского языка, который мне неизвестен? Очевидно, что я не могу этого сделать, потому что во мне нет соответствующей программы (алгоритма).

То есть я могу даже знать, что это буквы, а то, во что они складываются, — слова или предложения, что это язык. Но пока во мне не сформирована программа, которая позволит мне знать, что эти знаки значат, я смотрю на них лишь как на определенные состояния материального мира, и не более того.

Хотя, конечно, то, что я узнаю в иероглифах «буквы» («нечто вроде букв»), — это, конечно, тоже такая специфическая и выученная мною программа.

23. Впрочем, я даже вряд ли смогу отличить китайские иероглифы от японских, пока меня этому не научат. Но когда меня этому научат, буду ли это знать я, или это будет знать мой мозг, или просто какая-то его часть, которую я называю здесь «программой» или «алгоритмом»?