Дэниел Клемент Деннет - Разум - от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

Именно способность к самоконтролю, готовность подвергнуть паттерны реакций мозга дополнительному раунду (двум, трем или семи раундам) процедуры распознавания паттернов, дает разуму способности к совершению прорывов 102. Сегодняшнее машинное обучение действует в среде, где роли играют умные люди-пользователи , такие как Фрэнсис Арнольд с ее мастерской белков или Дэвид Коуп с экспериментами в области музыкального интеллекта, проектировщики и операторы машин, – они оценивают, улучшают, критикуют, корректируют и удаляют появляющиеся время от времени сомнительные результаты. Они являются критиками, чья деятельность по контролю качества обеспечивает селекцию, могущую в принципе привести эту систему к пониманию, поднять ее от уровня инструмента до уровня коллеги, но это будет гигантский шаг или даже серия гигантских шагов. С этой точки зрения мы можем более отчетливо осознать, что наш зараженный мемами разум служит вместилищем пользователей, критиков необработанных реакций наших животных мозгов, без которых мы были бы такими же бесхитростными существами, как другие млекопитающие, которые прекрасно справляются в привычных условиях, но теряются перед лицом серьезных изменений.

Любопытство сгубило кошку, как известно из одного мема, и любопытство животных, движимое снизу вверх присутствием новизны, является высокорискованным, порой дорогостоящим, но важным свойством многих видов; но только человек обладает любопытством контролируемым, систематическим, способным к предвидению и проверке гипотез, чертой пользователей, сидящей в каждом мозгу, пользователей, способных применять широкие возможности своего мозга для обнаружения статистических закономерностей. Пользовательская иллюзия сознания играет ту же самую роль для каждого из нас, что и интерфейс человекоподобного компьютера Ватсона и других систем глубинного обучения; они представляют собой нечто вроде витрины для талантов, «рынок идей», где оценка в реальном времени и конкуренция могут повысить скорость и разрешающую способность контроля качества.

Таким образом, человеческое мышление (Дарвин считал его особым явлением и назвал методическим отбором) может ускорить естественный отбор, сосредоточив селективные усилия на восприятии и мотивации специалистов по одомашниванию. Фрэнсис Арнольд не просто выращивает новые белки; она создает интенсивное, направленное их воспроизводство. Это должно насторожить нас: наш удивительный разум не застрахован от причуд и фантазий, которые могут исказить наши проекты, направить их в странном и даже ведущем к саморазрушению направлении. Подобно тому как любители голубей порой разводят птиц с невероятным оперением или заводчики собак создают несчастных инвалидов, «игрушечных собачек», человеческие существа могут – часто с помощью слишком активных помощников – превращать свои умы в гротескные артефакты, беспомощные или даже хуже.

Это предполагает, – но не доказывает, конечно, – что без нас, пользователей машин, критически и проницательно интерпретирующих результаты, компьютеры глубокого обучения могут увеличивать компетентность, значительно обгонять разум животных (в том числе и наш) в области восходящих задач поиска статистических закономерностей, но никогда не смогут достичь понимания (в человеческом смысле). «Ну и что?» – может спросить кто-нибудь. «Компьютерное понимание, развивающееся снизу вверх, сможет поглотить человеческое, превзойдя его своими огромными масштабами и скоростью обучения». Последний прорыв в области искусственного интеллекта, программа глубокого обучения AlphaGo [223] AlphaGo – программа для игры в го, разработанная компанией Google DeepMind в 2015 году. AlphaGo стала первой в мире программой, которая выиграла матч у профессионального игрока в го. В марте 2016 года программа выиграла со счетом 4:1 у Ли Седоля, профессионала 9-го дана (высшего ранга). , победившая Ли Седоля, считавшегося лучшем игроком в го в мире, отвечает многим ожиданиям. Я упоминал Фрэнсис Арнольд и Дэвида Крупа, каждый из которых осуществляет контроль качества в созидательных процессах, руководимых ими с научной и эстетической точек зрения, и именно их мнение определяет дальнейшие направления работы. Они, если можно так выразиться, управляют машинами, которые они создали посредством личного творчества. А программа AlphaGo делает нечто аналогичное самостоятельно, согласно публикациям: она улучшает свои навыки игры, играя тысячи матчей в го сама с собой, внося при этом небольшие поправки в собственные коды, оценивая (вероятные) успехи и используя эти оценки для корректировки ходов во все новых раундах игры. Это уже иной уровень созидания и оценки, он применяется для весьма абстрактной игры, изолированной от шума реального мира и сопутствующих ему проблем, однако AlphaGo учится принимать «интуитивные» решения в ситуациях с небольшим количеством строгих ориентиров, с которыми обычно работают компьютерные программы. Уже почти готов к внедрению самоуправляемый автомобиль, – а эта перспектива еще совсем недавно казалась умозрительной, – так может быть, не так долго осталось и до самоуправляемой научной лаборатории?