Дэниел Клемент Деннет - Разум - от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

Я проиллюстрировал свои выводы посредством задания, которое дал моим студентам после победы программы Watson над Дженнингсом и Раттером в викторине Jeopardy . Я предложил им придумать вопросы, которые поставили бы в тупик Watson, но были бы элементарными для Дженнингса и Раттера (да и любого нормального человека). (Следует отметить, что в викторине правила составлены в пользу Watson. Все вопросы, задававшиеся Watson, были вербальными, ему не нужно иметь ни зрения, ни слуха.) И все возможные тупики, так или иначе, на мой взгляд, были бы связаны с воображением.

Часть тела, которую можно нарисовать на земле, используя рогатку, косой крест и кольцо?

Ответ. Что такое ухо?

Животное, которое превращается в огромное количество растений посредством замены одной буквы.

Ответ. Что такое лис и лес?

Цифра между 0 и 9, из которой могут получиться отличный маленький бассейн и присоединенная к нему джакузи.

Ответ. Что такое 8?

У меня есть примеры и получше, но я не буду публиковать их или выкладывать в Интернет, поскольку Watson может скачать их и использовать в будущем! Watson не нужно собственное воображение, – он может использовать чужое. Обратите внимание, что с этой точки зрения Watson глубоко дарвинистское создание: ни Watson, ни естественный отбор не зависят от способности к предвидению или воображению, поскольку они управляются процессами, которые неустанно и бездумно извлекают информацию, – статистические закономерности, которые могут направлять улучшения дизайна из уже произошедших событий. Они слепы по отношению к тем типам событий, которые не касаются их селективных процессов. Конечно, если действительно нет ничего нового под солнцем, то это никак не ограничение, но человеческое воображение, способность представить себе реальность, которую мы не можем увидеть, просто поднявшись на холм повыше, оказалось способным полностью поменять правила игры, позволив нам творить , создавать проекты, возможности для их реализации, и в итоге предприятия и артефакты, которые никак бы не могли возникнуть сами по себе. Сознательный человеческий разум – это не чудо, не нарушение принципов естественного отбора, но новое расширение его возможностей, подъемное устройство, которое корректирует концепцию эволюционного биолога Стюарта Кауфмана [227] Стюарт Кауфман (англ. Stuart Kauffman, род. 1939) – американский врач, биолог-теоретик и исследователь сложных систем; наиболее известен тем, что утверждает, что сложность биологических систем и организмов может быть результатом как самоорганизации и далекой от равновесия динамики, так и дарвиновского естественного отбора. о смежных возможностях : многие области в Пространстве созидания расположены близко к нам , поскольку мы развили способность думать о них и даже искать их, или избегать их. Для Домингоса и других сторонников глубинного обучения остается без ответа вопрос о том, позволит ли изучение достаточно детальной и динамичной теории агентов с воображением и способностью к рассуждениям создать систему (компьютерную программу, Главный алгоритм), готовую генерировать и использовать способности этих агентов, то есть генерировать все морально значимые свойства личности 103.

По моему мнению (по-прежнему), глубинное обучение не сможет дать нам – по крайней мере, в ближайшие пятьдесят лет – ничего похожего на «сверхчеловеческий интеллект», который породил столько тревог (Bostrom, 2014; более ранняя работа Moravec, 1988; Kurzweil, 2005; Chalmers, 2010; см. еще ежегодный вопрос Edge world за 2015 год; а также Katchadourian, 2015).

Ускоряющееся развитие искусственного интеллекта, распространяющегося под флагом глубинного обучения, удивило даже многих специалистов в этой области, не только давнишних комментаторов и критиков, таких как я, к примеру. Это давняя традиция – устраивать хайп вокруг искусственного интеллекта, и многие из нас уже привыкли сомневаться в очередном «революционном прорыве» и понижать его вероятность процентов на 70, или даже больше. Однако, когда такие мастера высоких технологий, как Илон Маск, и ученые мирового уровня, как сэр Мартин Рис и Стивен Хокинг, начинают поднимать тревогу, утверждая, что искусственный интеллект вот-вот приведет нас к катаклизму и полному исчезновению человеческой цивилизации, приходит пора пересмотреть привычки и обуздать подозрения. Я сделал это и пришел к выводу, что мое мнение не изменилось, но стало чуть более осторожным, чем прежде. Я всегда утверждал, что «мощный ИИ» «возможен в принципе», – однако рассматривал его вероятность как не очень высокую, поскольку стоимость такого проекта была бы слишком высока и не давала бы нам ничего, в чем мы бы реально нуждались. Домингос и другие показали мне, что есть и вполне осуществимые возможности (с технической и экономической точек зрения), которые я недооценивал, тем не менее я по-прежнему думаю, что эта задача на порядок сложнее и масштабнее, чем заявляют лидеры общественного мнения, по причинам, указанным в этой главе и в главе 8 (см. пример с Ньюйоркаботом).