Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Если люди хотят смоделировать свои мыслительные инструменты в неких артефактах как репрезентацию собственного интеллекта, то первое, что им следует сделать, — это выяснить, что именно требуется смоделировать. На данный момент проделать такое невозможно, поскольку не существует даже таксономии или классификации функций, которые позволили бы осуществить этот проект в виде действительно научного или технологического начинания. Есть только умные слова, с помощью которых люди лишь создают видимость понимания.

Как это ни странно, отсутствие подобной таксономии, по-видимому, не очень-то волнует людей; довольно часто они очаровываются изображениями (цветастыми картинками, создаваемыми машинами), которые замещают мышление. В сравнении с классической биологией, химией или физикой, их нейробиологии и физиологии недостает классификации. Люди заблудились в концептуальных джунглях. Что они имеют в виду, когда говорят о сознании, разуме, интенции, личности, субъектности или даже о более простых понятиях вроде памяти, восприятия, эмоций или внимания? Отсутствие таксономии проявляется в различии мнений и систем взглядов, которые их «ученые» выражают в своих эмпирических потугах и теоретических измышлениях, продираясь через мир неизведанного.

Для некоторых людей системой координат служит физическая «реальность» (обычно понимаемая в терминах классической физики), используемая в качестве мерила для познавательных процессов: как воспринимаемая реальность связана с физической реальностью и как это описать математически? Очевидно, что с таким подходом можно зафиксировать лишь малую часть из инструментов мышления.

Для других существенным классификационным признаком является язык, то есть предполагается, что слова надежно представляют субъективные явления. Это довольно странно, потому что конкретные понятия, такие как «разум» или «сознание», имеют разные коннотации в разных языках, и исторически они очень новые в сравнении с биологической эволюцией. Третьи используют поведенческие каталоги, заимствуя их из нейрофизиологических исследований. Так, утверждается, что утрата функций — это доказательство их существования. Но могут ли все субъективные феномены, которыми характеризуются инструменты мышления, быть явным образом утрачены? Четвертые основывают свои идеи только на здравом смысле, также называемом «житейской психологией», без какого-либо теоретического осознания. Если собрать это все вместе, то ничего похожего на разум как четкое понятие отсюда извлечь не удастся; использовать это в качестве основания для понятия «искусственный разум» тоже не получится.

Людям следует напомнить (в данном случае это должен сделать внеземной робот), что в самом начале современной для человеческого мира науки Френсис Бэкон произнес слова предупреждения. Он сказал в своем сочинении «Новый органон» (опубликованном в 1620 году), что люди становятся жертвами четырех источников заблуждений.

1. Они совершают ошибки потому, что они люди. Их эволюционное наследство ограничивает силу их мышления. Они часто слишком быстро дают ответ; им не хватает выдержанности; у них нет статистического чутья; они слепы в своих эмоциональных реакциях.

2. Они совершают ошибки из-за личного опыта. Индивидуальный импринтинг может создавать системы убеждений, ведущие к катастрофам, — в частности, такое бывает, когда люди думают, будто владеют абсолютной истиной.

3. Они совершают ошибки из-за языка, который используют. Мысли не связаны с языком изоморфно, и ошибкой будет считать, что эксплицитное знание — это единственная форма знания, и обходить вниманием имплицитное, или неявное, знание.

4. И они также совершают ошибки из-за теорий, которые разносят повсюду, а те часто становятся имплицитными и, следовательно, представляют собой застывшие парадигмы или попросту предрассудки.

Итак, вопрос состоит в следующем: можем ли мы помочь людям и поделиться несравнимо более глубоким пониманием, достигнутом миром роботов? Ответ: да. Мы можем, но делать этого не нужно. У людей есть еще один недостаток, который обессмыслит любое наше предложение. Они страдают от синдрома ИНЗ: если что-то изобретено не здесь , они это не примут. Следовательно, им придется и дальше предаваться роскоши существования в мире туманных идей, а мы продолжим наблюдать за катастрофическими последствиями их глупости.