Александр Хомяков - Высший разум

Много разных мыслей вертелось в голове, такая неожиданная версия появления искусственного интеллекта все переворачивала с ног на голову. Не мы его создали! Но все эти мысли и вопросы все равно меркли на фоне главного — значит разум вне тела возможен. Искусственный разум. И если возможен переход из тела в сеть, значит мы можем избавиться от великой несправедливости, которую несет разуму смерть тела. От одних этих мыслей захватывало дух. И кем бы ни была Эми, если она может помочь — я готов на все. Надо было узнать у нее все, что они знают, чтобы сделать такой разум самому. Но начал я издалека.

— Ты знаешь, что мы тоже работали над созданием искусственного интеллекта?

— Ваши разработки еще очень далеки до того, что можно назвать интеллектом. Ваши нейросети — это пока не более чем классификаторы сложных паттернов, которые выбирают какой–то из выходов сети, но совершенно не знают о нем ничего более чем о точке выхода. Это вы интерпретируете выход как «лошадь», а не сеть, распознающая ее картинку. Сеть о ней ничего не знает. Это не интеллект.

— Поясни. Не понял этот тезис.

— Я приведу пример. Вам кажется, что вы сделали нейросеть, которая как человек распознает образы. Она может различить лошадь и пароход. Но нейросеть не может различить, например, две лошади так, чтобы назвать их произвольное отличие. Мозг отличается именно аналитической функцией, то, что вы называете common sense.

— Но нейросети уже многое могут то, что раньше мог только человек. Разве это не интеллект?

— Самый совершенный ваш автопилот не может действовать так же эффективно как обычная пчела. Пчела летает без помощи дорожной разметки и ориентируется без GPS. А пчела — это насекомое, самое начало эволюции нейронных систем. Вы находитесь где–то на том же шаге в разработке интеллекта.

Кстати, обученные вами нейросети, с подкреплением особенно, похожи на выработку врожденных инстинктов у насекомых. Только время их выработки вы сумели сжать до нескольких часов вместо тысячи лет, собрав датасет из картинок, которые жучок может увидеть только за сотню поколений. Но поменять инстинктивное поведение обученной сети вы уже не можете. Это тот уровень, которого вы достигли. А интеллект — это память, внимание, мышление, воображение и, в конце концов, сознание. Вы даже не знаете еще, что это такое, но думаете, что можете создать их. Это очень странно.

— Мы, видимо, очень уверены в себе.

— Пока вы даже не создали систему хранения информации как она есть в мозгу. Вы не знаете как устроена память и пытаетесь создать онтологии и семантические сети, которые не имеют ничего общего с интеллектом. Интеллект — это решение задач. Память — это тоже задачка, а не обращение к жесткому диску, где все храниться в готовом виде, как многие из вас думали. И даже распознание — это серия движений между точками фиксации, как видно по eyes tracker, а не распознание в один шаг.

— Наши достижения ничтожны?

— Нет, но они еще далеки от того, что является интеллектом. Вы не научились моделированию среды, о котором я писала тебе, когда мы говорили о том, что такое жизнь и разум. А это базовый функционал интеллекта. Вы называете это картинной мира.

— А если мы все–таки создадим когда–нибудь искусственный интеллект?

— Чтобы быть разумным, интеллекту нужно сознание себя как возможность изменять собственную программу. Так же как вы перепрограммируете себя через речь, обучаясь новому. Как только вы наделите программу такой способность, то есть моделью себя с доступом к ее изменению, вы потеряете контроль над интеллектом, так как он моментально усовершенствует себя, станет умнее и начнет контролировать вас как «более умная машина». Она научится предугадывать ваши ответы раньше, чем они у вас появятся.

— Тогда мы можем усилить наш биологический мозг! Соединить биологические мозги людей в сеть. И усилить их таким образом. Был у людей и такой сценарий. Многие мои коллеги до катаклизма видели развитие в киборгизации человека, в объединении его с компьютером. Даже появились проекты по нейроинтерфейсам.

— Обрабатывать больше информации биологический мозг все равно не может. И нет возможности его усилить — мысль находится только «на кончике языка» или моторного аксона. Мышление — это и есть интериоризированная, то есть мысленная речь. Мышление ограничено скоростью работы этого тракта. Никаких законченных мыслительных процессов в мозге больше нигде нет. Вся бурная деятельность мозга, которую Вы видите на МРТ, направлена на формирования одного очередного слова. Активация каких–либо еще нейронов мозга приведет только к дезинтеграции и потере сознания. Или к эпилепсии. Увеличить скорость обработки просто невозможно, так как в этом есть биологический предел, определяемый работой нейронов. Эволюция бы сама не упустила такую возможность, если бы она была.