Дэвид Дойч - Начало бесконечности

Идея с тестом Тьюринга наводит на мысль о том, что, если заложить в программу «Элиза» достаточно шаблонов стандартных ответов, она сможет автоматически создавать знания; искусственная эволюция наводит на мысль о том, что при наличии вариации и отбора эволюция (адаптаций) станет происходить автоматически. Но ни то, ни другое не обязательно верно. В обоих случаях есть другая возможность, что во время работы программы вообще не будет создаваться знаний, а появляться они будут только во время разработки её программистом.

Кажется, в таких проектах неизменно происходит одно: если по достижении запланированной цели «эволюционная» программа продолжает работать, то дальнейших улучшений уже не происходит. Именно так должно было быть, если все знания, заложенные в удачно сконструированном роботе, на самом деле получены от программиста. Но такая критика неубедительна: в ходе биологической эволюции также часто достигаются «локальные максимумы приспособленности». Кроме того, уже достигнув своей загадочной формы универсальности, она как будто замерла лет так на миллиард, прежде чем создать более или менее значительные новые знания. Но всё же достижение результатов, которые вполне могут быть обусловлены чем-то ещё, не есть доказательство эволюции.

Поэтому я сомневаюсь, что в ходе какой-либо «искусственной эволюции» когда-либо создавались знания. Того же взгляда и по тем же причинам я придерживаюсь относительно немного иного типа «искусственной эволюции», при которой в виртуальной среде развиваются смоделированные организмы, а также когда друг с другом стравливаются различные виртуальные виды.

Чтобы проверить это утверждение, я бы хотел увидеть эксперимент немного другого вида: уберём из проекта аспиранта. Вместо робота, сконструированного так, чтобы он мог развивать свои способности к ходьбе, возьмём робота, который уже применяется в какой-нибудь реальной ситуации и может ходить. Далее, мы не будем создавать специальный язык подпрограмм для выражения гипотез о том, как ходить, а заменим существующую программу в существующем микропроцессоре случайными числами . В качестве мутаций возьмём ошибки того типа, которые всё равно случаются в таких процессорах (хотя при моделировании можно задавать частоту, с которой мы позволим им случаться). Всё это делается, чтобы исключить возможность того, что в конструкцию системы вводятся человеческие знания и привносимые ими новые возможности будут восприниматься как результат эволюции. Затем, как обычно, начнём моделирование этой мутирующей системы — столько раз, сколько угодно. Если робот в конце концов пойдёт лучше, чем было изначально, то я ошибся. Если он продолжит совершенствовать свой навык и после этого, то я ошибся очень сильно.

Одна из главных особенностей описанного эксперимента, отсутствующая при обычном способе осуществления искусственной эволюции, состоит в том, что язык (подпрограмм) должен развиваться вместе с теми адаптациями, которые с его помощью выражаются. Как раз это и происходило в биосфере перед скачком к универсальности, который вылился в генетический код ДНК. Как я говорил, возможно, все предыдущие генетические коды кодировали только небольшое число очень похожих организмов. А та чрезвычайно богатая биосфера, которую мы видим вокруг себя, созданная случайной вариацией генов при неизменном языке, представляет собой нечто, ставшее возможным лишь после этого скачка. Мы даже не знаем, универсальность какого типа была там создана. Так почему мы полагаем, что наша искусственная эволюция сможет обойтись без этого?

Думаю, мы должны принять тот факт, что как искусственная эволюция, так и искусственный интеллект — задачи трудные. В том, как эти явления были достигнуты в природе, нечто очень важное остаётся неизвестным. Попытки воспроизвести их искусственным путём без понимания этого неизвестного, пожалуй, стоило предпринять. Но их неудача не должна нас удивлять. В частности, мы не знаем, почему код ДНК, развившийся для описания бактерий, оказался достаточно сильным, чтобы описать динозавров и людей. И хотя кажется очевидным, что у искусственного интеллекта будут квалиа и сознание, объяснить эти понятия мы не можем. А раз так, то как можно ожидать, что мы смоделируем их с помощью компьютерной программы? Или почему они должны сами собой возникнуть в ходе проектов, нацеленных на достижение чего-то другого? Я полагаю, что, когда мы всё-таки разберёмся в этом, реализовать искусственным путём эволюцию и интеллект вместе со всеми характерными для них атрибутами не составит большого труда.