Алексей Редозубов: Мозг напрокат. Как работает человеческое мышление и как создать душу для компьютера

Рисунок 8. Нейронная сеть, распознающая цифры. Показана только часть нейронов и их связей.

Запасемся обучающими примерами, то есть напишем одни и те же цифры разными способами (Рисунок 9).

Рисунок 9. Обучающие примеры.

Будем подавать множество таких примеров на вход нейронной сети и путем «шаманских» манипуляций менять веса у связей нейронов, добиваясь наилучшего соответствия сигналов на выходе с поданным тестовым примером.

Существуют разные алгоритмы обучения нейронной сети. Выбор алгоритма зависит от топологии используемой сети, особенности задачи, времени, которое создатель нейронной сети готов потратить на ее обучение. Один из основных методов — это метод обратного распространения ошибки.

Основная идея обратного распространения состоит в том, как получить оценку ошибки для нейронов скрытых слоев. Заметим, что известные ошибки, делаемые нейронами выходного слоя, возникают вследствие неизвестных пока ошибок нейронов скрытых слоев. Чем больше значение синаптической связи между нейроном скрытого слоя и выходным нейроном, тем сильнее ошибка первого влияет на ошибку второго. Следовательно, оценку ошибки элементов скрытых слоев можно получить как взвешенную сумму ошибок последующих слоев. При обучении информация распространяется от низших слоев иерархии к высшим, а оценки ошибок, делаемые сетью,— в обратном направлении, что и отражено в названии метода (Терехов, 1999).

При оценке ошибки на каждом шаге можно записать зависимость ошибки и весовых коэффициентов конкретного нейрона. Минимизация ошибки — это нахождение минимума полученной функции, что делается дифференцированием полученной функции и поиском весовых коэффициентов, обращающих производную в ноль. Отсюда, кстати, становится понятным, почему в моделях, использующих этот метод, для описания работы нейрона применяется сигмоидная функция: в отличие от скачкообразной функции, она дифференцируема.

После обучения такая нейронная сеть начинает достаточно корректно распознавать не только тестовые примеры, но и другие, которых не было во время обучения.

Обобщим.

Нейронные сети — это структуры, позволяющие перерабатывать информацию. То, как работает сеть, определяется конфигурацией связей, установленных между нейронами. В этой конфигурации содержится «память» об информации, полученной во время обучения. В обобщенном понимании нейронная сеть является самостоятельным объектом, не сводимым к другим, более простым, но обладающим теми же свойствами моделям.

Отвлечемся теперь от нейронных сетей и поговорим о том, что является фундаментом современной науки,— об эволюционном учении Ч. Дарвина. Теория естественного отбора знакома, конечно, всем. Но, поскольку существенная часть дальнейшего изложения в этой книге далее будет опираться именно на нее, считаю необходимым напомнить ее основные положения.

Идею о том, что в живой природе действует механизм, подобный осуществляемому человеком искусственному отбору, впервые высказали английские ученые Чарльз Дарвин и Альфред Уоллес. Смысл их идеи состоит в том, что для создания удачных существ природе вовсе не обязательно понимать и анализировать ситуацию, а можно действовать наугад. Достаточно постоянно создавать у особей широкий спектр разнообразных качеств — и в конечном счете выживут наиболее приспособленные.

Итак, три этапа:

1. Сначала появляется особь с новыми, при этом совершенно случайными свойствами.

2. Взаимодействуя с внешней средой и конкурируя с другими, особь либо дает потомство, либо погибает раньше.

3. Наконец, если исход предыдущего этапа оказывается положительным и она оставляет потомство, ее потомки наследуют новоприобретенные свойства и испытание естественным отбором продолжается.

Эти этапы иллюстрируют три столпа эволюционного учения: наследственность, изменчивость и естественный отбор.

Информация о том, каков будет организм и какими свойствами он будет обладать, полностью содержится в хромосомном наборе. Каждая хромосома, в свою очередь, состоит из последовательности генов. Гены своим типом и местоположением в хромосоме кодируют какое-либо свойство организма.