Александр Кириченко - Интеллектуальность нейросетевых конструкций. Обзор литературы

· Сети и системная нейронаука. Временное поведению сигналов в нейронных контурах как биологических, так и искусственных сетей.

Конгресс 1994 года успешно состоялся. После него прошли и другие форумы, нейроинформатика пополнилась новыми приложениями.

Согласно «Постановлению СМ РФ» в 2012 году в нашей стране начаты исследования «искусственных когнитивных систем» (ИКС) трёх типов:

· нейроморфные (подобные организации живой нервной системы),

· кортикоморфные (подобные организации коры головного мозга) искусственные нейросети

· генноморфные (подобные генетическим и эпигенетическим механизмам организмов).

Эти модели реализуются на всех технических средствах (платформах) в виде:

· специализированных систем на базе суперкомпьютеров,

· распределенных систем в глобальных и корпоративных компьютерных сетях,

· автономных технических устройств и роботов,

· систем управления крупными технологическими комплексами и соединениями,

· микросистем и нанокомплексов,

· киберорганических систем.

Среди перечисленных трёх разделов нейрокомпьютинга нейросетевые исследования наиболее тесно связаны со вторым разделом «исследованием хозяйственных процессов», в которых производится поиск, оценка и преобразование смысла в обрабатываемой информации, с выполнением умозаключений, с использованием интеллектуальных навыков, включающих в себя такие, как:

· сопоставление сложных объектов и оценку их сходства;

· выделение типового объекта из группы однородных;

· поиск типичных черт, существенных признаков;

· формирование описания типового объекта, выделение его отличительных черт;

· определение понятий (дефиниции);

· выявление причинно-следственных связей;

· интерпретация связей и свойств исследуемых объектов;

· генерация гипотез;

· выявление закономерностей;

· самообучение, адаптация;

· умение делать дедуктивные, индуктивные, традуктивные выводы; и так далее…

В конечном итоге в состав решаемых задач включаются задачи, похожие на темы, определённые Международным обществом нейросетей INNS:

· построение семантической сети;

· построение тематической структуры текстов;

· реферирование текстов;

· гипертекстовая разметка текстов;

· смысловой (семантический) поиск информации;

· перевод на другой язык;

· классификация текстов, видео, звуков;

· аннотирование изображений, текстов.

· построение ассоциативных структур (логов);

· использование ассоциативной памяти разных типов;

· управление динамическими процессами и их анализ (нейросеть – контроллер);

· формирование потребительских комплексов; анализ ассоциаций;

· распознавание аномальной работы технической, гуманитарной, экономической системы;

· реализация «концепции внимания», разделение информации по важности;

· извлечение знаний из весовых коэффициентов;

· хранение информации в виде «ленты памяти» (как в машине Тьюринга);

· построение модулей эпизодической памяти. (Мэри дома. Она вышла во двор. Где Мэри? Во дворе);

· генерация бреда (контекст и окружение), генерация вариаций (музыкальных, сказочных);

· стилизация текста, музыки, графики.

· автоматическое составление программы (типа ПРИЗ ЕС);

· планирование действий (например, по аналогии);

· выделение содержания, смысла, стиля. Перенос их, смешивание;

· сохранение входных образов благодаря клеточному состоянию в LSTM;

· забывание;

· использование Слоя обратной связи; Рекуррентного слоя; Контекста;

· отрицательная и положительная обратная связь (затухание и генерация);

· ассоциативная память;

· ассоциативное мышление;

· анализ динамических процессов, узнавание в них информационных конструкций, смысла.

Анализ перечисленных задач обращает внимание на то, что главные области их применения должны быть требовательны к контексту и/или временной зависимости в данных. Поэтому рекуррентные нейронные сети (РНС) получают широкое использование, для анализа изображений, текста, музыки, смысла. В настоящее время эта область обычно воспринимается в контексте сверточных нейросетей, однако и для РНС здесь находятся задачи. Их архитектура позволяет быстрее распознавать детали, основываясь на контексте и окружении.

В состав Учебно-Методического Комплекса включены 4 учебные программы:

1/ «Основы теории искусственных нейронных сетей»

2/ «Нейросетевые исследования хозяйственных процессов»