Клиффорд Пиковер - Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей

Высокоуровневое поведение развивается в результате простых взаимодействий с окружающей средой. По этому поводу авторы Natural Computing Деннис Шаша и Кэти Лацере отмечают: «В краткой истории космических путешествий всегда было проще написать компьютерную программу для запуска корабля на Марс, чем создать робота, способного двигаться по пересеченной местности хотя бы как обычный козел».

СМ. ТАКЖЕ «Дарвин среди машин» (1863), Тест Тьюринга (1950), «Симбиоз человека и компьютера» Ликлайдера (1960), Роевой интеллект (1986), Парадокс Моравека (1988)

Разум живых организмоввесьма далек от игр вроде шахмат. В статье «Слоны не играют в шахматы» Родни Брукс объясняет, что изыскания в области ИИ следует направить в другое русло.

Как уже говорилось в главе «Интеллектуальный взрыв», некоторые ученые высказывают опасения, что ИИ-системы, став достаточно разумными, смогут многократно совершенствовать себя и, возможно, начнут представлять угрозу для человечества. Такой стремительный прогресс ИИ иногда называют технологической сингулярностью. Конечно, новые технологии могут оказаться чрезвычайно ценными для людей; но возможные риски заставляют ученых задумываться о создании неких ящиков для искусственного интеллекта , в которых при необходимости можно было бы изолировать потенциально опасные объекты. Например, само оборудование, на котором выполняются ИИ-программы, может послужить виртуальной тюрьмой, если не подключать его к коммуникационным каналам, в том числе к интернету. Кроме того, программное обеспечение можно запустить на виртуальной машине внутри другой виртуальной машины, чтобы усилить изоляцию. Конечно, полная изоляция будет бессмысленна, поскольку так мы не сможем учиться у сверхразума или наблюдать за ним.

И все же, если искусственный сверхразум будет достаточно развит, сможет ли он придумать, как установить контакт с внешним миром или с людьми, которые будут его охранять, с помощью каких-нибудь необычных средств? Может быть, он догадается менять скорость вентилятора, охлаждающего процессор, чтобы связаться с кем-то с помощью азбуки Морзе, или сумеет сделать себя настолько ценным, что многие захотят похитить ящик? И наверняка он сможет весьма убедительно предложить охранникам взятку, чтобы те разрешили ему подключиться к другому устройству и скопировать себя на него. Сегодня такой подкуп может показаться невероятным, но кто знает, на какие чудеса будет способен ИИ? Он может предложить человеку лекарство от тяжелой болезни, фантастические изобретения, может околдовать его мелодиями или явить ему мультимедийные видения романтической любви, приключений или блаженства.

В 1993 г. писатель Вернор Виндж (р. 1944) отмечал, что в случае со сверхчеловеческим разумом «ограничение свободы по сути бесполезно. Возьмем физическое заключение: представьте, что вас заперли в доме, ограничив доступ к внешнему миру, к вашим хозяевам. Если ваши хозяева думают, скажем, в миллион раз медленнее, чем вы, то вряд ли стоит сомневаться в том, что за несколько лет (вашего времени) вы найдете способ освободиться».

СМ. ТАКЖЕ «Дарвин среди машин» (1863), R.U.R . (1920), «Гигантские мозги, или Машины, которые думают» (1949), Интеллектуальный взрыв (1965), Жизнь в симуляции (1967), Максимизатор скрепок (2003)

Возможные риски,связанные с высокоразвитыми ИИ-программами, заставляют ученых задумываться о том, как создать искусственные оболочки, которые могли бы ограничить или изолировать такие сущности.

В шашки играют на доске 8 × 8 клеток. Игроки по очереди пытаются захватить шашки противника, перепрыгивая через них своими шашками. В 1950-х гг. исследователь из IBM Артур Сэмюэл (1901–1990) создал программу, которая обучалась, играя в шашки против модифицированных версий самой себя. Важной вехой в истории шашек было появление ИИ под названием Chinook , который в 1994 г. стал первой компьютерной программой, завоевавшей титул чемпиона мира, играя против людей.

Chinook был разработан группой под руководством канадского информатика Джонатана Шеффера (р. 1957). Он использовал библиотеку дебютных ходов, которые разыгрывали гроссмейстеры, а также алгоритм, который в 1992 г. искал ходы со средней минимальной глубиной поиска в девятнадцать слоев (один слой соответствует одному ходу одного игрока). Chinook также задействовал базу эндшпилей для всех позиций с не более чем восемью шашками и функцию оценки полезных ходов.