Питер Бентли: Всё об искусственном интеллекте за 60 минут

Я работаю над прорывным проектом ОИИ. Полагаю, нам нужно исследовать гораздо более сложные модели нейронов. В частности, нейроны, которые могут размножаться и умирать.

Исследователи продолжают разрабатывать инновации в этой области. Джулиан Миллер, например, стал пионером такого эволюционного подхода, как декартово генетическое программирование, которое позволит компьютерам развивать электронные схемы. Сегодня Миллера вдохновляет идея создания ОИИ с помощью декартова генетического программирования для совершенствования новых типов нейронных сетей. Тогда как большинство нейронных сетей обучены решать только одну задачу и должны пройти переподготовку, прежде чем смогут выполнять другие, Миллер создает искусственный мозг, который способен справиться со множеством задач, используя небольшой набор примеров. Его эволюционирующие нейронные сети меняют количество нейронов во время обучения и повторно используют их для выполнения различных задач.

Не все с оптимизмом смотрят на преимущества ОИИ. Некоторые футурологи, философы и писатели-фантасты делают пугающие прогнозы о том, куда в конечном итоге нас может привести эта технология. Они утверждают, что, как только ИИ станет достаточно умным, чтобы разрабатывать себе подобных, появится петля положительной обратной связи: умный ИИ сможет создать еще более умного ИИ, который в свою очередь создаст еще более умного ИИ, и так далее. Такого рода аргументы опираются на закон Мура, который гласит, что число транзисторов в микросхеме удваивается примерно каждые два года (а скорость процессоров удваивается каждые 18 месяцев). Сторонники этой идеи полагают, что экспоненциальное увеличение скорости компьютеров неизбежно приведет к появлению суперинтеллекта. Однажды, считают они, мы достигнем «технологической сингулярности [18] Сингулярность – то, что происходит лишь один раз. Это точка, к которой стремились события, пока каким-либо образом не разрешились. В точках сингулярности математические функции резко меняют свое поведение: устремляются в бесконечность, переламываются, внезапно обращаются в ноль. » – когда рост подобных ИИ станет неуправляемым, что приведет к потенциальной катастрофе для человечества.

Я установил дату сингулярности, когда произойдет глубокая и разрушительная трансформация человеческих возможностей, – 2045 год. Созданный в этот год небиологический интеллект окажется в миллиард раз мощнее, чем весь человеческий интеллект сегодня.

За развитием подобных сюжетов интересно наблюдать в научно-фантастических фильмах и книгах, но в реальном мире их следует воспринимать как ложку дегтя. Развитие технологии ИИ выиграло от увеличения вычислительной мощности и доступности бóльших наборов данных для тренировки алгоритмов машинного обучения. Но успехи в области ИИ всегда связаны с улучшением алгоритмов, а не с частотой процессора. (И ночи ИИ обусловлены разочарованиями – тем, что алгоритмы не оправдали надежды.) Каждый алгоритм предоставляет захватывающие новые возможности, но ни один из них не решит всех проблем. Новые проблемы требуют новых алгоритмов для их решения (так же, как различные задачи, которые мы выполняем, задействуют разные области нашего мозга), а темпы инноваций ограничены нашими способностями и нашим уровнем понимания природы интеллекта.

Было бы замечательно, если бы мы могли пойти коротким путем и позволили бы компьютерам разрабатывать самих себя. Однако, несмотря на такие методы, как генетическое программирование, мы отчаянно стараемся заставить компьютеры разрабатывать более совершенные алгоритмы. Сегодня тысячи ученых используют самые современные компьютеры в попытках создать ИИ. Если мы изо всех сил пытаемся создать разум, почему же наши значительно менее умные ИИ будут лучше нас?

Нам не помогает даже экспоненциальный рост. Более того, он оборачивается не в нашу пользу. Каждый раз, когда мы пытаемся сделать ИИ чуть-чуть умнее, мы экспоненциально увеличиваем его возможности. Это дает экспоненциально больше шансов на провал, поэтому мы должны существенно умножить количество тестов и экспериментов, чтобы убедиться в правильности конструкций. В конечном счете данные, полученные в результате исследований ИИ, показывают, что бóльшие возможности означают более медленное развитие. Из физики мы знаем, что для достижения прогресса требуется все больше и больше энергии, как и при достижении скорости, более близкой к скорости света. Нечто подобное, похоже, происходит при создании интеллекта: становится все труднее увеличивать его возможности. Пожалуй, не случайно, что на планете Земля очень мало существ со столь же сложным мозгом, как наш, и что для их создания потребовалось 3,5 миллиарда лет эволюционных экспериментов.