Мартин Форд - Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

М. Ф.: Но она часто используется в системах распознавания речи и на различных устройствах.

Дж. П.: Мне доводилось слышать, что байесовские сети используются во всех сотовых телефонах для подавления помех при передаче, как и алгоритм распространения доверия. Именно так мы назвали алгоритм передачи сообщений. Якобы они есть в Siri, но проверить это невозможно, так как Apple держит свои разработки в секрете.

Байесовский вывод – один из основных компонентов машинного обучения, но постепенно произошел переход от байесовских сетей к менее прозрачному глубокому обучению. Система теперь самостоятельно регулирует параметры, а мы понятия не имеем, что за функция соединяет вход и выход. Работая с байесовскими сетями, мы не до конца осознавали важность модульности. При моделировании диагностической системы туда закладывается причинно-следственная связь между симптомами и заболеваниями. Но при этом возникает вопрос: как выглядит тот ингредиент, который мы называем «причинно-следственными связями»? Где он находится и как мы его обрабатываем?

М. Ф.: Байесовские сети стали популярными в computer science благодаря вашей книге. Но вы еще до ее выхода хотели перейти к причинному анализу?

Дж. П.: Именно причинно-следственные связи привели меня к интуитивному озарению, которое породило байесовские сети. Теоретически можно обойтись без причинно-следственной связи. Все функции байесовской сети можно описать, используя чисто вероятностную терминологию. Но на практике оказалось, что структурирование сети с учетом причинности все сильно упрощает. Хотя мы и не понимали почему.

Теперь известно, что нужны были такие функциональные характеристики, как модульность, возможность перестройки структуры, переноса и многое другое. Все эти вещи обеспечиваются именно причинностью. Но при более детальном рассмотрении оказалось, что фраза «корреляция не подразумевает причинности» намного глубже, чем мы думали. Чтобы получить причинно-обусловленные выводы, нужны причинно-обусловленные предположения, которые невозможно взять из данных и вообще непонятно, как их выразить.

У нас не было языка, на котором можно было бы передавать простые вещи типа «грязь не вызывает дождя» или «петух не причина восхода солнца». Это нельзя записать математически, а значит, невозможно объединить с данными.

Словом, требовался новый язык. Для меня это стало шоком, потому что я вырос на статистике и считал, что эта наука позволяет все – индукцию, дедукцию, абдукцию и обновление модели. И внезапно оказалось, что язык статистики не может нам помочь. В computer science принято создавать языки под конкретные потребности. Но какой язык был нужен в нашем случае? Статистика использует язык средних значений, проверки гипотез, обобщения данных и визуализации их с разных точек зрения. И к этому всему нужно было добавить язык причин и следствий.

М. Ф.: И вы изобрели технический язык или диаграммы для описания причинно-следственной связи?

Дж. П.: Это не мое изобретение. Генетик Сьюалл Райт в 1920 г. первым проиллюстрировал причинно-следственные связи с помощью стрелок и узлов и доказал, что такую информацию статистики не смогут получить из регрессии, ассоциации или корреляции.

Я преобразовал эти иллюстрации в средство кодирования научных знаний, позволяющее программировать машины на выяснение причинно-следственных связей в различных областях: от медицины и образования до причин глобального потепления – то есть в таких, где важны причины явлений, их механизмы и контроль.

Этим я занимался последние 30 лет. В 2000 г. вышла моя книга «Причинность: модели, рассуждения и вывод», а в 2009 г. – ее второе издание. В 2015 г. в соавторстве с Даной Маккензи я написал книгу The Book of Why («Книга о вопросе “Почему”»), в которой принцип причинности объяснялся широкой аудитории. В ней я рассматриваю историю с точки зрения причинности, рассказывая о том, какие концептуальные открытия изменили наше мышление.

М. Ф.: На мой взгляд, причинно-следственные модели стали важны в социальных и естественных науках именно благодаря вашей книге. Недавно я читал статью, в которой эти модели применялись в квантовой механике.

Дж. П.: Я тоже ее читал и собираюсь перечитать, потому что не понял явления, которые там описывались.

М. Ф.: Из «Книги о вопросе “Почему”» я понял, что естествоиспытатели и социологи действительно начали руководствоваться принципом причинности, а область ИИ в этом отношении отстает. Вы считаете, что для развития этой области нужно сосредоточиться на причинно-следственных связях?