Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Во-вторых, эти эксперименты должны обнаруживать новые упрощающие структуры, которые можно использовать для того, чтобы обойти нераскрываемость рассуждения вычислительными средствами. Практически все интересные логические задачи (такие как нахождение оптимальной стратегии в игре, оптимизация на основании комплексных ограничений, доказательство математических теорем, построение предположений о структуре молекул) имеют класс NP. В рамках сегодняшнего нашего понимания вычислительной сложности это означает, что цена решения одного случая для определенной задачи экспоненциально возрастает с увеличением размерности этого случая. Прогресс в области разработки алгоритмов обычно требует отыскания определенной упрощающей структуры, которую можно использовать для того, чтобы обойти эту экспоненту. Взрыва интеллекта не случится, если не будет открыто множество таких структур (или пока не выяснится, что нынешнее наше понимание вычислительной сложности неверно).

В третьих, система должна быть способна проектировать и реализовывать новые вычислительные механизмы и новые алгоритмы. Те и другие будут эксплуатировать научные открытия, сделанные в ходе первого шага. В действительности можно сказать, что этот шаг, по существу, аналогичен первым двум, но сосредоточен на вычислении. Автономное проектирование и производство вычислительной аппаратуры вполне осуществимо в случае основанных на кремнии технологий, а новые разработки в области синтетической биологии, комбинаторной химии и 3D-печати в ближайшем будущем их еще больше упростят. Автоматическая разработка алгоритмов демонстрировалась уже много раз, так что это тоже осуществимо.

В-четвертых, система должна быть в состоянии предоставлять автономию и ресурсы новым вычислительным механизмам, чтобы они, в свою очередь, могли проводить эксперименты, открывать новые структуры, разрабатывать новые вычислительные методы и производить еще более мощное «потомство». Насколько мне известно, пока ни одна система такого не достигла.

Первые три шага не представляют опасности в плане возникновения «интеллектуальной цепной реакции». Опасен четвертый шаг — воспроизводство и автономия. Конечно, практически все потомство будет неудачным, точно так же практически все новые устройства и программные средства с первого раза не заработают. Но при достаточном числе циклов — или, что то же самое, при достаточном воспроизводстве с изменчивостью — взрыв интеллекта нельзя исключить.

Как его предотвратить? Мы можем надеяться, что второй шаг окажется неудачным — что мы уже нашли все структурные упрощения для повышения эффективности алгоритмов, а оставшиеся не будут иметь существенного значения. Но мало кто из инженеров-электротехников или программистов готов заявить, что исследования в их областях себя исчерпали.

Третий шаг дает своеобразную контрольную точку. Практически нет систем ИИ, которые применялись бы для разработки новых вычислительных устройств и алгоритмов. Напротив, эти системы применяются к таким задачам, как логистика, планирование, управление роботами, медицинская диагностика, распознавание лиц и т. д. Здесь нет риска цепной реакции. Мы могли бы продумать меры регулирования исследований для третьего шага. Нечто подобное уже предлагалось для синтетической биологии. Но пока никакие правила не утверждены, кроме того, будет сложно контролировать их исполнение.

Я думаю, нам нужно сосредоточиться на четвертом шаге. Мы будем должны ограничить ресурсы, которые автоматическая система проектирования и производства может предоставить созданным ею устройствам. Некоторые утверждают, что это сделать сложно, потому что «хитрая» система убедит людей дать ей больше ресурсов. Из таких сценариев получается отличная научная фантастика, но на практике ограничить объем ресурсов, доступных для использования системой, довольно просто. Инженеры делают это каждый день, когда тестируют новые устройства и алгоритмы.

У шагов с первого по третий есть потенциал для существенного развития научного знания и вычислительно-мыслительных возможностей, что принесет человечеству огромную пользу. Но важно, чтобы мы, люди, поняли, в чем состоят эти знания и возможности, прежде чем выделять на них значительные объемы ресурсов. Нельзя предоставлять автономию системам, которых мы не понимаем и которые не можем контролировать.