Стюарт Рассел - Совместимость. Как контролировать искусственный интеллект

В общем, трудно сказать, упущено ли еще что-нибудь принципиально важное в плане создания систем, эффективных в решении этих задач. Разумеется, единственная возможность убедиться в этом — создать их (когда будут совершены прорывы) и посмотреть, что из этого выйдет.

При обсуждении природы и эффектов сверхинтеллектуального ИИ техническому сообществу отказывает воображение. Часто мы наблюдаем дискуссии вокруг снижения количества медицинских ошибок [130] Мнение о прогрессе в разработке ИИ в ближайшие несколько лет: Peter Stone et al., «Artificial intelligence and life in 2030 », One Hundred Year Study on Artificial Intelligence , report of the 2015 Study Panel, 2016. , уровня опасности автомобилей [131] Подпитываемый СМИ спор Илона Маска и Марка Цукерберга: Peter Holley, «Billionaire burn: Musk says Zuckerberg’s understanding of AI threat ‘is limited,’» The Washington Post , July 25, 2017. или других небольших продвижений. Роботы мыслятся как индивидуальные существа, которые имеют свой собственный мозг, тогда как на самом деле они, скорее всего, будут беспроводным способом соединены в единую глобальную структуру, использующую огромные вычислительные ресурсы стационарного оборудования. Кажется, исследователи боятся рассматривать реальные последствия успеха в создании ИИ.

Универсальная интеллектуальная система, предположительно, может делать то же, что и человек. Например, некоторые люди проделали большую работу в математике, разработке алгоритмов, программировании и эмпирических исследованиях, чтобы создать современные поисковые системы. Результаты этой работы очень полезны и, разумеется, очень ценны. Насколько ценны? Недавнее исследование показало, что средний взрослый американец из числа опрошенных должен был бы получать минимум $17 500 за то, чтобы на год отказаться использовать поисковые системы [132] О ценности поисковых машин для отдельных пользователей: Erik Brynjolfsson, Felix Eggers, and Avinash Gannamaneni, «Using massive online choice experiments to measure changes in well-being», working paper no. 24514, National Bureau of Economic Research, 2018. , что в сумме составляет десятки триллионов долларов.

Представим теперь, что поисковых систем все еще не существует, потому что необходимые работы пока не выполнены, но вместо этого вы имеете доступ к сверхинтеллектуальной ИИ-системе. Вы задаете вопросы и имеете доступ к технологии поисковой системы благодаря системе ИИ. Готово! Ценность в триллионы долларов просто в ответ на вопрос, и ни единой строчки кода, написанной вами. То же самое относится ко всем не созданным изобретениям или сериям изобретений: если это могли бы сделать люди, значит, могут и машины.

Этот последний момент дает ценную информацию о нижней границе — пессимистической оценке — способностей интеллектуальной машины. Предположительно, машина обладает большими возможностями, чем отдельный человек. Очень многое в мире не может отдельно взятый, но может группа из n человек: отправить астронавта на Луну, создать детектор гравитационных волн, секвенировать геном человека, управлять страной с сотнями миллионов жителей. Грубо говоря, мы создаем n программных копий машины и соединяем их так же — с теми же информационными и управляющими потоками, — как и n человек. Теперь у нас есть машина, способная делать все, что могут n человек, только лучше, поскольку каждый из ее n компонентов обладает сверхчеловеческими возможностями.

Концепция интеллектуальной системы на основе многоагентной кооперации — лишь нижняя граница вероятных возможностей машины, потому что есть другие концепции, более эффективные. В группе из n человек общая доступная информация хранится отдельными частями в n мозгах и передается между ними очень медленно и несовершенно. Поэтому n человек тратят много времени на собрания. У машины нет необходимости в этом разделении, которое часто мешает составить полную картину. Красноречивым примером отсутствия надлежащей структуры в сфере научных открытий является долгая история пенициллина [133] Пенициллин был открыт несколько раз, и его фармакологические свойства описывались в медицинских изданиях, но никто, судя по всему, не обращал на них внимания. См.: en.wikipedia.org/wikiHistory_of_penicillin . .

Другой полезный метод расширения возможностей своего воображения — подумать об одном из источников сенсорных входных данных, скажем, чтении, и отмасштабировать его. Если человек может читать одну книгу в неделю, машина могла бы прочитать и понять все когда-либо написанные книги — все 150 млн — за несколько часов. Это требует соответствующей вычислительной мощности, но книги можно было бы читать, по большей части, параллельно, то есть простое добавление чипов позволяет машине масштабировать свой процесс чтения. Аналогично машина может видеть все одновременно через спутники, роботов и сотни миллионов камер видеонаблюдения, смотреть все телевизионные трансляции мира и слушать все мировые радиостанции и телефонные разговоры. Очень быстро она получила бы намного более подробное и точное понимание мира и его обитателей, чем любой человек в принципе может надеяться приобрести.