Стюарт Рассел - Совместимость. Как контролировать искусственный интеллект

Развитие базовых способностей понимания речи и текста позволит интеллектуальным персональным помощникам делать то же самое, чем занимаются ассистенты-люди (но за грошовую месячную плату вместо зарплаты в несколько тысяч долларов). Базовое распознавание речи и текста также позволяет машинам делать то, на что люди не способны, — благодаря не глубине понимания, а его охвату . Например, машина с базовой способностью чтения сможет еще до обеда прочитать все когда-либо написанное человеческой расой и станет искать, чем бы еще заняться [104] Я исхожу из щедрого расчета: одна минута работы ЦП ноутбука на страницу, или около 10 11 операций. Тензорный процессор третьего поколения разработки Google выполняет около 10 17 операций в секунду, следовательно, может читать 1 млн страниц в секунду, то есть на 8 млн книг ему требуется примерно пять часов. . При наличии способности распознавания речи она к вечернему чаю сможет прослушать все радио и телепередачи. Для сравнения: потребовалось бы 200 000 человек на полную рабочую неделю, только чтобы следить за нынешним уровнем мировых печатных публикаций (не говоря уже обо всем письменном наследии прошлого), и еще 60 000, чтобы слушать текущее вещание [105] Исследование объема всемирного производства информации во всех каналах за 2003 г.: Peter Lyman and Hal Varian, «How much information?» sims.berkeley.edu/research/projects/how-much-info-2003 . .

Такая система, если бы она умела делать хотя бы простые фактические выводы и интегрировать всю информацию, существующую на всех языках, являлась бы феноменальным устройством для ответов на вопросы и выявления закономерностей — намного более мощным, чем поисковые системы, которые в настоящее время оцениваются примерно в $1 трлн. Ее ценность для исследования в таких областях, как история и социология, была бы безмерна.

Конечно, стало бы также возможным прослушивать все телефонные звонки в мире (работа, которая потребовала бы около 20 млн человек). Определенные тайные ведомства сочли бы эту возможность ценной. Некоторые из них уже много лет занимаются простыми видами крупномасштабного машинного прослушивания, например поиском ключевых слов в разговорах, и сейчас совершают переход к преобразованию разговоров в пригодный для поиска текст [106] Подробности использования распознавания речи интеллектуальными агентами: Dan Froomkin, «How the NSA converts spoken words into searchable text», The Intercept , May 5, 2015. . Эти записи-расшифровки, безусловно, полезны, но далеко не так, как одновременное понимание и интеграция контента всех разговоров.

Еще одна «сверхвозможность», доступная машинам, — умение видеть весь мир одновременно . Грубо говоря, спутники каждый день отображают весь мир со средним разрешением около 50 см на пиксель [107] Анализ спутниковых визуальных изображений представляет собой задачу колоссального масштаба: Mike Kim, «Mapping poverty from space with the World Bank», Medium.com, January 4, 2017. По оценке Кима, 8 млн человек пришлось бы работать круглосуточно, что преобразуется в более чем 30 млн человек при 40-часовой рабочей неделе. Я думаю, в действительности это завышенная оценка, поскольку огромное большинство изображений демонстрировали бы пренебрежимо малые изменения в течение дня. В то же время разведывательное сообщество США держит десятки тысяч сотрудников, работающих в огромных помещениях и рассматривающих спутниковые снимки, только для отслеживания того, что происходит в маленьких регионах, представляющих интерес. Так что 1 млн человек в расчете на весь мир, пожалуй, похоже на правду. . При таком разрешении каждый дом, корабль, автомобиль, каждая корова и каждое дерево на Земле видимы. Намного больше 30 млн работников с полной занятостью потребовалось бы, чтобы проанализировать все эти изображения; поэтому в настоящее время никто из людей не видит основной массы спутниковых данных. Алгоритмы компьютерного видения могли бы обрабатывать все эти данные, создавая пригодную для поиска базу данных обо всем мире, ежедневно обновляемую, а также визуализации и прогностические модели экономической деятельности, изменения вегетации, миграций животных и людей, последствий изменения климата и т. д. Спутниковые компании, такие как Planet и DigitalGlobe, трудятся над воплощением этой идеи.

Появление возможности получать сенсорную информацию во всемирном масштабе позволит принимать глобальные решения. К примеру, мы могли бы на основе потока спутниковых данных создавать подробные модели для управления мировой окружающей средой, предсказывать последствия экологических и экономических вмешательств и создавать необходимый аналитический задел для достижения объявленных ООН целей устойчивого развития [108] Достигнут существенный прогресс в глобальном наблюдении с использованием данных спутниковых изображений в реальном времени: David Jensen and Jillian Campbell, «Digital earth: Building, financing and governing a digital ecosystem for planetary data», официальный доклад на форуме ООН «Наука, политика, бизнес и окружающая среда» 2018 г. . Мы уже видим системы управления «умным городом», призванные оптимизировать контроль за дорожным движением, пассажироперевозки, сбор мусора, ремонт дорог, поддержание окружающей среды и другие функции в интересах граждан, и это можно было бы распространить в масштабах всей страны. До недавнего времени такая степень координации могла быть достигнута лишь усилиями громадных, неэффективных бюрократических систем; они будут неизбежно заменены мегаагентами, занимающимися все большим числом аспектов нашей коллективной жизни. Вместе с этим, разумеется, появятся и возможности нарушения конфиденциальности и внедрения социального контроля во всемирном масштабе, к чему я вернусь в следующей главе.