Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Нас поразило не столько то, как высок был уровень всеобщего согласия относительно этих принципов, сколько сама их сила. Конечно, некоторые могут на первый взгляд показаться такими же спорными, как что-нибудь вроде “Мир, любовь и материнство – бесценны”. Но у многих из них есть настоящие зубы, которые можно заметить, например, если попытаться сформулировать отрицание. Например, утверждение “Сверхразум невозможен!” будет противоречить § 19, а “Проводить исследование, направленное на снижение экзистенциального риска от искусственного интеллекта, – только попусту тратить время!” будет противоречить § 21.

В самом деле, как вы можете самостоятельно убедиться, посмотрев на YouTube наши панельные дискуссии, посвященные долгосрочной перспективе {142} 142 Дискуссионная панель с Илоном Маском и другими великими умами, см.: http://tinyurl.com/asilomarAI , Илон Маск, Стюарт Рассел, Рэй Курцвейл, Демис Хассабис, Сэм Харрис, Ник Бострём, Дэвид Чалмерс, Барт Зельман и Яан Таллин – все согласились, что сверхразум, возможно, будет создан и исследования по безопасности важно проводить.

Я надеюсь, что наши Асиломарские принципы разработки искусственного интеллекта станут исходной точкой для более детальных дискуссий, которые в итоге приведут нас к созданию разумных стратегических и политических решений по отношению к искусственному интеллекту. В этом духе наш медиа-директор Эриел Конн работал с Такером Дави и другими членами нашей команды, проводя интервью среди ведущих исследователей по поводу их видения и интерпретаций создаваемых принципов, а Дэвид Стэнли и его команда международных волонтеров FLI переводили эти принципы на ключевые языки мира.

Как я объяснил в начале этого эпилога, сейчас я испытываю значительно больше оптимизма по отношению к будущему, чем раньше. Я сейчас расскажу почему.

Есть две разные причины, которые способствовали росту моего оптимизма на протяжении последних двух лет. Во-первых, я был свидетелем тому, как сообщество специалистов по искусственному интеллекту складывалось самым конструктивным образом и не боялось браться за решение будущих проблем, нередко привлекая для этого думающих людей из смежных исследовательских областей. После нашей конференции в Асиломаре Илон Маск говорил мне, что приятно удивлен тем, как тема безопасности с обочины исследований искусственного интеллекта переместилась в самый центр этой исследовательской области всего лишь за несколько лет, и это удивляет и меня самого. Сейчас она включает в себя не только краткосрочные задачи из главы 3, которые стало не стыдно обсуждать, но и вопросы, связанные со сверхразумом и экзистенциальными рисками, как мы видим по Асиломарским принципам. Эти принципы никоим образом не могли быть одобрены на конференции в Пуэрто-Рико двумя годами раньше, где самым страшным словом, просочившимся в итоговое открытое письмо, было слово “ловушки”.

Мне нравится наблюдать за людьми, и в какой-то момент, в последнее утро асиломарской конференции, я стоял в боковом проходе аудитории и наблюдал за дискуссией о правовых аспектах искусственного интеллекта. Вдруг, неожиданно для меня самого, в моей душе разлилось что-то теплое и мягкое, я ощутил себя внезапно взволнованным. Это было так непохоже на испытываемое мной в Пуэрто-Рико! Тогда, я помню, я смотрел на AI-сообщество со смесью страха и уважения – нет, не как на команду противника, но как на группу моих коллег, которых мне предстоит в чем-то переубедить. А теперь мне было совершенно очевидно, что мы – одна команда. И хотя, читая эту книгу, вы, наверное, уже поняли, что у меня нет готовых ответов на вопросы о том, как с помощью искусственного интеллекта создать нам всем великое будущее, я рад ощущать себя частью растущего сообщества, внутри которого эти ответы ищут сообща (рис. 9.4).

Вторая причина, по которой растет мой оптимизм, – в расширяющемся опыте нашего FLI. Слезы брызнули у меня из глаз в Лондоне от чувства неизбежности: наступает тревожное будущее, но мы ничего с этим поделать не можем. Прошло три года, и это чувство фатальной предопределенности рассеялось. Даже если небольшая компания разномастных волонтеров смогла развернуть в правильную сторону то, что называли самой важной темой нашего времени, подумайте только, что мы сможем сделать, взявшись все вместе!

Эрик Бриньоулфссон в своем асиломарском выступлении говорил о двух типах оптимизма. Первый – безусловный. Он включает в себя, например, положительную уверенность, что и завтра солнце тоже взойдет. Но кроме него, есть и такой, который он называет разумным оптимизмом – это уверенность, что хорошие вещи будут случаться, если ты хорошо все спланируешь и хорошо ради них потрудишься. Это тот самый тип оптимизма, который я испытываю в отношении будущего жизни.