Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

С тех пор как в возрасте четырнадцати лет я узнал о гонке ядерных вооружений, меня тревожило, что мощь наших технологий растет быстрее, чем мудрость, с которой мы управляем ими. Поэтому я решил вставить главу об этой проблеме в мою первую книгу Our Mathematical Universe , несмотря на то, что в основном она была о физике. К началу 2014 года я дал новогоднее обещание, что больше не стану жаловаться ни на что, не подумав сначала самым серьезном образом над тем, как лично я могу что-то сделать ради исправления ситуации, и я держал свое обещание, пока ездил, представляя книгу, на протяжении всего января: мы с Мейей провели в это время не один мозговой штурм, решая, как нам создать некоммерческую организацию, служащую для всемерного улучшения будущего жизни путем адекватного управления технологической средой.

Мейя настаивала на том, что мы должны дать этой организации какое-то оптимистическое название, как можно больше отличающееся от чего-нибудь вроде “Институт кошмара и ужаса” или “Давайте побеспокоимся о будущем”. Так как название “Институт будущего человечества” было уже занято, мы сошлись на “Институте будущего жизни” (Future of Life Institute, FLI), у которого было дополнительное преимущество, заключающееся в возможности расширительных толкований. 22 января мы должны были проводить презентацию книги в Санта-Крузе, и во время ужина с нашим старым другом Энтони Агирре, глядя, как калифорнийское солнце опускается в Тихий океан, мы уговорили его объединить наши силы. Он не только один из умнейших людей, кого я знаю, и всегда полон идей, но у него уже есть опыт ведения дел одной из некоммерческих организаций, Института основополагающих вопросов (Foundational Questions Institute, http://fqxi.org), созданного нами более десятилетия назад.

На следующей неделе тот же тур привел меня в Лондон. Поскольку будущее искусственного интеллекта владело моим сознанием, я связался с Демисом Хассабисом, который любезно пригласил меня посетить штаб-квартиру DeepMind. Я был потрясен, увидев, насколько они выросли с того времени, как посещали меня в MIT двумя годами раньше. Google только что купил их за 650 миллионов долларов, и, оценивая впечатляющий интеллектуальный пейзаж их офиса, наполненного самыми блестящими умами, которые устремились к дерзкой цели Хассабиса “разрешить задачу разума”, я преисполнился висцеральным предчувствием реально возможного успеха.

Следующим вечером я говорил со своим другом Яаном Таллином по Skype, созданному при его участии. Я объяснял ему задачи FLI, а час спустя он решил дать нам шанс, вкладывая в наш фонд по 100 000 долларов ежегодно! Ничто не трогает меня больше, чем доверие, оказываемое мне в пределах, которых я, как мне кажется, не заслужил. И мне было особенно приятно, когда год спустя, на конференции в Пуэрто-Рико, о которой шла речь в главе 1, он пошутил, что никогда еще не делал таких удачных инвестиций.

Следующий день мой издатель оставил свободным, и я решил посвятить его посещению Лондонского музея науки. Будучи так долго одержим идеей прошлого и будущего разума, я вдруг оказался посреди физических иллюстраций своих мыслей. Они собрали фантастическую коллекцию, свидетельствующую о росте нашего знания, от паровоза “Ракета” Роберта Стефенсона до автомобиля Форд-Т, копии в натуральную величину лунного посадочного модуля Аполлона‐11 и компьютеров – от разностной машины Чарльза Бэббиджа до современных моделей. Здесь были представлены также эксперименты, посвященные выяснению природы разума: и реплика опыта Гальвани с лягушачьими лапками, и электроэнцефалограф, и оборудование для функциональной магнитно-резонансной томографии.

Рис. 9.1

Наша конференция в Асиломаре стала сиквелом пуэрто-риканской. Она проходила в январе 2017 года и собрала вместе многих исследователей искусственного интеллекта и представителей других, смежных с этой, исследовательских областей. В верхнем ряду стоят слева направо: Патрик Лин, Дэниел Вельд, Эриел Конн, Нэнси Чан, Том Митчел, Рэй Курцвейл, Дэниел Дьюи, Маргарет Боден, Питер Норвиг, Ник Хэй, Моше Варди, Скотт Зискинд, Ник Бострём, Франческа Росси, Шейн Легг, Мануэла Велозо, Дэвид Марбл, Катья Грейс, Ираклий Беридзе, Марти Тененбаум, Жиль Пратт, Мартин Рис, Джошуа Грин, Мэтт Шэрер, Энджела Кейн, Амара Анхелика, Джефф Мор, Мустафа Сулейман, Стив Омохундро, Кейт Кроуфорд, Виталик Бутерин, Ютака Мацуо, Стефано Эрмон, Майкл Веллман, Бас Стойнебринк, Вендель Валлах, Аллен Дафо, Тоби Орд, Томас Диттерих, Дэниел Канеман, Дарио Амодей, Эрик Дрекслер, Томазо Поджо, Эрик Шмидт, Педро Ортега, Дэвил Лик, Шон О’х Эйгертейг, Оувейн Эванс, Яан Таллин, Анка Драган, Шон Легассик, Тоби Уолш, Питер Асаро, Кей Фирт-Баттерфилд, Филип Сабеш, Пол Меройа, Барт Зельман, Такер Дэви,? Джейкоб Стейнхардт, Моше Лукс, Джош Тененбаум, Том Грубер, Эндрю Ын, Карэм Аюб, Крейг Кэлхун, Перси Лян, Хелен Тонер, Дэвид Чалмерс, Ричард Саттон, Клаудиа Пассос-Феррейра, Янош Крамар, Уильям Макаскил, Элиезер Юдковски, Брайан Цибарт, Хью Прайс, Карл Шульман, Нил Лоренс, Ричард Маллах, Юрген Шмидхубер, Дилип Джордж, Джонатан Ротберг, Ноа Ротберг; В переднем ряду: Энтони Агирре, Соня Закс, Лукас Перри, Джеффри Закс, Винцент Коницер, Стив Гуз, Виктория Краковна, Оуэн Коттон-Барратт, Даниела Рус, Дилан Хадфилд-Менель, Верити Хардинг, Шивон Зилис, Лоран Орсо, Рамана Кумар, Нейт Соареш, Эндрю Макафи, Джек Кларк, Анна Саламон, Лун Оуян, Эндрю Крич, Пол Кристиано, Иошуа Бенджо, Дэвид Сэнфорд, Катрин Олссон, Джессика Тэйлор, Мартина Кунц, Кристинн Ториссон, Стюарт Армстронг, Янн Лекюн, Александр Тамас, Роман Ямпольский, Марин Солачич, Лоуренс Краусс, Стюарт Рассел, Эрик Бриньоулфссон, Райан Кало, Сяолань Сюэ, Мейя Чита-Тегмарк, Кент Уокер, Хизер Рофф, Мередит Уиттейкер, Макс Тегмарк, Адриан Веллер, Хосе Эрнандес-Оральо, Эндрю Майнард, Джон Херинг, Абрам Демски, Николас Берггруен, Грегори Боннет, Сэм Харрис, Тим Хван, Эндрю Снайдер-Бити, Марта Халина, Себастьян Фаркар, Стивен Кейв, Ян Лейке, Таша Мак-Коли, Джозеф Гордон-Левитт.