Джефф Хоуи - Сдвиг. Как выжить в стремительном будущем

События так называемого уровня вымирания не столь невероятны, как может показаться, — ведь мы и прежде стояли на грани их возникновения. Извержение вулкана, случившееся 70 тысяч лет назад, чуть было не сократило население планеты до размеров маленького городка. И все же мы придерживаемся менее пессимистичных взглядов: мы не более способны понять, какое применение в итоге найдут все наши новые технологии, чем зрители «живых картинок» 1896 года были способны предсказать появление «Гражданина Кейна» [381]. Но цель данной книги совсем не в том, чтобы напугать вас мрачными видениями будущего. С тем же успехом можно развлекаться прогнозами жизни на планете Кеплер-62е [382].

Поскольку термин «искусственный интеллект» используется как ярлык, который навешивается на все на свете, от Siri [383]до автомобилей Tesla, мы определяем этот вид решающего искусственного интеллекта как «узкий» или «специализированный», чтобы провести различие с общим искусственным интеллектом (ОИИ). Эксперт в области искусственного интеллекта Бен Герцель предполагает, что ОИИ станет машиной такого уровня, которая сможет подать заявление в колледж, будет туда принята и с успехом получит ученую степень.

Между специализированным и общим искусственным интеллектом существует множество различий, однако ни тот ни другой не программируются — они либо поддаются «тренировке», либо «учатся». Специализированные интеллекты старательно тренируются инженерами, которые настраивают данные и алгоритмы и тестируют их, пока искусственные интеллекты не начинают делать особые вещи, которые от них требуются. Такие интеллекты не обладают творческим началом — вместо этого их жестко контролируют, а области их применения весьма узки.

Уже удалось добиться значительного прогресса в машинном обучении и других областях, которые по-прежнему стоят между нами и ОИИ, и AlphaGo воплотила в себе некоторые из них. Она, похоже, способна на креативность; она умеет из статистической системы выводить некую символическую логику. Трудно переоценить значимость достигнутого — ведь многие не верили, что можно от глубинного обучения перейти к принятию решений путем манипулирования символами.

Но хотя AlphaGo — очень толковое и креативное создание, она может победить вас только в го — никак не в шашки. Весь универсум ее выражений и видений ограничивается доской 19 на 19 и черными с белыми камешками. Понадобится совершить немало технологических прорывов, прежде чем AlphaGo станет интересно посещать ночные клубы или управлять офисом. На самом деле мы, возможно, никогда не получим машины, которая все это будет делать. Но при этом пройдет, может, не так много времени, прежде чем нечто наподобие AlphaGo сумеет принимать решения об условно-досрочном освобождении из мест заключения, устанавливать сумму залога, водить аэропланы или учить наших детей.

По мере прогресса искусственного интеллекта машины вполне могут интегрироваться с нашими телами, домами или средствами передвижения, рынками и судебными системами, творческими предприятиями и политикой. Мы, люди как общество, уже намного разумнее, чем как отдельные его представители. Мы часть коллективного разума. Продолжая интегрироваться с нашими сетями и нашим обществом, машины становятся «расширениями» нашего разума, творя вместе с нами единый расширенный интеллект.

Кое-кто из сингулярщиков (нет, честно, худшее из названий любого культа всех времен и народов!) считает, что еще немного — и искусственный интеллект окажется вполне способен оставить без работы множество людей. Может, это и так, особенно если смотреть на вещи в краткосрочной перспективе. Другие, однако, возражают, что рост производительности позволит обеспечить людям, которых вытеснили машины, постоянный базовый доход. В то же время многих беспокоит другая сторона проблемы: работа дает нам чувство собственного достоинства, социальный статус и стабильность, а значит, нужно уделять больше внимания тому, как мы будем себя развлекать и что станет предметом нашего самовыражения (возможно, это будут научные или творческие проекты), чем простому обеспечению средств к существованию.

Также следует задаться вопросом о том, как люди и машины сумеют работать вместе и как обеспечить, чтобы искусственные разумы, живущие с нами бок о бок, разделяли наши ценности и наши морально-этические принципы даже по мере их эволюционирования. Существует один многообещающий подход, который Ияд Рахван, руководитель группы «Масштабируемое сотрудничество» в Media Lab, именует машинным обучением, — «общество в контуре управления». Этот подход предусматривает использование социальных норм в тренировке и контроле искусственного интеллекта, при этом формируется система коэволюции людей и машин [384].