Джошуа Купер Рамо - Седьмое чувство. Под знаком предсказуемости - как прогнозировать и управлять изменениями в цифровую эпоху

Сообщить залу, полному вундеркиндов NASA, мечтающих о жизни на другой планете, что жизнь на Земле, возможно, в скором времени будет заменена жужжанием счетных машин, не являлось целью Винджа, или, по крайней мере, не единственной его целью. Скорее, он хотел показать, как может выглядеть мир не просто умных, а интуитивно мыслящих машин. Вернор Виндж полагал, что искусственный интеллект, которому не суждено утратить свое существование, способен производить своего рода мудрость, которая была бы непостижимой для человека. И эта мудрость, воплощенная в совершенство суждения, наделенного высокой скоростью и основанного на бесконечном массиве данных, в конечном счете и вполне обоснованно возьмет на себя большую часть человеческой деятельности. Существующий искусственный интеллект, сказал Виндж, будет, как минимум, использован для создания мира более скоростного искусственного интеллекта, который, в свою очередь, приведет к еще более высокоскоростному поколению. «Когда интеллект, более могущественный, чем человеческий, будет управлять прогрессом, – пояснил Виндж, – этот прогресс будет происходить гораздо более быстрыми темпами. Представляется, что нет никаких причин того, почему сам прогресс не вызовет создание еще более интеллектуальных сущностей в еще более короткие сроки».

Виндж напомнил своей аудитории ситуацию, однажды описанную британским математиком А.Д. Гудом, который в годы Второй мировой войны совместно с Аланом Тьюрингом в Блетчли-Парке взломал коды. «Давайте определим сверхинтеллектуальную машину как машину, которая может значительно превзойти все умственные возможности человека, каким бы образованным он ни был, – писал Гуд. – Поскольку конструкция машины является результатом одного из осуществленных интеллектуальных мероприятий, сверхинтеллектуальная машина будет способна сконструировать лучшие машины. Тогда, несомненно, произойдет «интеллектуальный взрыв» и интеллект человека останется далеко позади. Таким образом, первая сверхинтеллектуальная машина будет являться последним изобретением человека при условии, что машина достаточно послушна, чтобы сказать нам, как держать ее под контролем».

Виндж определил этот переходный момент как «сингулярность». «Это точка отсчета, – писал он, – начиная с которой модели, созданные человеком, должны быть отброшены». Тривиальной версией этого будет период создания автономных вооруженных беспилотных летательных аппаратов, самоуправляемых автомобилей, а также электросетей, в которых включение и выключение атомных станции будет происходить в соответствии с логикой, которая понятна только им. Более правдоподобной версией, однако, было бы появление искусственного интеллекта, который способен думать, создавать и интуитивно ощущать любые раздражители, слишком слабые для человеческого разума, чтобы их воспринять. В течение нашего периода глобальных коммуникаций такие машины уже должны появляться, – чувствовал Виндж, – потому что мы хотим и даже нуждаемся в них, чтобы достичь нашей мечты. Затем, как он предположил, машины возьмут верх. Переход от духовного подъема времен Моцарта к Сталинскому периоду не выглядел был бы столь важным изменением во времени, во всяком случае, в технологическом плане. Это воспринималось бы просто как поток бит. Определение Гуда могло быть трансформировано в нечто более категоричное: давайте сверхинтеллектуальную машину определим как коробку , которая затем исключит нас с вами.

То, что исходило из того незамысловатого «стихотворения» NASA: «Наши роботы предшествуют нам», было страхом: существующий искусственный интеллект был только наживкой. Мы жадно набрасываемся на него, надеясь, что он снимет человеческую боль, только для того, чтобы понять, что мы сами попались на крючок и в ближайшее время будем съеденными. Представляется весьма маловероятным допущение, что суперинтеллектуальное устройство всегда будет достаточно послушным нам, отвлечет нас от его тайных систем управления или выявит свои нарастающие проблемы, которые мы сможем без затруднений понять. Если честно, нам потребовалось бы достаточно много времени, чтобы разобраться в его системе управления, не говоря уже о том, чтобы добраться до них. Большая часть наших побуждающих мотивов позволят искусственному интеллекту эффективно вмешиваться в жизнь все большего и большего числа людей. Научить и поощрять его быть непокорным, а в некоторых ситуациях крайне непослушным, могло бы стать оружием нападения на наших врагов, наших политических оппонентов и, наконец, друг на друга. Для Винджа было достаточно легко предвидеть, чем это закончится. Это не было некой возможной хозяйской надеждой на помощь «декоративной собачки» – искусственного интеллекта. Это было устройство-ротвейлер с ярко выраженным интересом к «мясному» запаху власти, насилию и алчности.