Мартин Форд - Роботы наступают

Если поборники сингулярности, как правило, неизменно придерживаются оптимистического взгляда, веря в светлое будущее искусственного интеллекта, остальные куда более осторожны. Многие эксперты, немало размышлявшие о последствиях появления развитого искусственного интеллекта, идею о том, что совершенно чуждый человеку сверхинтеллект обязательно направит всю свою энергию на благо человечества, воспринимают как проявление безнадежной наивности. Некоторые члены научного сообщества настолько обеспокоены этой проблемой, что даже основали ряд небольших организаций специально для изучения угроз, связанных с развитым машинным интеллектом, и проведения исследований, направленных на поиск возможностей встраивания «дружественности» в будущие системы искусственного интеллекта.

В своей книге «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo Sapiens» [65](Our Final Invention: Artificial Intelligence and the End of the Human Era), вышедшей в свет в 2013 г., Джеймс Баррат описывает то, что он называет «сценарием активного ребенка» {311}. В некоем секретном месте — возможно, финансируемой правительством исследовательской лаборатории, фирме с Уолл-стрит или крупной корпорации из отрасли информационных технологий — группа специалистов по компьютерным вычислениям наблюдает за тем, как новая форма машинного интеллекта сначала приближается к возможностям человеческого мозга, а затем превосходит их. Предварительно, на этапе «детства», ученые загружают в систему искусственного интеллекта огромные объемы информации, включая практически все книги, которые были когда-либо написаны, а также все содержимое Интернета. Однако по мере приближения системы к уровню человеческого интеллекта исследователи отключают стремительно совершенствующийся искусственный интеллект от внешнего мира. По сути дела, он начинает существовать в условиях полной изоляции. Возникает вопрос: готов ли он к этому? Ведь однажды искусственный интеллект может захотеть убежать из заточения и расширить свои горизонты. Для достижения этой цели он может использовать свои сверхспособности, чтобы обмануть ученых, притупить бдительность всей группы или отдельных ее членов обещаниями или запугать их угрозами. При этом машина будет не просто умнее людей — она будет генерировать и оценивать идеи и возможные варианты с непостижимой скоростью. Это как играть в шахматы против Гарри Каспарова, да еще и по не совсем выгодным для вас правилам: вам на ход отводится всего пятнадцать секунд, а Каспарову — целый час. По мнению тех ученых, которых беспокоит возможность развития событий по сценарию такого рода, риск того, что искусственный интеллект может каким-либо образом ускользнуть из заточения, получить доступ к Интернету и, возможно, скопировать себя полностью или частично на другие компьютеры, является неприемлемо высоким. Если искусственный интеллект вырвется на волю, это очевидным образом создаст реальную угрозу для бесчисленного количества жизненно важных систем, включая финансовую систему, сети управления вооруженными силами, электрические сети и другие виды энергетической инфраструктуры.

Проблема, разумеется, в том, что все это уж слишком сильно напоминает сценарии научно-фантастических фильмов и романов. Сама мысль о том, что такое возможно, настолько прочно ассоциируется с чем-то фантастическим, что любая попытка серьезного обсуждения тонет в море насмешек. Нетрудно представить, какой шквал сарказма и иронии придется пережить любому крупному общественному или политическому деятелю, который решится озвучить соответствующие опасения.

Впрочем, если оставить в стороне общественное мнение, совершенно очевидно, что интерес к искусственному интеллекту во всех его проявлениях со стороны военных, разведывательных служб и крупных корпораций будет только расти. При этом тот, кто первым совершит качественный скачок в развитии искусственного интеллекта, безусловно, получит колоссальное преимущество. Другими словами, кто бы ни добрался до финишной линии первым, будет недостижим для остальных. Это одна из главных причин страха перед перспективой начала самой настоящей гонки вооружений в области искусственного интеллекта. Кроме того, если судить по величине преимущества, которое получит первопроходец, становится понятно, что новоиспеченный искусственный интеллект будет сразу же помещен в условия, которые будут направлять его по пути самосовершенствования — если не самой системой, то создавшими ее людьми. В этом смысле бурное развитие искусственного интеллекта может вполне оказаться результатом того, что называют «самосбывающимся пророчеством». Учитывая это, думаю, было бы разумным применить в анализе угрозы появления развитого искусственного интеллекта что-нибудь вроде знаменитой «доктрины 1 %» Дика Чейни: вероятность его появления, по крайней мере в обозримом будущем, весьма низка, но последствия могут быть настолько серьезными, что он заслуживает самого пристального внимания.