Питер Макоуэн - Вычислительное мышление - Метод решения сложных задач

Когда мы предполагаем, что ИИ теоретически может завоевать мир, для этого есть более веские основания. Известный тест Тьюрингадля искусственного интеллекта был придуман, чтобы оценить конкретную способность — умение вести правдоподобную беседу. Предполагалось, что если нельзя увидеть разницу между собеседником-ИИ и человеком, то ИИ прошел тест и должен считаться таким же разумным, как человек.

Как же будет выглядеть тест Тьюринга, который обнаружит «способность» завоевать мир? Чтобы ответить на этот вопрос, нужно сравнить антисоциальные проявления ИИ с качествами потенциального властелина из числа людей. Завоевателям мира необходимо контролировать все важные сферы жизни — например, доступ к деньгам или возможность купить дом. ИИ делают это уже сейчас: например, решение о предоставлении кредита часто принимает ИИ, который просеивает горы информации, чтобы определить вашу платежеспособность. Кроме того, ИИ сейчас торгует на фондовом рынке.

Властелин мира будет отдавать приказы и ждать, чтобы их выполняли. Всякий, кто в беспомощности стоял у кассы самообслуживания, которая непрерывно требовала положить товар в пакет или убрать его оттуда, знает, что значит оказаться под властью ИИ.

Давайте сыграем в тематическое бинго, чтобы узнать, насколько ИИ приблизился к завоеванию мира. Для этого нужно сделать собственные карточки. Нарисуйте на каждой сетку, например 3 на 3, и в каждой клетке напишите качество, необходимое для мирового господства. Например, вспомните, как действует ваш любимый суперзлодей. Что предпримет новый властелин мира? Может быть, возьмет интернет под контроль? Лишит людей свободы передвижения? Или даже займется сбором налогов? Заполните карточку, указав по одному из злодейских действий в каждой клетке. Поменяйтесь с другом.

Правила просты. Продвигаясь против часовой стрелки, ищите в интернете примеры того, что роботы или системы искусственного интеллекта делают то, что указано у вас в карточке. Найдите как можно больше вариантов. Когда найдете пример, запишите, на каком веб-сайте он описан, и вычеркните его. Постарайтесь отыскать подтверждения для примеров, которые заполнят сетку по вертикали или по горизонтали, как в обычном бинго.

Первый, кто заполнит строку или столбик, кричит «Бинго!» (конечно же, голосом злого робота) и выигрывает. Но прежде чем закончить, проверьте, какие действия вычеркнуты и какие примеры, описанные на веб-страницах, им соответствуют. Если время ограничено, победит игрок, который вычеркнет максимум действий, но опять-таки убедитесь, что эти примеры реальны и что они соответствуют действиям суперзлодеев на карточках.

Играя в эту игру, вы получите более полное представление о том, на что действительно способны сегодняшние роботы и ИИ. А потом можно либо начинать беспокоиться, либо почувствовать себя в безопасности.

Ни один голливудский робот с манией величия не обходится без хоть какого-то желания убивать. У нас уже есть дроны, созданные для убийства. Военные роботы могут определять цель без вмешательства людей. Сейчас команду атаковать дает управляющий ими человек, но вполне можно утверждать, что у этого ИИ есть потенциал убивать по своей воле. Но чтобы это стало возможно, придется изменить программный код. Впрочем, автономные роботы-убийцы уже существуют, хотя убивают и не людей. Пока мы пишем эти строки, в район Большого Барьерного рифа завозят роботов, которые будут выслеживать и убивать ядом морских звезд, разрушающих кораллы. Этим автоматам не потребуется приказ человека — оказавшись на свободе, они будут сами решать, кто умрет, а кто останется в живых.

Возможно, эти примеры подтверждают, что ИИ контролирует ограниченные, хотя и важные сферы жизни на Земле. Но чтобы действительно завоевать мир, как в кино, отдельным системам ИИ придется действовать вместе и объединиться в синхронизированную армию. Властолюбивому автомату, который пробивает ваши покупки на кассе самообслуживания, чтобы помешать вам купить пиво, придется связаться с датчиком здоровья. Затем они оба могут вступить в сговор с системой, подсчитывающей кредитный рейтинг, и она пообещает повысить кредитный лимит, если вы купите кроссовки со встроенным датчиком GPS и будете есть только зеленый салат из умного холодильника. Конечно, холодильник будет открываться, только если от кроссовок поступят данные о завершении обязательной семикилометровой пробежки.