Коллектив авторов - На что похоже будущее? Даже ученые не могут предсказать… или могут?

Такой подход свидетельствует о радикальной смене стратегии кибербезопасности и переходе к принципиально новой парадигме, которая будет определять то, как мы будем защищаться в будущем. На первом этапе развития средств борьбы с киберугрозами в интернете во многом работа сводилась к мерам, направленным на остановку атаки на границе системы. Подобно бастионам и воротам замка, наши системы, будь то на домашнем ноутбуке или на сервере с медицинскими данными, настроены таким образом, чтобы не давать вирусам и иным видам атак проникать внутрь, останавливая их на входе. Однако в условиях, когда все вокруг нас и мы сами постоянно «подключены» к сети, эти методы неэффективны. Так называемая круговая оборона перестала отвечать требованиям информационной безопасности. На самом деле мы сейчас хотим, чтобы другие люди приходили в наш «замок». Чего мы не хотим, так это того, чтобы, уходя, они незаметно прихватили с собой наши «реликвии». То есть нам нужно найти способ пускать к себе анонимных посетителей, но при этом у нас должна быть возможность выявлять среди них тех, кто не заслуживает доверия.

В результате недавнего витка эволюции интернета мы получили средства обороны, воспроизводящие многоуровневую систему защиты, которую можно увидеть во многих «замках». Благодаря ей мы имеем возможность впускать людей только в определенные части нашего замка и даже предоставлять разным группам посетителей доступ к внутренним помещениям в наших «киберчертогах», надеясь на сохранность «реликвий», упрятанных нами в цитадель — последний оплот безопасности.

Оказывается, у машин отлично получается наблюдать за действиями пользователей и выявлять корреляции между тем, что они делают, и нежелательными последствиями. Более того, чем дольше продолжается наблюдение, тем лучше машина распознает неприемлемое поведение. Чтобы резко повысить эффективность, достаточно просто увеличить набор входных данных. Так что, судя по всему, за будущее кибербезопасности можно не опасаться: мы можем полностью положиться на компьютеры. Но… раз мы решили воспользоваться возможностями ИИ и готовы положиться на него, полностью исключив вмешательство человека, нам придется задать себе ряд вопросов, не в последнюю очередь связанных с необходимостью сначала обучить такой интеллект тому, что мы хотим от него получить. Из попыток найти ответы на эти вопросы родилась дисциплина, призванная заставить машинный интеллект работать в нужном нам направлении.

Во-первых, вызывает тревогу мысль о том, что интернет может превратиться в электронную зону противостояния между хорошим ИИ и плохим ИИ. И сражаться они наверняка будут до последнего. Подобно тому как мы научились не замечать биологические баталии, которые происходят в нашем организме каждый день, нам, вполне возможно, придется научиться жить с хронической цифровой инфекцией, с которой будет вести непрерывную борьбу наш «иммунитет». Большую часть времени мы пребываем в неведении относительно разворачивающейся борьбы, но иногда мы «заражаемся» и вынуждены принимать антибиотики. Если инфекции удастся перехитрить стоящую на защите пациента технологию, смерть неминуема. Нам также следует признать, что в некоторых случаях «дезинфицировать» систему просто невозможно. Вместо этого мы должны распрощаться с ней и выстроить новую, с другим программным обеспечением. Мы уже начали сталкиваться с подобной ситуацией, виной чему вирусы-вымогатели. Когда они заражают наши компьютеры, нам не остается ничего другого (конечно, если забыть о соблазне заплатить вымогателям), как переставить систему. Разумеется, в этом случае не обойтись без резервной копии ваших данных, то есть единственной по-настоящему ценной части вашего компьютера. Позаботиться об этом должен сам человек.

Следующая проблема — допустимая степень контроля над нашими действиями со стороны ИИ: должны ли мы иметь возможность не выполнять его инструкции? Вы, наверное, думаете, что ответ очевиден — «да». К сожалению, здесь опять придется вспомнить о семи смертных кибергрехах. Представьте, что вы пытаетесь зайти на веб-сайт, ИИ находит проблему и выдает предупреждение с рекомендацией не посещать данный ресурс. Скорее всего, вы станете искать кнопку, которая позволит вам проигнорировать предупреждение: исследования показывают, что люди обычно не обращают внимания на такие предостережения. Возможно, причина в любопытстве или безразличии. Или же мы просто не любим, когда нам кто-то что-то запрещает. Какими бы ни были ваши мотивы, если вы не послушаетесь, ваша система наверняка будет заражена. В таком случае кажется вполне разумным, что ИИ должен полностью контролировать ситуацию.