Коллектив авторов - На что похоже будущее? Даже ученые не могут предсказать… или могут?

Исследования также показывают, что при большом количестве предупреждений мы начинаем вовсе игнорировать их. У этого явления даже есть специальное название: «усталость от безопасности». В таком состоянии люди забывают об осторожности и осмотрительности. Чтобы не допустить этого, ИИ в будущем должен будет уметь определять наиболее значимые угрозы, рассчитывать оптимальное количество предупреждений и решать, когда и как показать их нам, чтобы мы обратили на них внимание. Но, разумеется, сам по себе ИИ не исполняет собственные предупреждения — это прерогатива людей. ИИ просто говорит, нужно это или нет.

Все вышесказанное подводит нас еще к одному вопросу: кого из людей надо включать в цепи управления? Например, могут ли правила, на основе которых действует ИИ, ограничивать вас в посещении опасных сайтов? Все сводится к определению рамок того, что мы считаем «вредоносным». Мы уже используем средства защиты от киберугроз, чтобы оградить наивных и неискушенных от того, что им может встретиться в сети, или в случае, если их будут провоцировать на нежелательное поведение. Если в будущем ИИ возьмется всех нас «оберегать» от нашего собственного любопытства, кто будет устанавливать границы — или мы дадим ИИ возможность самостоятельно «научиться» определять, что нам может навредить, и потом позволим ему принимать решения за нас? Вполне объяснимо, что для многих подобные картины будущего сродни ужасам из ночных кошмаров. Получается, что даже в странах, где нет никаких диктаторских режимов и где жители не находятся под постоянной опекой бдительного государства, устанавливающего правила, с которыми вы не согласны, ИИ сможет зайти еще дальше и решить, что подавляющее большинство содержимого киберпространства является вредным. При этом само по себе слово «вредный» поддается исключительно широкому толкованию.

В течение следующего десятилетия мы должны решить, хотим ли мы, чтобы ИИ защищал нас от киберугроз, или же нам стоит продолжать использовать нынешние способы защиты. Это непростое решение, но в отсутствие активного открытого обсуждения его примут за нас. А как быть, если мы решим, что ИИ нам не подходит, а существующие методы будут все менее эффективны? Есть ли какая-либо альтернатива? Вполне возможно, что есть.

Давайте представим, что мы все-таки решим не исключать полностью человека из цепей обеспечения информационной безопасности: как быть с ситуациями, в которых прямое вмешательство людей невозможно? Как быть с ИВ, этой постоянно растущей армией автономных «умных» устройств, которые взаимодействуют друг с другом без какого- либо участия с нашей стороны? Холодильники, чайники и тостеры — все они будут связаны в одну сеть, чтобы нам было еще удобнее пользоваться ими. Ваш подключенный к сети тостер вряд ли сам по себе способен заинтересовать хакеров, рыщущих в поисках ценной информации, однако он вполне может стать частью армии зомби-устройств в составе ботнета и использоваться при проведении распределенных атак типа «распределенный отказ в обслуживании» (DDoS), в ходе которых на систему обрушивается такой громадный объем бесполезных данных, что она становится недоступной для обычных пользователей. ИВ стремительно разрастается: связанных в единую сеть устройств будет на многие миллионы больше, чем сегодня, и хакеры смогут поставить себе на службу их незадействованные ресурсы. Нам предстоит столкнуться с абсурдной ситуацией, когда страну можно будет поставить на колени с помощью домашней электроники.

Мы могли бы вернуться к принципам той технологии, на которой строится интернет. В ней можно кое-что скорректировать так, что, откуда бы вы ни заходили в сеть, вы бы однозначно идентифицировались, как и все те, с кем вы взаимодействуете. А получив сообщение электронной почты, вы бы могли быть уверены, что оно пришло именно от того, кто указан в качестве его отправителя. Это бы позволило легко определять и блокировать любой веб-сайт, содержащий вредоносное программное обеспечение. Если кто-нибудь решит атаковать вашу систему, вы бы могли узнать, кто инициатор атаки и откуда она осуществляется. Все описанное станет возможно только тогда, когда мы все перейдем на версию 6 протокола IP (IPv6). Она существует с 1990-х гг. и, вероятно, уже давно поддерживается на вашем компьютере, но все попытки расширить сферу ее применения ни к чему не привели. Судя по всему, большинство пользователей устраивает первоначальная версия этого протокола IPv4, несмотря на все присущие ей недостатки.