Коллектив авторов - На что похоже будущее? Даже ученые не могут предсказать… или могут?

Каждый, у кого есть персональный компьютер, прекрасно знает (во всяком случае, я на это очень надеюсь), сколько усилий требуется для обеспечения защиты от киберугроз: здесь и установка антивирусного программного обеспечения, и брандмауэров, и использование надежных паролей, и ряд иных мер. Чтобы поспеть за изобретательностью преступников, пользователям приходится тратить все больше времени на поддержание используемых ими средств защиты в актуальном состоянии. И это большая проблема. Даже у самых организованных и собранных из нас есть слабости, которыми могут воспользоваться в своих интересах злоумышленники. Среди так называемых семи смертных кибергрехов (безразличие, любопытство, доверчивость, деликатность, жадность, робость и легкомыслие), пожалуй, самым опасным является безразличие, и думать, что это точно не про вас, — самый верный способ угодить в расставленные ловушки. Занимаясь поиском решения так называемой проблемы PICNIC [7] Problem is In the Chair Not In the Computer — «Проблема не в компьютере, а в том, кто сидит в кресле перед ним». — Прим. пер. , специалисты в области компьютерных систем пришли к выводу о необходимости полностью исключить людей из процесса.

Координировать работу в очередной раз взялось агентство DARPA, которое объявило конкурс на разработку системы на основе ИИ, способной защитить компьютеры от кибератак без какого-либо вмешательства со стороны человека. Первая демонстрация результатов финалистами состоялась в 2016 г. в Лас-Вегасе, городе, где ежегодно собираются хакеры со всего мира для обмена идеями и последними разработками в рамках таких конференций, как Black Hat и DefCon.

На первом этапе к решениям предъявлялись весьма скромные требования. Участники получили несколько компьютерных программ, которые они должны были сначала проанализировать и определить, прекратят ли они свою работу при передаче им на вход определенных данных, а затем (что действительно сложно) — скорректировать эти программы таким образом, чтобы они перестали быть уязвимы для атак такого рода.

На следующем этапе автоматизированным системам предстояло сразиться с людьми в формате игры «Захват флага». Кто победил? По правде говоря, точного ответа на этот вопрос организаторы так и не получили: ни одна из систем не справилась одинаково хорошо со всеми заданиями — какие-то из них они обязательно проваливали. Однако в ходе состязания проявилась одна интересная особенность, связанная с машинным обучением: оказалось, что если и есть что-то, в чем компьютеры по-настоящему преуспели, так это в умении учиться. Чем больше данных вы в них загружаете, тем быстрее они распознают в них закономерности (например, уязвимости, которыми пользуются хакеры). Поэтому неудивительно, что многие исследователи по всему миру уделяют сегодня столь большое внимание различным способам применения машинного обучения для обеспечения информационной безопасности.

На самом деле не так уж и важно, что в ходе соревнования системы ИИ не лучше людей справлялись с задачами по выявлению угроз. Ведь это была только первая попытка. Впрочем, и этого было достаточно, чтобы понять, что уже в самом ближайшем будущем мы увидим системы информационной безопасности под управлением ИИ. Во время состязания в рамках конференции в Лас-Вегасе одна компания представила первую, по заявлению разработчиков, «когнитивную» антивирусную систему на основе ИИ — DeepArmor.

Система DeepArmor отвечает всего лишь за один аспект информационной безопасности — защиту от вирусов. Но это как раз та сфера, которая в наибольшей степени нуждается в автоматизации. Объясняется все просто: люди (или любой процесс с участием людей) не способны справиться с нескончаемым потоком новых разновидностей вирусов. Ежедневно появляется почти миллион новых угроз, и, хотя многие из них — это варианты существующих вирусов, каждую из них нужно сначала идентифицировать, а потом передать антивирусному программному обеспечению инструкции по ее устранению. И ситуация будет только ухудшаться, так как преступники осознали мощь современных технологий и вовсю пользуются ими, чтобы обойти антивирусные программы. Они разработали вирусы, которые трансформируются подобно биологическим вирусам: даже при наличии образца запущенного вредоносного кода вы не сможете его распознать в следующий раз, потому что он изменит сам себя до неузнаваемости. То есть каждый раз вам потребуется проанализировать несколько случаев заражения, чтобы идентифицировать его опять. В этом контексте кажется вполне логичным, что разработчики DeepArmor поставили перед собой задачу создать программу, которая бы работала по принципу человеческого иммунитета, и дали ей соответствующее название — Antigena.