Джулия Шоу - Психология зла. Почему человек выбирает темную сторону

Да, возможно, я не считаю это злом, но это не значит, что ИИ не представляет опасности. В выпуске журнала Wired за декабрь 2017 года было процитировано высказывание Стивена Хокинга: «Я боюсь, что ИИ может заменить всех людей», произнесенное в контексте разговора о самосовершенствующихся системах. Ученый продолжил: «Подлинный риск, связанный с ИИ, — не злой умысел, а компетентность. Сверхумный ИИ будет невероятно успешен в достижении целей, и, если эти цели не совпадут с нашими, мы окажемся в беде» [120] Medeiros, J. ‘Stephen Hawking: I fear AI will replace humans’. Wired, December 2017; http:// www.wired.co.uk/article/stephen-hawking-interview-alien-life-climate-change-donald-trump. . Схожим образом, миллиардер, решивший колонизовать Марс, Илон Маск, предупредил, что ИИ — «главный риск, с которым мы сталкиваемся как цивилизация» [121] Titcomb, J. ‘AI is the biggest risk’. Daily Telegraph, 17 July 2017; http://www.telegraph.co.uk/ technology/2017/07/17/ai-biggest-risk-face-civilisation-elon-musk-says/. . Так человечеству был брошен вызов: нужно больше правовых норм, этических руководств и открытости, чтобы предотвратить сильный перевес власти.

Но давайте не увлекаться ИИ-магеддоном. Теперь, когда я убедила вас, что технологии сами по себе, вероятно, не способны на злой умысел, давайте посмотрим, как они могут раскрывать нас с худшей стороны.

В 2007 году криминолог Каруппаннан Джайшанкар открыл область исследований, которую назвал киберкриминологией, и определил ее как «науку о причинах преступлений, которые происходят в киберпространстве и влияют на физический мир». Он заметил, что киберпреступления качественно отличаются от других типов преступлений и для их понимания требуется междисциплинарный подход.

Если мы посмотрим на программы курсов по криминологии и судебной психологии, киберпреступности в них уделяется ужасающе мало внимания. За время моего университетского обучения (2004-2013 годы) я не прослушала ни одной лекции на эту тему. О данном упущении говорится и в обзоре по киберкриминологии за 2015 год, написанном Бри Даймонд и Майклом Бахманном: «Киберкриминология по большей части игнорируется или выводится за скобки классической криминологией... многие криминологи воздерживаются от изучения этой важной проблемы будущего. Может, им не хватает необходимого понимания технологий, или их пугают специфические термины, или им не удается в полной мере понять размах социальных последствий этого нового типа преступности, но данное пренебрежение удручает» [122] Diamond, B., & Bachmann, M. ‘Out of the beta phase: obstacles, challenges, and promising paths in the study of cyber criminology 1’. International Journal of Cyber Criminology, 9 (1) (2015), p. 24. .

Учитывая, что киберпреступность — самый распространенный тип преступности, такое замалчивание неприемлемо. Киберпреступность — это не только проблема инженеров и программистов, но и во многом проблема психологов, криминологов и полиции. В конце концов, за компьютерными экранами (обычно) все еще сидят люди, которые принимают решения, чтобы вредить кому-то в сети.

Это подводит нас к справедливому вопросу, который сформулировали Даймонд и Бахманн: «Следует ли определять киберпреступность как абсолютно новый тип преступности или это обычные преступления, совершенные с помощью нового средства?» Если это обычная преступность в футуристическом облачении, тогда мы, вероятно, способны понять ее, используя наработки предыдущих столетий. Если мы задумаемся, какого рода преступления люди совершают онлайн: воруют деньги или информацию, оскорбляют друг друга, продают запрещенные товары, делятся непристойными картинками, — то поймем, что все то же самое мы делаем и в реальной жизни. Действительно ли виртуальная преступность, как выразился политолог Питер Грабоски, это всего лишь «старое вино в новых бутылках»? [123] Grabosky, P N. ‘Virtual criminality: old wine in new bottles?’ Social & Legal Studies, 10 (2) (2001), pp. 243-49.

Нет, это не так, утверждают Даймонд и Бахманн. Мы не просто переместили классическую преступность онлайн, но и «вывели новый тип опасных преступников». Хакерство, дефейс [124] Тип хакерской атаки, при которой главная (или другая важная) страница сайта заменяется на другую — как правило, вызывающего вида (реклама, предупреждение, угроза, мем и т.д.). — Прим. ред. сайтов, использование ботов ради троллинга — это новые виды преступлений, которых прежде никогда не было. Соответственно, классические криминологические теории часто не способны их объяснить. Социолог Ванда Кэпеллер удачно обобщила эти факты: «Киберпространство представляет собой новую, лишенную территории и материи, бестелесную среду, которая тем не менее в ключевые моменты вмешивается в земной мир» [125] Capeller, W. ‘Not such a neat net: some comments on virtual criminality’. Social & Legal Studies, 10 (2) (2001), pp. 229-42. .