Линус Уаллейж - Копирайт не существует

Однако есть и некоторые неприятные аспекты этого общества. Вроде, программы Net Nanny , о которой я говорил ранее, или когда Aftonbladet 15 июля 1995-го, успокоила читателей тем, что теперь телевизоры могут быть оснащены чипом, программируемым родителями, которые не хотят, чтобы их дети смотрели насильственные, порнографические или по каким-то другим причинам неподходящие программы. И когда дети переключаются на заблокированный канал, появляется синий экран. Фантастика. Вопрос в том, кого программируют: чип или детей? Один из родителей, у которого брала интервью Aftonbladet, не хотел, чтобы дети смотрели, среди прочего, SOS - På Liv och Död (аналог американского ТВ-шоу "Служба Спасения 911"), программу, показывающую реальные чрезвычайные происшествия и действия спасателей. А что дальше? Хорошо ли просто отключать эти ужасные новости, с тем чтобы растить детей в протективном пузыре, быть удалённым из этого мира, как русские при Сталине? Риск злоупотребления этим, и тому подобным, изобретениями ужасен и велик.

И это лишь один пример, что может натворить относительно тупой чип. Нам уже указали на то, что наше общество больше не состоит исключительно из людей, и что даже люди не состоят исключительно из людей. Когда почти в каждом магазине на каждом товаре есть электронная система "анти-вор", честность, как благодетель, не нужна , так как становится невозможным быть нечестным, и таким образом, с помощью технологий, моральные границы превращаются в реальные физические пределы. Мы так необыкновенно увлечены общественным благом, которое предоставляют эти машины, что не обсуждаем, что происходит. Сигнализацию в магазине обсуждать нечего, так как она беспокоиться лишь о ворах... В один прекрасный день мы столкнёмся с машинами, которые будут автоматически вкалывать успокоительное лицам с насильственными тенденциями, естественно только для профилактики совершения насильственных преступлений. Это не должно вас беспокоить, так ведь? Вы же не склонны к насильственным преступлениям. Или как?

Просто пример из недавнего прошлого: в 1984-ом, [113]компьютер в Värnpliktsverket (Шведская национальная военно-призывная комиссия) столкнулся с проблемами, которые привели к тому, что приказы о явке на сборы не рассылались личному составу. И этим людям поступили телефонные звонки от военных офицеров, которые допрашивали их по поводу причин неявки. Эти офицеры брали информацию из компьютера, которую они считали достоверной, т. е. считали, что приказы рассылались. Что интересно, так это не то, что в компьютере возникла ошибка, а то, что он был способен контролировать большую военную организацию. Поэтому некоторые наши самые уважаемые военные институты носят названия, достойные быть компьютерными брендами.

Потом, существует искусственный интеллект. И когда появляется интеллектуальный агент, сложность ещё больше возрастает. Мы можем заставить спросить себя, а это часом не взаимодействие с цифровой личностью, которая кажется обладает своей собственной волей. Цифровые личности возникают, когда компьютерные системы становятся настолько сложными, что обретают сознание , сходное с человеческим. Возможно это ещё не произошло, на тот момент, когда вы это читаете. Самый тревожный пример, о котором можно думать, -- это программа от Hectare Ltd, которая генерирует бесполезные женские романы, т. е. материалы сродни Барбаре Картленд, нескончаемым потоком. Если вы когда-либо подозревали, что компьютер может создавать мейнстримную литературу, ваши страхи материализовались. Эта программа реально работает, и она не такая большая и всеобъемлющая. Похожие программы могут переформулировать уже написанные пассажи, чтобы использовать их в литературе определённого стиля.

Один из наиболее опасных факторов, связанных с ИИ в том, что он может легко производить бесконечный поток кажущегося интеллектуального трёпа, который отвлекает внимание от реальных проблем. Чтобы создать конспирологическую теорию, я предположу, что уже существуют публикации, чьё содержание полностью или частично сгенерированы компьютером. Те, кто написали эти программы, вероятно, главным образом беспокоятся о деньгах, моральные аспекты их не волнуют. А вы бы так не делали? Общественность не замечает. Они думают, что видят человека, а на самом деле -- это робот. Но опять -- какая разница? Занавес.

И это лишь одно из многих применений искусственного интеллекта. Однако, это тот случай, когда цифровые личности однажды станут настолько интеллектуальны, что смогут поддерживать диалог без какого-либо ввода от третьей стороны. Тогда существующие власти смогут контролировать людей, как захотят. Представьте, вы звоните в обслуживающую компанию по поводу отсутствия горячей воды. Вы думаете, что говорите с человеком, но на самом деле вы разговариваете с компьютером. Всё, что вы говорите, переводится в статистику, без необходимости отвечающей стороны реагировать на какую бы то ни было критику. Власть имущие, смогут отфильтровывать ваши жалобы, с тем чтобы принимать независимые эмоционально нейтральные решения... и прямо здесь аргументация становится настолько размытой, что я могу также оставить это читателю и закончить. (Я не философ, лишь любитель этого искусства). По крайней мере, это занимательный мысленный эксперимент.