Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Тут я могу и ошибаться. Возможно, если творения алгоритмов примут облик созданных человеком шедевров — как это произошло с музыкой ЭМИ, — мы оценим их и вложим в них свой смысл. Судя по многолетней истории фонограммы в поп-музыке, люди способны эмоционально реагировать даже на суррогат живого контакта. И возможно, когда компьютерное творчество распространится повсеместно и мы будем отдавать себе отчет в том, что автор — не человек, односторонняя связь перестанет нас отпугивать. Можно ведь установить эмоциональный контакт, скажем, с любимым плюшевым мишкой или домашним паучком без всякой надежды на взаимность.

Однако, на мой взгляд, подлинные шедевры не рождаются по случайному стечению обстоятельств. Есть границы применения алгоритмов. Предел допустимых расчетов. Я могу выудить из массивов данных и статистической информации самые невероятные, ошеломительные сведения, но ничего не найду о том, каково это — быть человеком.

Заключение

Архитектор Рахина Ибрагим, замужняя женщина (супруг ее остался по другую сторону океана), мать четверых детей, работала волонтером в больнице и, ко всему прочему, готовилась к защите диссертации в Стэнфордском университете. Мало ей было забот — она перенесла еще и экстренную гистерэктомию и, хотя уже почти поправилась после операции, пока еще не могла долго обходиться без медицинской помощи и лекарств. Тем не менее она забронировала билет на Гавайи, чтобы в январе 2005 года принять участие в 38-й Международной конференции по системным наукам и выступить с докладом перед коллегами [402].

Утром 2 января 2005 года она вместе с дочкой приехала в аэропорт Сан-Франциско, сразу же подошла к стойке регистрации, предъявила документы и попросила предоставить ей инвалидное кресло. Ей отказали. На экране компьютера высветилось предупреждение, что ее имя включено в федеральный черный список — базу данных, составленную после 11 сентября 2001 года с целью не допустить к полетам людей, подозреваемых в терроризме.

Перепуганная дочка Рахины Ибрагим, еще подросток, оставшись одна, позвонила другу семьи и сказала, что ее маму куда-то увели в наручниках. Саму Ибрагим затолкали на заднее сиденье полицейской машины и повезли в отделение. Ее обыскали, проверив, что у нее под хиджабом, и заперли в камере без необходимых лекарств и медицинской помощи. Через два часа явился агент органов национальной безопасности с бумагами на освобождение и объявил ей, что из черного списка ее фамилию вычеркнули. Ибрагим добралась до места проведения конференции, а оттуда отправилась на родину, в Малайзию, проведать родных.

Ибрагим попала в черный список, когда агент ФБР, заполняя форму, поставил галочку не в том квадратике. Возможно, ошибка произошла из-за того, что террористическую организацию “Джемаа Исламия”, ответственную за взрывы на Бали в 2002 году, спутали с малайской организацией “Джемаа Ислам”, профессиональным объединением людей, обучающихся за границей. Ибрагим состояла во второй и никогда не имела ничего общего с первой. Как только эта ошибка закралась в автоматизированную систему, дело приобрело оттенок государственной важности, что едва ли не вешало на него гриф “без права на обжалование”. Инцидентом в аэропорту Сан-Франциско эта история не закончилась.

Спустя два месяца, на обратном пути из Малайзии в США, Ибрагим вновь задержали в аэропорту. На этот раз конфликт разрешился не так быстро. Ее визу аннулировали на основании подозрений в связях с террористами. Несмотря на то, что Ибрагим была матерью американских граждан, постоянно проживала в Сан-Франциско и занимала должность в одном из самых уважаемых университетов Америки, в Штаты ее не пустили. В конечном итоге, прежде чем ей удалось выиграть битву за свое честное имя, прошло почти десять лет. Почти десять лет Америка оставалась для нее запретной страной. И все из-за того, что человек один раз ошибся, а компьютер наделили слишком большим авторитетом. Человек плюс машина

Никто не сомневается в том, что автоматика оказала огромное и полезное влияние на жизнь каждого из нас. Перечень успехов уже созданных на сегодняшний день алгоритмов поражает воображение. Алгоритмы помогают нам диагностировать рак груди, ловить серийных убийц и предотвращать авиакатастрофы; открывают нам свободный доступ ко всем накопленным человечеством знаниям — надо лишь пошевелить пальцами; они в одно мгновение соединяют людей по всему миру, что нашим предкам и не снилось. Но, кажется, стремясь ко всеобщей автоматизации и торопясь решить множество мировых проблем, мы вместо одной сложности создали себе другую. Эти полезные, заслуживающие всяческих похвал алгоритмы вынуждают нас распутывать плотный клубок мудреных загадок.