Герд Леонгард - Технологии против человека

Таким же образом мы используем карты Google, GoogleNow [28] GoogleNow – это сервис персонализированного поиска Google, который понимает голосовые запросы. и Google Дом (динамик, с которым можно разговаривать как с роботом-помощником), чтобы избежать пробок или обновить наш список встреч. Однако мы пока что не можем придумать, как нам привлечь Google к ответственности за сбор и продажу наших метаданных (хотя и анонимных) маркетинговым компаниям или их передачу правительственным организациям, прикрывающимся исполнением Акта о негласном наблюдении в целях внешней разведки [29] Акт о негласном наблюдении в целях внешней разведки – федеральный закон США, предписывающий процедуры физического и электронного наблюдения и сбора внешней разведывательной информации, передаваемой иностранными державами и агентами иностранных держав, которыми могут быть и американские граждане, подозреваемые в шпионаже и терроризме. . Уже скоро большинство из нас будут использовать умных цифровых помощников( IDAs ) [30] Цифровой помощник – веб-сервис или приложение для смартфонов и ПК, фактически исполняющее роль личного секретаря при пользователе: решает задачи планирования графика, организации и выполнения повседневных дел и контекстного поиска информации. на мобильных устройствах, и, похоже, никому не придется нести ответственность за то, что будет происходить за кулисами. Эти устройства будут слышать все то, что мы говорим, и мы никак не сможем это контролировать. Мы действительно занимаемся тем, что создаем разумные машины без систем контроля и средств защиты.

Мы попадаем в мир, где автоматизированные облачные программные агенты (боты) смогут выполнять огромный спектр задач вместо самих пользователей: назначить встречу, забронировать столик. Мы даже не успеем понять, как боты к этому пришли, а они тем временем все больше будут распоряжаться нашей жизнью.

Мы можем видеть, как люди проявляют крайнюю недальновидность и неосторожность в обращении с новыми технологиями. Это происходит в основном потому, что производители и продавцы технологий рассматривают ответственность за последствия их использования как внешний фактор – таким образом демонстрируя абсолютно неустойчивое отношение к будущему. Это напоминает мне, как нефтяным компаниям очень долгое время сходило с рук их отношение к загрязнению окружающей среды и глобальному потеплению – ведь они тоже считали эти проявления внешними факторами, т. е. тем, за что они не несут ответственности. Само собой разумеется, в подобном отношении к будущему ничего хорошего нет, т. к. оно разрушительно.

Я глубоко убежден в том, что мы должны выходить за рамки прибыли и роста, когда речь идет о технологиях, способных кардинально изменить жизнь человечества. Этот моральный императив по важности превосходит даже призывы ядерного века.

Приведу знаменитую цитату Роберта Оппенгеймера, одного из создателей ядерной бомбы, произнесенную им после бомбежки Хиросимы и Нагасаки: «Я – смерть, разрушитель миров» 29. Процитировав древнеиндийский священный текст Бхагавадгиту, Оппенгеймер объявил начало нового этапа в развитии человечества.

Сейчас мы с вами бессознательно ощущаем, что стоим на пороге еще больших перемен.

Я считаю и попытаюсь доказать, что ИИ, как и деление ядер, – технология двойного назначения. Деление ядер может и освещать города, и сжигать их дотла. До 1945 года большинство людей не могло даже представить себе потенциальную мощь атома. Сегодня по отношению к искусственному интеллекту мы находимся в 1930-х и вряд ли переживем появление ИИ, особенно если оно будет столь же внезапным, как явление миру ядерных технологий.

Технологии – неважно, насколько чудесные, – всегда остаются инструментом, который мы используем для достижения чего-либо: технологии – это не то, что мы ищем, а то, как мы ищем! Само слово «технологии» происходит от греческого корня techne, который означает «выявление истинного в прекрасном» и относится к совершенствованию навыков ремесленников и художников с помощью соответствующих инструментов 31. Греческие философы также рассматривали технологии как нечто присущее любой человеческой деятельности: мы постоянно изобретаем новые инструменты и улучшаем существующие, это заключено в человеческой природе.