Эндрю Макафи - Машина, платформа, толпа. Наше цифровое будущее

Мы не раз слышали, как создатели нынешнего поколения нейронных сетей пренебрежительно именуют предыдущий, основанный на правилах подход «конструированием признаков». Сейчас многие специалисты считают неверным подход, при котором сначала все соответствующие ситуации правила собираются, а затем вводятся в компьютер. Они полагают, что гораздо продуктивнее создавать системы, способные изучать правила самостоятельно. Статистический лагерь исследователей искусственного интеллекта сейчас занимает лидирующие позиции и уже выполнил по меньшей мере некоторые обещания из тех, что были даны более полувека назад.

И как же в таких условиях свести вместе разум и машину? Есть несколько разных способов. Один был описан в предыдущей главе; его сторонники, Пол Мил и Том Дэвенпорт, полагают, что люди, наделенные здравым смыслом, будут наблюдать за решениями и действиями искусственного интеллекта и вмешиваться, если заметят что-то неладное. Именно это делала компания DeepMind, когда оптимизировала обслуживание дата-центра с помощью нейронных сетей. Люди-контролеры никуда не делись, в любой момент они могли перехватить контроль у компьютера.

Автопроизводители, которые встраивают в машины технологии автоматического управления, пользуются таким же методом. Они подчеркивают, что человек и в буквальном, и в переносном смысле находится на месте водителя и отвечает за безопасное функционирование автомобиля даже в то время, когда тот едет сам. Многим участие человека в схеме управления кажется благоразумным, поскольку невнимательность может быть фатальной. Летом 2016 года машина марки Tesla Джошуа Брауна врезалась в борт грузового прицепа, водитель погиб [212]. Фура белого цвета совершала левый поворот с автострады на боковую дорогу. Браун ехал по противоположной стороне шоссе. Поскольку машина Tesla не затормозила перед катастрофой, похоже, ни Браун, ни видеокамера автомобиля не заметили белый прицеп на фоне яркого неба Флориды [213]. Возможно, Браун слишком полагался на систему автоматического вождения, так как видел ее эффективность во многих предыдущих случаях и привык не обращать особого внимания на дорогу.

Google считает, что, поскольку человеческая невнимательность – это вечная проблема, нужно полностью исключить людей из управления транспортным средством. Крис Урмсон, бывший руководитель проекта компании по машинам с автоматическим управлением, говорит: «Общепринятая точка зрения такова, что нам нужно взять существующие системы помощи водителю и каким-то образом постоянно улучшать их, тогда у нас со временем появятся самоуправляемые автомобили. Что ж, я отвечу так: это равнозначно утверждению, что если я буду усердно учиться прыгать, то когда-нибудь научусь летать. На самом деле действовать нужно несколько иначе» [214]. Вот почему компания работает над созданием на сто процентов автономных машин, которые не требуют участия человека, – это называется автономностью пятого уровня [215].

Их возможности впечатляют. На конференции TED [216]2015 года Урмсон сообщил: «Наши автомобили проезжали через Маунтин-Вью, и вот с чем мы столкнулись. Одна женщина на электрическом кресле-коляске гонялась кругами за уткой. В правилах дорожного движения ничего не написано о том, что нужно делать в таком случае, однако наши машины смогли обнаружить препятствие, снизить скорость и проехать дальше» [217]. Автономных машин, способных безопасно ездить в любых условиях и ситуациях, пока еще нет. Тем не менее, по нашему мнению, они скоро появятся.

Способность машин преодолевать парадокс Полани начинает применяться в работе бэк-офисных подразделений «белых воротничков», которая в данный момент удивительно плохо поддается полной автоматизации. «Бэк-офис» – обобщающий термин для умственной работы, происходящей вне поля зрения клиента и включающей закупки, бухгалтерию и IT. Как мы говорили ранее, наиболее масштабные и распространенные операции бэк-офиса давно автоматизированы корпоративными системами, тем не менее в большинстве компаний все равно остается масса ручной работы. Один из способов автоматизировать хотя бы часть такой работы – спросить выполняющих ее людей, какими правилами они руководствуются, каковы исключения из них, когда нужно использовать другой набор правил или директив и прочее. Однако на сбор такой информации с помощью опросов ушло бы много времени, и это отвлекло бы сотрудников от работы и, вероятно, не оправдало бы себя. Лица, выполняющие менее рутинную работу, по всей вероятности, не способны точно и исчерпывающе изложить кому бы то ни было, как они действуют.