Фрэнк Паскуале - Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта

Конечно, есть такие области, где экономика и ИИ крайне важны. Бизнес не может работать, не покрывая издержки; касса самообслуживания сломается, если программа сканера не сможет распознать штрих-код товара. Однако на вопросы о том, должна ли существовать определенная фирма и следует ли заменить роботизированным киоском кассира, лишь экономика и информатика ответить не могут. Решение принимается политиками, сообществами и фирмами, причем на основе сложного комплекса ценностей и требований. Такие ценности и требования невозможно свести к уравнениям эффективности и алгоритмам оптимизации, совершенно отличным и абстрагированным от конкретных сообществ. Скорее они выражаются и согласовываются экспертами-людьми, в рамках современных или будущих профессий способных показать, как скрытые, локальные знания работников и менеджеров выражаются в услугах и практиках, заслуживающих сохранения.

Стремиться к противоположному, то есть к высвобождению коммерческих мотивов и мимикрии роботов, нацеленных на то, чтобы колонизировать, заменить или подчинить себе любую форму человеческого труда, – значит радикально реорганизовать общество. Социолог Уилл Дэвис однажды отметил, что «профессия, требующая права на все что угодно, является уже не профессией, а разновидностью эпистемологической тирании» [70] Will Davies, “Elite Power under Advanced Neoliberalism,” Theory, Culture and Society 34, nos. 5–6 (2017): 233. . Сегодня в очень многих спорах об ИИ и робототехнике господствует узкий взгляд, сосредоточенный на эффективности и оптимизации. Моя цель в этой книге – ввести в обсуждение автоматизации намного более широкий список целей и ценностей. Чтобы закрепить этот более содержательный диалог, нам нужно добиться того, чтобы везде, где труд и услуги выражают наши ценности, распределенные экспертные знания соединяли демократическую ценность представительства с когнитивными ценностями точности, эффективности и научного метода [71] Я считаю, что эта интеграция демократических и экспертокра-тических ценностей может стать ключом к решению проблемы разделения между «диггерами» и «левеллерами» в исследованиях науки и технологии, которую отчетливо сформулировал Филип Мировски в своей недавней работе: Philip Mirowski, “Democracy, Expertise and the Post-truth Era: An Inquiry into the Contemporary Politics of STS,” (working paper, version 1.1, April 2020), https://www.academia.edu/42682483/Democracy_Expertise_ and_the_Post-Truth_Era_An_Inquiry_into_the_Contemporary_ Politics_of_STS. .

Этот подход существенно отличается от позиции многих программистов 1980-х гг., которые стремились свести процесс принятия решений в среде юристов или врачей к древу импликаций «если… то». Например, подобная программа может спрашивать обучаемого врача: «Есть ли у пациента жар? Если есть, спросите его, когда он начался. Если нет, спросите, есть ли у него кашель». Такие системы внушили немалый энтузиазм, однако они оставались громоздкими и неудобными. Оказалось, что систематизировать профессиональное суждение намного сложнее, чем думали исследователи ИИ.

Философ Хьюберт Л. Дрейфус для объяснения того, почему экспертные системы показали столь слабые результаты, разработал специальную теорию неявного знания [72] Hubert L. Dreyfus, What Computers Still Can’t Do (Cambridge, MA: MIT Press, 1992). . Мы знаем больше, чем можем объяснить. Подумайте о том, как сложно было бы свести вашу собственную работу к серии утверждений «если… то». Смог бы компьютер распознавать ситуации, с которыми вы сталкиваетесь ежедневно? Смог бы он с той же скоростью формулировать, оценивать и ранжировать возможные ответы на такие ситуации? И если нет (я подозреваю, что именно такой отрицательный ответ даст большинство моих читателей), трудности описания (профессиональных задач) и перевода (человеческих ситуаций в компьютерный код) позволяют хорошо понять, что у людей и в будущем останется определенная трудовая роль.

Конечно, изменчивость иногда следует сдерживать, а не превозносить. Если одни отоларингологи рекомендуют удаление миндалин 90 % детей, которых лечат, тогда как все остальные – лишь в 15 % случаев или даже реже, это, вероятно, означает наличие серьезных проблем с некомпетентностью или оппортунизмом, которые следует изучить [73] Gert Р. Westert, Stef Groenewoud, John E.Wennberg, Catherine Gerard, Phil DaSilva, Femke Atsma, and David 0. Goodman, “Medical Practice Variation: Public Reporting a First Necessary Step to Spark Change,” International Journal for Quality in Health Care 30, no. 9 (2018): 731–735, https://doi.org/1o.1093/intqhc/mzyo92. . И все же самостоятельность врачей, указывающая на их право на инновации или на отклонение от общепринятой практики, часто защищается законом и является чем-то желанным, с точки зрения самих пациентов [74] Anna B. Laakmann, “When Should Physicians Be Liable for Innovation?” Cardozo Law Review 36 (2016): 913–968. . В обычной медицинской практике слишком много неопределенности, чтобы целиком сводить ее к алгоритмам, которые обычно в шутку называются «поваренной медициной». Пациенты хотят также, чтобы осмотр вел человек, готовый посочувствовать их страданиям и их подбодрить, дабы они быстрее выздоравливали. Точно так же многие родители, вероятно, не захотят, чтобы их детей учил общенациональный учитель, транслируемый по телевидению или радио, и неважно, какого сокращения налогов, выплачиваемых на систему образования, удалось бы при таком подходе достичь. Есть общее понимание того, что прямая связь с человеком, которому ты доверяешь, нечто намного более ценное, чем простая трансляция с участием пусть даже самого квалифицированного человека или робота.