Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Чем больше я читала и разговаривала с разными людьми, тем лучше понимала, что мы слишком многого требуем от живых судей. Людям от природы свойственно предубеждение. На каждого Кристофера Дрю Брукса, неправедно осужденного алгоритмом, найдется огромное множество таких же обвиняемых, как Николас Робинсон, по делам которых несправедливые решения выносили люди без помощи машин. Я думаю, если алгоритм, пускай даже не без изъянов, работает в связке с судьями и их зачастую хромая логика как-то корректируется, это шаг в правильном направлении. По крайней мере, от систематической предвзятости и случайных погрешностей хорошо отлаженная программа может нас избавить. Всех судей не переделаешь, тем более тех, кто вообще не может объяснить, как и почему они вынесли тот или иной приговор.

Прежде чем взяться за разработку программы для уголовного правосудия, мы должны сесть и хорошенько подумать, каковы задачи правосудия. Мы не можем просто закрыть глаза и надеяться на лучшее — необходимо предельно четко и однозначно представлять себе, чего мы хотим от алгоритмов и какие человеческие слабости они должны компенсировать. Это вызывает ожесточенные споры о процедуре принятия решений в судах. Задача ставится непростая, но иначе мы не придем к обоснованному выводу о принципиальной возможности применения алгоритмов с пользой для себя.

В системе правосудия масса противоречий, которые лишь добавляют путаницы, поэтому ответить на вопросы такого рода очень и очень нелегко. Но алгоритмы потихоньку проникают в другие сферы жизни, где выбор решений сопряжен с гораздо меньшими трудностями, а цели алгоритмов гораздо яснее, и их польза для общества очевидна. Медицина

В 2015 году группа ученых, которых интересовала точность диагностики в онкологии, провела необычный новаторский эксперимент [148]. Шестнадцати участникам эксперимента предложили проанализировать изображения ткани молочной железы на мониторе с сенсорным экраном. Образцы были настоящими — женщинам провели биопсию и тонкий слой взятой на исследование ткани окрасили химическими веществами в красный, фиолетовый и синий цвета, чтобы выделить кровеносные сосуды и млечные протоки. От диагностов требовалось только определить, есть ли на видимой картине признаки злокачественных изменений в клетках.

Участники эксперимента прошли короткую подготовку и приступили к выполнению задания — и результаты оказались впечатляющие. Члены команды работали поодиночке и оценили правильно 85 % образцов.

Зато после ученые заметили нечто совсем удивительное. Когда они стали сводить результаты, то есть суммировать все ответы, чтобы получить объективную оценку каждого изображения, точность подскочила аж до 99 %.

Но не высочайшим профессиональным уровнем диагностов выделялось это исследование среди всех прочих. Главное — это кем они оказались на самом деле. Эти доблестные спасатели не были ни онкологами, ни патологами. Не были они и медсестрами или студентами-медиками. Это были голуби.

Врачам клинической лабораторной диагностики безработица пока не грозит — едва ли авторы эксперимента предлагали заменить докторов обычными голубями. Однако их исследование выявило важную вещь: не только люди способны находить в кластерах клеток некие характерные картины. Если голуби справились с этой задачей, почему бы алгоритму не попытаться? Охотники за паттернами

Вся история и практика современной медицины зиждется на поиске паттернов — характерной картины в собранных данных. С тех самых пор, как еще две с половиной тысячи лет назад древнегреческий целитель Гиппократ создал свое учение о медицине, основу борьбы за наше здоровье составляют наблюдение, исследование и анализ полученной информации.

Еще раньше врачевание по большей части мало чем отличалось от ворожбы. Люди верили, что если человек заболел, значит, он разгневал кого-нибудь из богов, а болезнь — это результат того, что его телом завладел злой дух. Поэтому в арсенале лекаря были песнопения, речитативы и всякие суеверия — вам смешно, а вот тому, кто надеялся с помощью такой терапии отсрочить свою кончину, наверное, было не до смеха.

Не то чтобы Гиппократ в одиночку раз и навсегда излечил мир от неразумия и предрассудков — согласно легенде, у него самого вместо дочери был дракон [149], — но он внедрил в медицину совершенно новые идеи. Он был убежден, что никакая не магия, а объективное и планомерное обследование дает возможность понять причину заболевания. Он уделял особое внимание наблюдению и описанию картины болезни и таким образом возвел медицину в ранг науки, за что его заслуженно почитают как “отца современной медицины” [150].