Тревор Кокс - Зачем мы говорим. История речи от неандертальцев до искусственного интеллекта

Подобные системы подвергались и научной проверке, которая показала, что они дают результаты, сравнимые с ожидаемой вероятностью. Келли Демхаус и ее коллеги из Университета Оклахомы опросили 319 заключенных из окружной тюрьмы, использовали ли те наркотики. Затем их ответы протестировали на наличие стресса в голосе {355} 355 Damphousse K. R., Pointon L., Upchurch D., Moore R. K . Assessing the validity of voice stress analysis tools in a jail setting. 2007. Этот доклад был представлен в Министерстве юстиции США. . После окончания интервью у опрошенных были взяты образцы мочи для анализа, и таким образом была установлена истина. «Ложные утвердительные ответы», вычисленные программой, на самом деле очень важны. Представьте, что, поддавшись на уговоры компании, вы согласились тестировать всех пассажиров в Хитроу на голосовой стресс. Вы будете каждый день отсеивать 8000 невинных людей, которых программа ложно идентифицировала как представляющих опасность.

В другом исследовании, тоже проведенном в тюрьме, количество арестантов-обманщиков сократилось на две трети после того, как им сообщили, что их речь анализировалась {356} 356 Когда арестанты думали, что их речь анализируют, 14 % солгали, сказав, что не употребляют наркотики. Однако когда они не знали, что их речь подвергается анализу на наличие стресса в голосе, солгали 40 %. См.: Damphousse K. R., Pointon L., Upchurch D., Moore R. K . Assessing the validity of voice stress analysis tools in a jail setting. . Таким образом, по-видимому, тест на наличие стресса в голосе работает благодаря блефу: люди, скорее всего, не станут лгать, если будут знать, что их могут разоблачить. Психологи называют это явление «эффектом фиктивного полиграфа». Оно было обнаружено Эдвардом Джоунзом и Гарольдом Сигалом, которые использовали поддельный детектор лжи, чтобы заставить испытуемых «открыть канал связи с собственной душой» и обнаружить их настоящие помыслы {357} 357 Jones E. E., Sigall H . The bogus pipeline: a new paradigm for measuring affect and attitude // Psychological Bulletin. 1971. Vol. 76 (5). P. 349. . Полиция, страховые фирмы и правительственные учреждения могли бы сэкономить кучу денег, просто притворившись, что они купили детекторы лжи! Однако все это заставляет меня задуматься о том, сколько времени может продолжаться такой блеф.

Достаточно немного покопаться в интернете, чтобы без труда обнаружить свидетельства бесполезности подобных систем. Но тест на наличие стресса в голосе — это технология-зомби. Сколько бы ни разоблачали ее с помощью научных доказательств, она так или иначе возрождается снова. Не обращая внимания на результаты научных исследований, Министерство труда и пенсионного обеспечения Великобритании потратило 2,4 миллиона фунтов стерлингов с мая 2007 по июль 2008 года, проверяя возможность использования этой технологии для сокращения случаев мошенничества с пособиями. Идея была такая: когда заявитель звонит в правительственное учреждение, анализ стресса в голосе поможет сотрудникам определить, на кого следует обратить особое внимание. В четырех из семи случаев, что составило 80 % всех телефонных звонков, система сработала так же, как если бы сотрудник просто подбросил монетку {358} 358 Arthur C . Government data shows £ 2.4m «lie detection» didn’t work in 4 of 7 trials. http://www.ministryoftruth.me.uk/2012/02/08/nemesyscos-lva-technology-ghosts-in-the-noise/#disqus_thread . . «Жаль, что они потратили такую огромную сумму денег, чтобы получить такой результат, можно было бы для начала просто задать нужные вопросы», — сказал мне Франсиско Ласерда.

Сложности с обнаружением обмана в голосе заключаются в том, что и лжец, и говорящий правду могут находиться в стрессе. Исследователи лжи называют это «ошибкой Отелло» {359} 359 Ekman P . Telling Lies: Clues to Deceit in the Marketplace, Politics, and Marriage (revised edition). WW Norton & Company, 2009. . В пьесе Шекспира Отелло обвиняет жену, Дездемону, в любовной связи с Кассио, своим лейтенантом. У Кассио видели платок, который Отелло подарил Дездемоне. Отелло думает, что Кассио убили, исполнив его приказ, и сообщает Дездемоне, что Кассио мертв. Она решает, что у нее не осталось возможности доказать свою невиновность. Отелло принимает ее страдания за доказательство вины и убивает ее.

Если бы Отелло жил в наши дни, мог бы компьютер помочь ему определить, виновна Дездемона или нет? Как человек, много лет занимающийся машинным обучением, могу поспорить, что исследование только интонации и ритма речи Дездемоны вряд ли указало бы ему на правду. Если ни одному научному исследованию не удалось найти каких-либо определенных моделей, которые люди используют, когда лгут, и если стресс может изменять голос даже у тех, кто не лжет, тогда даже самый лучший алгоритм машинного самообучения ждет неудача.