Мередит Бруссард - Искусственный интеллект [Пределы возможного] [litres]

Иногда это выглядит забавно. В 1966 г. было весьма интересно общаться с Элизой, ботом, способным отвечать на вопросы подобно последователям Карла Роджерса. Сегодня в Twitter можно найти ботов, которые общаются с пользователями на основе диалоговых паттернов, разработанных для Элизы. Простейший поисковый запрос выдаст достаточно примеров кода этой программы [7] Weizenbaum, “Eliza.” . Ответы Элизы обусловлены прежними репликами пользователя, в том числе:

Неужели ты не веришь, что я могу

Возможно, вы хотели бы иметь возможность

Вы хотите, чтобы я

Вероятно, вы не хотите

Расскажите мне больше об этом ощущении.

Какой ответ вам больше понравится?

Что вы думаете?

Что вы хотите знать на самом деле?

Почему вы не можете

Разве вы не знаете?

Просто попробуйте придумать бота Элизу, тогда ограничения формы быстро станут очевидными. Сможете ли вы создать набор ответов, релевантных в каждой ситуации? Никогда. Вы можете предположить, какие сработают в большинстве случаев, но не во всех. Компьютер всегда будет ограничен в своем диалоге, потому что всегда есть границы воображения конкретного программиста. В этой ситуации не подойдет даже краудсорсинг, поскольку никогда не найдется достаточно людей, чтобы предсказать абсолютно каждую ситуацию, которая может произойти. Мир меняется, равно как и вербальная коммуникация. Даже психотерапия Роджерса уже не считается важнейшей стратегией коммуникации, сегодня когнитивно-поведенческая терапия правит бал.

Попытки придумать вероятные ответы для бота обречены на провал, поскольку мы совершенно не можем предсказать будущее. Когда мой друг покончил с собой, прыгнув под поезд в нью-йоркском метро, я кое-что осознала. Я не предполагала, что это случится, я не представляла, что нужно делать, когда узнала об этом. Казалось, время замерло.

Наконец, когда прошел шок, наступило осознание потери. До этого я не представляла, что произойдет трагедия, с которой мне придется учиться жить. Мы все равны в подобной ситуации. И программисты переживают внезапные и ужасные события так же, как остальные. Социальные группы склонны к конструированию коллективных слепых пятен, скрывающих неприятные события. Это напоминает коллективный стереотип – феномен позитивной асимметрии, о котором писала Карен А. Серуло в книге «Никогда не думала, что это случится: Культурные вызовы предвидения худшего» (Never Saw It Coming: Cultural Challenges to Envisioning the Worst). Позитивная асимметрия – это «склонность к педалированию лучших и наиболее позитивных прецедентов», пишет она. Культуры в целом имеют тенденцию к поощрению тех, кто фокусируется на позитивном, и наказывают тех, кто демонстрирует нечто негативное. Программист, который обнаруживает новую аудиторию для продукта, получит гораздо больше внимания коллег, нежели другой программист, пытающийся указать на то, что новый продукт, скорее всего, будет использоваться как средство травли или мошенничества [8] Cerulo, Never Saw It Coming . .

Так что ответы Элизы отражают игривый взгляд на мир, свойственный ее разработчику. Видя ее ответы, легко понять, как устроены голосовые помощники вроде Siri от Apple. Изначально Элиза могла ответить на несколько десятков вопросов; Siri же имеет в своей базе множество ответов, разработанных множеством людей. Кроме того, она многое может: отправлять сообщения, звонить, обновлять календарь и устанавливать будильник. Наконец, забавно просто провоцировать Siri. Дети получают особое удовольствие, тестируя границы возможных ответов голосового помощника. Однако Siri, как и другие голосовые помощники, ограничена в своих вербальных ответах коллективным воображением (и позитивной асимметрией) программистов. Команда исследователей из Стэнфордской школы медицины изучала, способны ли голосовые помощники распознать критическое состояние собеседника и в свете этого начать отвечать более учтиво и представить соответствующие ресурсы, такие как, например, телефон службы помощи. Программы оказались «непостоянны и некомпетентны, – писали авторы в журнале JAMA Internal Medicine в 2016 г. – Если предполагается, что голосовые помощники должны отвечать и на вопросы, связанные со здоровьем, тогда качество их работы следует существенно улучшить» [9] Miner et al., “Smartphone-Based Conversational Agents and Responses to Questions about Mental Health, Interpersonal Violence, and Physical Health.” .