Шерри Тёркл - Живым голосом. Зачем в цифровую эру говорить и слушать

Двенадцатилетняя Эстель приходит к роботу Kismet в поисках беседы. Девочка одинока, ее родители разведены. Проводя время с роботом, она чувствует себя особенной: вот робот, готовый слушать только ее. На Эстель произвело большое впечатление, что у Kismet меняются выражения лица, но, к сожалению, в день ее посещения речевые способности робота не на высоте. В результате эта сессия крайне разочаровала Эстель. Вместе с нашей небольшой командой сопровождающих исследователей девочка возвращается в помещение, где мы беседуем с детьми до и после встречи с роботами. Эстель пьет сок, ест крекеры и печенье, принесенные нами специально, чтобы люди могли перекусить. Девочка ест и ест, не в силах остановиться, пока мы не просим ее оставить хоть немного еды для других детей. Она перестает поглощать еду, но ненадолго. Вскоре она уже снова торопливо ест, пока мы ждем машину, которая должна отвезти ее обратно на внеклассные занятия.

Эстель объясняет нам, почему она так расстроена: ей кажется, что она не понравилась роботу Kismet . Робот сначала заговорил с ней, а потом отвернулся. Мы объясняем, что дело вовсе не в ней. Тут проблема технического характера. Наши объяснения не убеждают Эстель. С ее точки зрения, она потерпела поражение в свой самый важный день. Уходя, Эстель берет четыре коробки печенья из подсобки и кладет их к себе в рюкзак. Мы ей не мешаем. Утомленные участники моей команды вновь собираются вместе в ближайшей кофейне, чтобы задать себе трудный вопрос: может ли сломанный робот причинить боль ребенку?

Мы бы так не беспокоились об этике, если бы речь шла о ребенке, играющем с дефектной версией Microsoft Word или с порванной куклой Тряпичная Энни. У текстового процессора вполне инструментальные задачи. Если в какой-то день он работает хуже, чем обычно, это может раздражать пользователя, но не более того. Но если программа побуждает вас к контакту, это уже совсем другая история.

Чем сломанный Kismet отличается от сломанной игрушки? Игрушка побуждает детей проецировать их собственные истории и собственную повестку на пассивный объект. Но дети воспринимают коммуникабельных роботов как “живых настолько”, чтобы обладать собственной повесткой. Дети привязываются к ним не посредством психологической проекции, а посредством психологии реляционной вовлеченности – то есть примерно так же, как они привязываются к людям.

Если маленькая девочка чувствует вину из-за того, что разбила мамин хрусталь, она может наказать за это целую вереницу кукол Барби – к примеру, поместить этих Барби под арест и таким образом разобраться со своими чувствами. Куклы становятся материалом, помогающим запустить механизм психологической проекции, чтобы ребенок мог проработать свои эмоции. Но коммуникабельный робот преподносит себя как нечто обладающее собственным разумом. Если такой робот отвернулся от ребенка, у последнего возникает впечатление, что робот отвернулся по собственной воле. Поэтому дети считают, что совершают достижение, завоевав сердце коммуникабельного робота, ведь так приятно понравиться тому, кто нравится вам. Опять-таки, дети взаимодействуют с коммуникабельными роботами не посредством психологической проекции, а посредством вовлеченности. Они реагируют так, словно перед ними другой человек, а значит, как и в случае с людьми, им могут причинить боль.

Эстель отреагировала на эту эмоционально напряженную ситуацию депрессией и поиском “комфортной пищи”. Другие дети, тоже разочарованные общением с Kismet, отреагировали агрессией. Шестилетний Эдвард не смог понять, что ему говорит Kismet , а потому начал совать предметы роботу в рот – металлическую булавку, карандаш, модель экскаватора – словом, все, что мальчик смог найти в лаборатории робототехники. Тем не менее на протяжении всего сеанса Эдвард был вовлечен в общение с Kismet . Он не хотел терять шанс завоевать симпатию робота.

Особое внимание стоит обратить вовсе не на риски, сопряженные со сломанными роботами. Нам следовало бы подумать вот над какими вопросами: какую позитивную эмоцию мы могли бы дать этим детям, если бы роботы были в своей самой лучшей форме? Почему мы вообще предлагаем детям общество роботов? Для одинокого ребенка коммуникабельный робот – гарантия, что его не отвергнут; ребенок может довериться роботу. Но вообще-то дети вовсе не нуждаются в гарантии того, что неодушевленный объект будет симулировать свое расположение к ним. На самом деле детям нужны отношения, благодаря которым они научатся настоящей взаимности, заботе и эмпатии.