Станислав Петровский: Темная сторона искусственного интеллекта

По словам Эльвиры Талапиной, главного научного сотрудника Института государства и права Российской академии наук, доктора юридических наук, доктора права (Франция):

«Амбициозные планы человечества по использованию цифровых технологий во всех сферах жизнедеятельности впечатляют масштабами и футуристическими зарисовками, но не стоит забывать, что все это будет происходить непосредственно в нашем обществе. В обществе со сложившейся правовой культурой, традициями и ожиданиями. Было бы несомненной ошибкой концентрироваться лишь на радужных перспективах, игнорируя риски, которые таят цифровые технологии. Перед публичным правом стоит задача осмысления технологического обновления, с тем чтобы уберечь при этом устоявшиеся правовые ценности, одну из которых представляют собой фундаментальные права человека». 4 4 Талапина Э. Алгоритмы и искусственный интеллект сквозь призму прав человека // Журнал российского права. 2020. №10.

Согласно Резолюции Европейского парламента: «Человечеству еще только предстоит осознать сущность искусственного интеллекта и создать непротиворечивое нормативное регулирование в области применения систем робототехники с учетом соблюдения фундаментальных прав личности, защиты информации, принципов пропорциональности, необходимости и ответственности». 5 5 См. Резолюция Европейского парламента P8_TA-PROV (2017) 0051 «Нормы гражданского права о робототехнике».

Эта книга написана, чтобы стучаться в каждую дверь. Эта книга – приглашение задуматься над социальными и правовыми проблемами в сфере ИИ. Их решение видится не только в технологиях, но и в законах. Только все вместе мы способны повлиять на принятие новых законов, ограничивающих корпорации и правительства во имя процветания и самой жизни человечества.

Говоря об искусственном интеллекте, мы неизбежно сталкиваемся с более широким вопросом: что такое интеллект?

Ученые придумали сотни, если не тысячи вариантов ответов на этот вопрос и не пришли к точному определению. В общем, мы понимаем, что интеллект включает память, самосознание, целеполагание, умение делать обобщения, обучение, прогнозирование последствий поступков, планирование, управление поведением, оценку результатов действий и решений. Некоторые также относят к интеллекту мышление по аналогии (распознавание проблем или поведения людей, похожих на виденное или прочитанное в прошлом), а также креативность, интуицию, озарение. Также выделяют эмоциональный интеллект, т. е. способность понимать взаимоотношения людей, предвидеть эмоциональную реакцию на слова, интонации, жесты и поступки. Все эти элементы интеллекта взаимосвязаны.

Так, память нужна, чтобы хранить сведения о себе, знания, необходимые для прогнозов, планирования, деятельности и оценки результатов. Соответственно, от наших воспоминаний зависят самооценка, ценности, которые мы разделяем, профессиональные знания и навыки, умение обучаться. То, что мы помним, во многом определяет наш образ действий и личность.

Память человека не является раз и навсегда записанным списком событий, мыслей и чувств. Каждый раз, когда мы вспоминаем какую-то информацию, мы как будто достаем папку с полки, выбрасываем из нее ненужные документы и добавляем новые.

Данный эффект используется адвокатами, которые беседуют со свидетелями перед судом. Задавая наводящие вопросы, адвокат упорядочивает картину произошедшего в голове свидетеля. В итоге свидетель твердо помнит и описывает события… иногда не совсем соответствующие действительности.

Интереснейший эксперимент на эту тему провели в 1974 году Джон Палмер и Элизабет Лофтус в Калифорнийском университете (США). Двум группам испытуемых показали одинаковые фотографии с места автокатастрофы. Через некоторое время одну группу спросили: «Как быстро машина ехала в момент, когда столкнулась с другой машиной?», а второй группе задали похожий вопрос, но с глаголом «разбила». Участники второй группы в своих ответах указали большую скорость автомобиля при столкновении. Кроме того, при повторном опросе через несколько дней участники второй группы согласились с утверждениями экспериментаторов, что видели осколки стекла на фотографиях.

Таким образом, вопрос о разбитой машине вызвал из памяти образ фотографии автокатастрофы и дополнил его описанием действия – машина разбита. А раз авто разбито, значит, должны быть стекла – воображение достроило недостающие детали.