Мартин Форд - Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

Я оптимист и считаю, что представители разных групп могут и должны больше работать вместе и что исследователи ИИ могут стать инициаторами такого рода сотрудничества.

М. Ф.: Прокомментируйте проблему выравнивания, о которой писал Ник Бостром. С одной стороны, нам еще рано говорить о появлении суперинтеллекта, но может получиться так, что для поиска возможностей контроля таких систем потребуется еще больше времени. И именно поэтому решение проблемы выравнивания нужно искать уже сейчас.

Дж. Т.: На мой взгляд, задумываться о таких вещах можно и даже нужно. Просто не в первую очередь. Хотя бы потому, что существуют намного более актуальные экзистенциальные опасности. Проблему выравнивания ценностей трудно решить, потому что мы толком не знаем, что такое ценности. Те, кто занимается вычислительной когнитивистикой, пытаются понять, что же такое ценности, и выполнить их инженерный анализ. Но моральные принципы невозможно описать с инженерной точки зрения.

Мне кажется, что первым делом нужно лучше понять самих себя, и только потом можно будет переходить к технологической стороне. Нужно осознать, каким образом у людей появляется представление об их ценностях и моральных принципах. Этот вопрос актуален в когнитивистике, и по мере роста машинного интеллекта поиск ответа на него станет общеобязательным.

Кроме того, с помощью ИИ-технологий правительства и компании манипулируют людьми. В сравнении с этой проблемой выравнивание ценностей относится к фундаментальным исследовательским вопросам, которые нам вряд ли придется решать в реальности.

М. Ф.: Удастся ли добиться того, чтобы преимущества ИИ перевесили его отрицательные стороны?

Дж. Т.: По натуре я оптимист, поэтому мне сразу хочется ответить «да», но, к сожалению, этого нельзя гарантировать. Любые технологии, будь то ИИ, смартфоны или социальные сети, преобразуют нашу жизнь, меняют способ взаимодействия друг с другом и природу человеческого опыта. Я не уверен, что все это перемены к лучшему. Трудно с оптимизмом смотреть на семьи, в которых все проводят время со своими телефонами, или на то плохое, что принесли в нашу жизнь социальные сети.

Мы должны осознать и изучить все способы, которыми технологии делают с нами безумные вещи! Они проникают в наш мозг, меняют нашу систему ценностей, систему вознаграждений, систему социального взаимодействия. Я думаю, что нужно более активно исследовать эти явления.

Мне бы хотелось, чтобы сообщество серьезно озаботилось этой проблемой. Я оптимистично думаю, что в долгосрочной перспективе мы создадим ИИ, который, в конечном счете, принесет пользу всем. Но это возможно только при условии, что мы уже сейчас направим наши усилия в нужную сторону.

“Большинство людей, не задумываясь, ответит на вопрос «пройдет ли слон в дверной проем?», машина же впадет в ступор. То, что легко для одного, трудно для другого, и наоборот. Я называю это парадоксом ИИ".

Генеральный директор AI2

Орен Этциони курирует проект Mosaic. Является членом AAAI и успешным предпринимателем, стартапы которого приобретены такими гигантами, как eBay и Microsoft. Участвовал в реализации механизмов поиска, онлайн-шопинга, машинного чтения, извлечения открытой информации и семантического поиска академической литературы. Степень бакалавра computer science получил в Гарварде, а докторскую степень – в Университете Карнеги – Меллона. Был профессором в Университете штата Вашингтон. Стал соавтором более 100 технических документов.

Мартин Форд: Расскажите о проекте Mosaic и других проектах, над которыми вы работаете в AI2.

Орен Этциони: Задача проекта Mosaic – добавить компьютерам здравый смысл. Современные ИИ-системы отлично справляются с узкими задачами. Например, могут обыграть в го абсолютного чемпиона. Но если во время матча начнется пожар, ИИ этого не заметит, потому что не осознает окружающей реальности. В AI2 мы ищем ответ на вопрос, как с помощью ИИ сделать мир лучше. Некоторые сотрудники занимаются фундаментальными исследованиями, но в основном мы решаем инженерные задачи.

Например, в проекте Semantic Scholar рассматривается процесс научного поиска и генерации научных гипотез. Современным ученым приходится читать все больше и больше публикаций, соответственно, они начинают испытывать информационную перегрузку и нуждаются в помощи. Поисковая интернет-платформа Semantic Scholar использует машинное обучение, обработку естественного языка, а также различные методы ИИ, помогая ученым выбирать подходящие статьи.