Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

В таком свете довольно неоднозначным выглядит вопрос о том, приведет ли появление неспециализированного искусственного интеллекта к быстрому возникновению сверхразумного интеллекта. Все больше специалистов согласны с тем, что создание первого, в сущности, подразумевает скорое появление второго. Хотя я в целом тоже согласен с этим, добавлю одну оговорку: искусственный интеллект в своем развитии может на какое-то время застопориться на почти человеческом уровне, устойчивые формы появятся не сразу, а неспециализированный ИИ даже при некоторой нестабильности должен работать на достаточно высоком уровне, чтобы начать самостоятельно совершенствоваться.

Ни один из вариантов не выглядит слишком уж оптимистичным. Сверхразум, который появится в определенный момент, все же может обладать различными недостатками, даже если будет эффективно справляться с поставленными задачами. Эта догадка, наверное, не сильно отличается от различных сценариев, где сверхразум идет вразнос (прихватывая с собой и нас) из-за отсутствия у него того, что часто называют здравым смыслом. Но здравый смысл — в некотором роде синоним устойчивости, выработавшейся у нас в ходе развития эволюционной и социальной экосистемы.

Так что даже если до возникновения неспециализированного ИИ еще очень далеко, я настроен достаточно пессимистично относительно тех вещей, которые якобы должны случиться сами собой, стоит им у нас появиться. Надеюсь, что я ошибаюсь, но время покажет. (Я не думаю, что мы можем — или что нам в принципе сто́ит — остановить развитие искусственного интеллекта. Он будет способен сделать множество великолепных дел.)

При этом я надеюсь, что по пути к неспециализированному ИИ ученые хорошенько подумают, как значительно снизить вероятность того, что все пойдет не по плану. Я очень расстраиваюсь, когда слышу в контексте, где ставки чрезвычайно высоки, что-то вроде: «Думаю, что произойдет X, так что меня не особо волнует Y». Можно так рассуждать, только если ваша уверенность в X достаточно высока, а Y не суперважен. Но когда вы говорите о том, что может коренным образом повлиять на будущее человечества (или на сам факт его существования), 75 %-ной уверенности недостаточно. Равно как недостаточно 90 %-ной или 99 %-ной! Мы бы никогда не построили Большой адронный коллайдер, если бы существовал 1 % вероятности (не говоря уже о 10 процентах) того, что он действительно породит черные дыры, которые поглотят мир, — наоборот, у нас были совершенно убедительные аргументы против этого. Давайте посмотрим, есть ли такие же аргументы в пользу того, чтобы не беспокоиться по поводу неспециализированного ИИ, и если их не будет, то создадим его.

В 1932 году Уолтер Кеннон опубликовал свою выдающуюся работу по физиологии человека — «Мудрость тела» (The Wisdom of the Body). Он описал тесную взаимосвязь множества параметров нашего тела, таких как гидратация, уровень глюкозы и натрия в крови, температура. Гомеостаз, или ауторегуляция, — это замечательное средство, с помощью которого мы сохраняем здоровье. В самом деле, в наших телах есть что-то от машин, когда они так точно регулируют эти важные функции.

Прошло почти столетие, и мы теперь готовы к следующей версии — «Кеннон 2.0». Хотя некоторые выражают заметное беспокойство по поводу развития искусственного интеллекта, он необычайно сильно повлияет на наш контроль над здоровьем. Мы быстрыми темпами идем к тому, чтобы стать киборгами, хирургическим путем связанными со своими смартфонами. Хотя их и называют протезами мозга, «умные» телефоны сегодня — это лишь далекие предвестники того, что нас ждет в будущем. Очень скоро важные медицинские показатели станут измеряться носимыми сенсорами, выполненными в виде пластырей или кулонов. Это будет не просто разовый анализ, но постоянная потоковая обработка в реальном времени, сбор данных, которыми мы никогда раньше не располагали.

Помимо основных жизненных показателей (артериального давления, сердечного ритма, уровня кислорода в крови, температуры, частоты дыхания), будет даваться цифровая оценка настроения и уровня стресса посредством измерения интонации и оттенка голоса, кожно-гальванического рефлекса и вариабельности сердечного ритма, распознавания выражения лица и отслеживания движений и коммуникаций. Добавим сюда анализ веществ, содержащихся в выдыхаемом воздухе, поте, слезах и кале. Еще один уровень данных будет включать такие сведения о внешней среде, как качество воздуха и содержание пестицидов в пище.