Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

• доля вещества нашей Вселенной, находящаяся внутри одного конкретного организма, например человека или кишечной палочки (как эволюционный результат максимальной эксклюзивной приспособленности);

• способность искусственного интеллекта предсказывать будущее, что, по Маркусу Гуттеру, служит хорошим показателем интеллектуального уровня;

• то, что исследователи искусственного интеллекта Александер Уисснер-Гросс и Кэмерон Фрир называют “причинная энтропия” (шлюз к будущим возможностям), которая, как они утверждают, служит фирменным знаком ума;

• вычислительная емкость Вселенной;

• алгоритмическая сложность нашей Вселенной (сколько бит нужно, чтобы описать ее);

• количество сознания во Вселенной (см. следующую главу).

Однако, отталкиваясь от физических представлений, в соответствии с которыми наш космос состоит из движущихся элементарных частиц, сложно увидеть, почему какая-то одна интерпретация “хорошести”, а не какая-то другая должна играть какую-то специальную роль. Нам еще надо определить некую финальную цель для нашей Вселенной, которая окажется и определимой, и желаемой. Единственные программируемые на данный момент цели, которые точно останутся хорошо определимыми, когда искусственный интеллект станет намного более разумным, это цели, выраженные исключительно в физических категориях, таких как упорядоченность частиц, энергия и энтропия. Однако в данный момент у нас нет причин верить, что любая из таких определимых целей будет желаемой, гарантируя выживание человечества.

Напротив, кажется, что человечество – это историческая случайность, которая не является оптимальным решением ни для какой хорошо определенной физической задачи. Это означает, что сверхразумный искусственный интеллект с жестко определенной целью сможет оптимизировать ее достижение, просто исключив нас. Это означает, что мудрое решение относительно разработок интеллектуальных систем для нас, людей, предполагает необходимость не только противостоять традиционным вычислительным сложностям, но и решать некоторые из самых упрямых вопросов философии. Чтобы запрограммировать беспилотный автомобиль, нам надо решить “проблему вагонетки”, априорно указав, кто будет жертвой во время аварии. Чтобы запрограммированный искусственный интеллект был дружественным, нам надо вложить в него представление о смысле жизни. А что такое “смысл”? И что такое “жизнь”? Каковы конечные этические императивы? Другими словами, как мы можем пытаться формировать будущее нашей Вселенной? Если мы вручим свою судьбу сверхразумному искусственному интеллекту до того, как ответим на эти вопросы, ответ, к которому он придет, вряд ли будет включать наше существование. Поэтому сейчас самое время еще раз вернуться к классическим спорам о философии и этике и отнестись к ним как к весьма срочному делу!

• Первопричины целенаправленного поведения – в законах физики, подразумевающих достижение оптимума.

• В термодинамике содержится встроенная цель диссипации энергии за счет увеличения беспорядка, измеряемого энтропией.

• Жизнь – это феномен, который способствует диссипации (увеличивая перемешивание всего со всем), ускоряя ее благодаря своей сложности, нарастание которой, как и репликация носителей жизни, способствует хаотичности среды.

• Дарвиновская эволюция переориентирует целенаправленное поведение с диссипации на репликацию.

• Интеллект – это способность к достижению сложных целей.

• Так как у людей не всегда есть ресурсы, позволяющие разобраться, какова оптимальная стратегия репликации, у нас развились полезные эмпирические правила, которые помогают нам принимать решения и которые мы воспринимаем как сигналы к действию – чувство голода, жажды или боли, как вожделение или сострадание.

• Таким образом, у нас больше нет такой простой цели, как репликация; когда наши чувства вступают в противоречие с целью наших генов, мы подчиняемся чувствам и поэтому, например, используем контрацептивы.

• Мы строим все более умные машины, которые помогают нам достигать наших целей. К тому времени, когда мы построим машину, демонстрирующую целенаправленное поведение, мы постараемся привести цели машины в соответствие с нашими.

• Приведение целей машины в соответствие с нашими включает три нерешенные проблемы: сделать так, чтобы машина узнала о них, приняла их и продолжала их придерживаться.