Элиезер Юдковски - Краткое руководство по интеллектуальным героям

Даже при этом создание умных персонажей второго уровня требует от автора труда и наличия собственного интеллекта. Голливудский способ создания стереотипных гениев можно расценить как вариант абсолютной лени. Сценаристы изображают гениев, совершенно не включая мозг, они даже не трудятся попросить своих друзей-учёных поделиться техническими словечками. Семнадцать языков, удивительные гаджеты, побеждает гроссмейстера в шахматы, не умеет ухаживать за девушками? Все эти черты объединяет то, что их можно написать, не прикладывая существенных умственных усилий.

Поэтому берегитесь искушения ленью и будьте осторожны с тем, как вы жульничаете. Покажите, как персонаж страдает, покажите раздумья, покажите, как его интеллект второго уровня приводит к успеху. Покажите непредвиденные последствия. Заставьте персонажа иногда проигрывать. Только продемонстрируйте, что идеи срабатывают тогда, когда интуитивно кажется, что они должны сработать, причём, возможно, не всегда.

Вы можете иногда получить внутри вселенной более умного персонажа, чем вложили в него. Но вы не можете получить нечто из ничего. Я советую вам не думать, что вы можете полностью положиться на различные уловки, а стараться быть умным так, чтобы вы могли создавать Понимание Честной Игры, лежащие в основе Интеллекта Второго Уровня. В этом смысле тут нет отличий от Интеллекта Первого Уровня; все еще должна существовать эмпатия, которая питает его основу.

Персонажи с интеллектом второго уровня иногда изображаются как делающие нечто новое, что удивляет других персонажей, и почти всегда эти вещи должны быть Озарением Честной Игры. Тогда почему же удивляются враги - почему же они не получили Озарение Честной Игры сами? Возможно, потому что враг не столь умен как протагонист. Возможно, потому что у персонажа есть секретное оружие, личный ресурс, о котором враг не знал (например Истинная Мантия Невидимости). Но если ваш персонаж делает нечто, о чем не подумала вся цивилизация, мы должны спросить - а почему целая цивилизация не подумала об этом?

Есть старая шутка, что если экономист видит двадцать долларов на тротуаре, то он не станет их поднимать, решив, что если бы они были настоящими, их бы кто-нибудь уже подобрал.

На деле, если вы находитесь на пустынной улице, то достаточно правдоподобным является предположение, что вы первый, кто нашел эти деньги. Когда я спросил 20 людей, происходило ли такое с ними, четверо сказали, что да. Но можно заметить, что остальные ответили нет. И если вы видите сто долларов на полу Большого Центрального Вокзала в течение часа, то можно сделать ставку на то, что они к нему приклеены или же на этом полу нарисованы.

Поскольку я еще не видел официального термина для этого обобщения идеи "эффективных рынков", я решил использовать термин "неиспользуемость уязвимостей".

Если множество людей хотят чего-то, существующего в ограниченном количестве, то удивительно существование легкого пути, которым может воспользоваться любой, для получения данного ресурса. Много людей хотят денег, так что удивительно найти на дороге двадцать долларов. Это происходит, редко, в тех случаях, когда улица пустынна - наше общество не сканирует постоянно улицы на предмет валяющихся денег; это не стоит таких усилий. Но двадцать долларов не будут лежать часами на полу Большого Центрального Вокзала. Прохожие достаточно адекватны, чтобы поднять их. Пытаться найти двадцать долларов на полу Большого Центрального вокзала - наивно; тут нет низковисящих фруктов, они уже собраны, мы ожидаем, что такая проблема не будет не использовать уязвимости.

Эта идея имеет свои недостатки. Краткосрочные рынки акций неиспользуемы, но это вследствие большого количества умных людей, которым платят большие бонусы, если они могут предсказать и скорректировать единичный недостаток, на временной шкале где они получают много обратной связи о том, работают ли их идеи или нет (я определил краткосрочные рынки акций), используя механизм агрегации (ценообразование на рынке) которые на практике работает превосходно, суммируя вклад каждого. Это условия, при которых стандартная теория сильно предсказывает неиспользуемость. Вы не должны показывать как ваш персонаж удваивает свои деньги за месяц путем торговли на рынках, пока у них не будет наиболее продвинутого ИИ в мире или они не будут иметь глобальное уникальное предсказание или способность путешествовать во времени; буквально никто так не умен.