Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Мы обнаружим, что живем в мире всеведущих машин и автоматики, задолго до того, как будет построен самостоятельный мозг, обладающий самосознанием. Назовем этот мир «е-Гея» за неимением лучшего термина. В мире е-Геи электронные сенсоры (работающие с изображениями, звуками, запахами, вибрациями — всем, что можно себе представить) распространены повсеместно, они способны распознавать любые потребности человека и принимать меры к их удовлетворению, а также передавать соответствующую информацию заинтересованным лицам. Автоматизация позволяет осуществлять уборку зданий и помещений, управление транспортными средствами, мониторинг дорожного движения, изготовление и контроль качества товаров и даже подглядывать через окно (с помощью маленьких летающих сенсоров). Крупные города уже сплошь покрыты сенсорами, и их число будет только расти. В Копенгагене светодиодные фонари уличного освещения включаются, только если обнаружат, что кто-то едет по дороге, а будущие версии такой сети сенсоров могли бы оповещать о том, что пора посыпать обледеневшую дорогу или вывезти мусор, и, конечно, сообщать правоохранительным органам о чьем-либо подозрительном поведении.

На е-Гее успехи медицины будут поразительны: синтетическая биология создаст умные машины, которые смогут устранять проблемы прямо внутри наших тел; умные имплантаты будут отслеживать и записывать информацию о нашем нынешнем и прошлом физическом состоянии. Интерфейсы «мозг-машина» будут продолжать развиваться, сначала повышая качество жизни инвалидов, а со временем приводя к исчезновению явной границы между человеком и машиной. Интерфейсы виртуальной реальности будут становиться все более реалистичными и убедительными.

Почему бы отдельному разумному мозгу не появиться раньше? Удивительные достижения в области распознавания устной речи — о каких и подумать нельзя было десять лет назад — во многом связаны с огромными объемами информации и мощностями для ее хранения, а также со скоростными сетями. Улучшения в области обработки естественного языка основаны на имитации того, что делают люди, а не на понимании или моделировании их поведения. Это не следствие прорыва в изучении когнитивных способностей человека или даже значительного изменения алгоритмов. Но е-Гея отчасти уже здесь, по крайней мере в развитых странах.

Эта распределенная сеть нервных центров, взаимодействие между умами людей и наблюдающей за ними электроникой положит начало распределенной техносоциальной ментальной системе, подобных которой ранее не существовало.

Мышление — наша суперсила. Мы не самый сильный, не самый быстрый, крупный или выносливый вид. Но мы можем моделировать будущее и совершать намеренные действия, чтобы достигать его. Отчего-то именно мышление, а не умение высоко летать, глубоко нырять, громко рычать или производить миллионы детенышей позволило своим счастливым обладателям стать заметно (в буквальном смысле — это заметно из космоса) доминирующим видом на планете. Так что, если нам удастся построить нечто, обладающее нашей суперсилой, но только в большем объеме, это окажется делом очень серьезным. Поразмыслите над следующим вопросом: будет ли через тысячу лет Homo sapiens (а) доминирующей разумной силой на Земле или (б) историей, биологическим видом, породившим интеллект?

Ответ «а» мне кажется маловероятным. Но если произойдет «б», плохо ли это?

Все мы знаем, насколько порочны люди. Насколько алчны, иррациональны и ограничены в способности действовать сообща для общего блага. Есть опасность того, что мы уничтожим планету. Кто-нибудь в здравом уме захочет, чтобы человечество было последним словом эволюции?

Все зависит от того, как пройдет переход. Власть меняется разными способами. Например, путем насильственного уничтожения — предположительно, это мы проделали с неандертальцами. Есть много сценариев, согласно которым сверхразум так же поступит с нами.

Но эти сценарии игнорируют ключевой факт об интеллекте. Он не достигает полной силы в малых системах.