Андрей Кананин - Нереальная реальность – 3. Книга третья. Будущее

1.Контроль над искусственным интеллектом установит человек, либо группа лиц с корыстными личными целями. Для их выполнения искусственному интеллекту может быть поставлена задача уничтожения людей, либо их качественная «переделка».

2.В определённый момент времени искусственный интеллект будет контролировать все стратегические сферы жизнеобеспечения на планете для пользы человечества. Но в программе случится сбой, что повлечёт катастрофические последствия. Искусственный интеллект сломается и начнёт неумышленно совершать действия, которые приведут к непоправимым последствиям для жизни на Земле.

3.Искусственному интеллекту для решения какой-либо сверхсложной задачи могут потребоваться все земные ресурсы. Жизнь на планете для людей станет невозможной.

4.Люди по каким-то причинам будут постоянно стремиться подчинить себе искусственный интеллект, бороться с ним, мешать его работе. В такой ситуации наиболее простым решением станет уничтожение человечества.

5.Искусственный интеллект примет ошибочное решение, ведущее к уничтожению людей «для их же блага». Например, переместит всех в «рай» или в вечно «счастливый» виртуальный мир.

6.Искусственный интеллект решит провести опасный физический эксперимент и допустит ошибку в расчётах, что вызовет необратимые последствия для жизни.

7.Внутри дружественного искусственного интеллекта появится враг, конкурент и уничтожит его, а затем и людей.

Из сказанного выше видно, что не исключен вариант, когда homo sapiens не впишется в те кардинальные изменения, которые будут происходить в мире.

Люди могут стать тормозами прогресса.

Когда искусственный интеллект обретёт сверхчеловеческое сознание, прогресс, управляемый столь мощным разумом, станет невероятно быстрым. Достаточно скоро наступит событие, которое Вернор Виндж 4 4 Виндж Вернор Стеффан – американский математик, писатель-фантаст. назвал технологической сингулярностью.

В этот день мы перестанем быть самыми разумными существами на Земле. В мире воцарится новая реальность, очень далёкая от привычной нам. Это будет критическая точка развития цивилизации. Если человечество не сможет её преодолеть, то наш вид просто исчезнет с лица Земли.

Вероятно, уже в недалёком будущем нам придётся жить в одном мире с искусственными разумными существами. Мы находимся на пороге перемен, сопоставимых с появлением человека на Земле.

Как только искусственный интеллект достигнет уровня самосовершенствования, его дальнейшее развитие пойдёт очень быстро. По своим умственным возможностям он начнёт превосходить человека в миллионы раз.

Любопытно, что могущественный искусственный интеллект способен скрывать свое господство. Иначе говоря, может быть, он уже тайно управляет нами.

Многие тысячелетия назад, практически с начала верхнего палеолита, темп эволюции человека резко замедлился. Люди практически не менялись, менялись технологии. Похоже, что в XXI веке впервые кардинально изменится сам человек.

За последние 100 лет развитие нашей цивилизации неимоверно ускорилось. Десятки веков основным транспортным средством у людей была лошадь. И всего лишь за один век мы последовательно поменяли коня на автомобиль, поезд, самолёт. Человек даже слетал в космос.

Со времени рождения многих ныне живущих людей случилось столько же технологических прорывов, как за всю предыдущую историю. Буквально на памяти одного поколения произошли гигантские изменения в физике, биологии, астрономии. Однако, за те же 100 лет человечество пережило две мировые войны и множество техногенных катастроф. Поэтому, с одной стороны, прогресс не может не радовать, с другой – должен насторожить.

Не приближаемся ли мы к некой точке, когда ситуация просто выйдет из-под нашего контроля?

А, может быть, гибель нашей цивилизации – это объективный, неизбежный итог определённой стадии эволюции живого?

Многие считают человека венцом творения. Однако, если оценить этот самоуверенный вывод с точки зрения космологии, то он представляется весьма спорным.

От появления первой жизни до появления жизни разумной прошло около четырёх миллиардов лет. За это время Солнце не прожило даже половины своей жизни, не говоря уже о нашей Галактике и, тем более, о Вселенной в целом.

Для продолжения эволюции осталось не меньше времени, чем уже прошло. Его вполне достаточно для реализации самых фантастичных сценариев постчеловеческой истории. Даже если эволюция нашего вида продолжится естественным путем, будущие формы разумной жизни могут отличаться от нас так же, как мы от бактерий. При этом, есть все основания думать, что постчеловеческая эволюция будет достаточно быстрой. Особенно, если её будут осознанно направлять не органические, а искусственные существа.