Эми Уэбб - Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

В то же время давняя традиция конструирования автоматов, что началась с маленького монаха, умевшего ходить и молиться, наконец встретилась с работой Тьюринга и Шеннона. Американская промышленная компания Westinghouse построила робота, выполненного на базе электрических реле, для Всемирной выставки 1939 года. Робота звали Elektro the Moto-Man, «механический человек Электро». Он выглядел как гигантская человекоподобная фигура золотистого цвета и довольно грубой формы. Под ногами у него были колеса. Внутри находились 48 реле, используемых в телефонной коммутации.

Электро умел реагировать на команды, подаваемые ему голосом по телефонной трубке, воспроизводя заранее записанные ответы на встроенном проигрывателе. Он представлял собой антропоморфный компьютер, способный принимать элементарные решения – например, что сказать – без непосредственного участия человека в данный момент.

Из газетных заголовков, научно-фантастических рассказов и кинохроники того времени видно, что люди были застигнуты врасплох, потрясены и напуганы подобным развитием событий. Для них происходящее выглядело так, словно эра «мыслящих машин» во всей своей полноте наступила в один день. Фантаст Айзек Азимов опубликовал пророческий рассказ «Лжец» в выпуске журнала Astounding Science Fiction за май 1941 года. Рассказ был его реакцией на достижения науки, свидетелем которых он оказался, и в нем Азимов впервые сформулировал знаменитые Три закона робототехники [28] На самом деле в рассказе «Лжец» сформулирован только Первый закон. Все три впервые появляются в рассказе «Хоровод». – Прим. пер. .

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться командам человека, если эти команды не противоречат Первому закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.

Позже Азимов добавил так называемый Нулевой закон.

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.

В 1943 году ученые-психиатры Уоррен Маккалоу и Уолтер Питтс из Чикагского университета опубликовали важную статью «Логическое исчисление идей, присущих нервной деятельности», где описывалась система нового типа, моделирующая живые нейроны при помощи нейронной сети простой архитектуры. Если контейнеры, программы и данные крепко связаны между собой, как утверждал Тьюринг, и если люди представляют собой аналогичные элегантно сконструированные контейнеры, следовательно, можно построить мыслящую машину, если смоделировать часть человеческого тела, ответственную за мышление, – мозг. Они сформулировали современную вычислительную теорию разума и мозга, «нейронную сеть». Вместо того чтобы сосредоточиться на идеях аппаратного и программного обеспечения, они предложили систему нового типа, способную перерабатывать огромные объемы данных, в точности как это делаем мы. Мощности компьютеров еще не хватало, чтобы проверить их теорию, но статья вдохновила других, начавших работу над разумными компьютерными системами.

Связь между разумными компьютерными системами и автономным принятием решений прояснилась благодаря публикации обширного трактата по прикладной математике, вышедшего из-под пера Джона фон Неймана, американского полимата венгерского происхождения, специалиста в области кибернетики, физики и математики. В 1944 году Нейман в соавторстве с Оскаром Моргенштерном, экономистом из Принстонского университета, выпустил книгу объемом в 640 страниц, где подробнейшим образом рассказывалось, как теория игр объясняет основы любых экономических решений [29] Русское издание: Дж. фон Нейман, О. Моргенштерн «Теория игр и экономическое поведение». М., Наука, 1970. – Прим. пер. . Именно благодаря этой работе фон Неймана пригласили сотрудничать с Вооруженными силами США, в то время занимавшимися разработкой электрической вычислительной машины нового типа, «Электронного числового интегратора и вычислителя», сокращенно ЭНИАК. Вначале инструкции, предназначенные для машины, реализовывались постоянными соединениями внутри нее, поэтому с каждой новой программой соединения во всей системе нужно было переделывать заново. Вдохновленный трудами Тьюринга, Маккалоу и Питтса, фон Нейман разработал новую систему хранения программ на самом компьютере. Тем самым совершился переход от первой эпохи развития вычислительной техники (табуляции) к новой – эпохе программируемых систем.