Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

По мере роста эффективности и числа навыков искусственного интеллекта он также станет инструментом власти. С наружным наблюдением, военными действиями и пытками лучше справляются сущности, не склонные к эмоциям, конфликтам ценностей или усталости. Однако опасность того, что враждебные или даже смертоносные машины выработают у себя злонамеренное сознание и обратятся против человечества, равна нулю. Свободой воли будут обладать только институты и организации, которые станут использовать ИИ — с добрыми или злыми намерениями.

Не нужно дожидаться появления сверхинтеллекта для того, чтобы превратить абстрактную полемику об искусственном интеллекте во вполне реальные вопросы по поводу власти, ценностей и социальных изменений. Технология может инициировать развитие исторических изменений; сама она никогда не станет такими изменениями. История Джона Генри XXI века не будет ни героической, ни интересной. У «белых воротничков» нет способов красиво уйти или сражаться до последнего. У нас не будет народных героев, погибающих в бизнес-центрах. Современный Джон Генри просто растворится в общей статистике. Несомненно, вычисленной современной мыслящей машиной.

Когда мы думаем о мыслящих машинах, то обычно рассуждаем о мышлении в том смысле слова, который применим к карманному калькулятору. Ввод, хрясь, вывод, бам! Вот ваш ответ. Мы любим эти машины и нуждаемся в них, потому что они мыслят так, как мы мыслить не можем: последовательно, всесторонне и быстро. Но обратное тоже верно. Мы мыслим так, как не могут мыслить они. Машины не беспокоятся по поводу вашего состояния души. Они неэмоциональны. Они к вам никак не относятся. Когда ваш компьютер делает подсчеты для налоговой декларации и выдает определенное число, то не задумывается над тем, как его вам преподнести — быстро или медленно, прямо или уклончиво. Ему неинтересно, такой ли ответ вы хотите получить, да он и не может интересоваться.

Дело в том, что машинам безразличны отношения. Для нас, однако, отношения — практически единственная вещь, имеющая значение. Когда мы думаем, то не просто вычисляем, нас беспокоят социальные последствия. Как наши решения могут повлиять на других? Как это скажется на нашем будущем взаимодействии? Как к нам отнесутся? Машины так не думают. Следовательно, иллюзий насчет возможности сколько-нибудь значительного социального взаимодействия с ними быть не должно. Коммуникация между людьми построена на такой психологии, которую освоил только наш вид. Наше преимущество заключается в том, что мы можем образовывать друг с другом социальный сплав, связывая себя обязательствами, касающимися общих целей и мотивов. Подлинное взаимодействие подразумевает формирование своеобразной единой корпорации, хоть и мимолетное. Мы думаем, чувствуем и действуем вместе и, в сущности, как единое целое. Это позволяет нам не только сообща добиваться успеха, но и сообща терпеть неудачу.

Машины подчиняются, но не сотрудничают. Поэтому им нужно научиться разделять общие причины для деятельности, общие цели, общий вклад в долгосрочные результаты. Мы хорошо ладим с мыслящими машинами, ведь они хорошо дополняют наши умственные способности. Так пусть же они занимаются вычислительным мышлением, а относительное мы оставим себе.

Спрашивать, что я думаю о мыслящих машинах, — это как спрашивать, что я думаю о гравитации. Мыслящие машины существуют и являются одним из новейших достижений человеческой культуры, зародившейся более 5000 лет назад с появлением средств статической внешней памяти, таких как клинописные таблички и кипу [96] Узелковое письмо у древних перуанцев. — Прим. пер. . Эти изобретения в основном служили для хранения численной информации, обслуживавшей стандартные процедуры принятия решений. Через много веков мы разработали более сложные и разнообразные предметы и машины, чтобы делать расчеты и хранить числовые и текстовые данные. Мы, люди, не только любим постоянно общаться, нам присуща неутолимая жажда информации. Появление двоичного кода и его автоматизация в компьютерах дали нам возможность записывать, хранить и обрабатывать все типы данных, а мы продолжили совершать технологические прорывы в этой области в типично человеческой манере, то есть помешавшись на новизне и совершенно не задумываясь о последствиях. Мы как никогда зависим от мыслящих машин во всем, что связано с большими объемами данных: в хранении, переводе, управлении, организации доступа. Эти устройства теперь обслуживают не такие уж стандартные процессы принятия решений в медицине, юридической практике и машиностроении, дополняют творческую мысль во время создания музыки, написания стихов и генерации визуальных образов. Грубая комбинаторная сила позволяет мыслящим машинам учиться на собственном опыте, и в обозримом будущем эта способность будет подкреплена усилиями человека, когда машины получат возможности к самовоспроизводству, мутации, созданию еще более сложных сетей, а в определенный момент и к проведению собственных евгенических опытов.