Эми Уэбб - Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

René Descartes, Meditations on First Philosophy, Second Meditation § 25, 1641, University of Connecticut, http://selfpace.uconn.edu/class/percep/ DescartesMeditations.pdf.

René Descartes, Treatise of Man, trans. T. S. Hall (Cambridge, MA: Harvard University Press, 1972).

Gottfried Wilhelm Leibniz, The Monadology, trans. Robert Latta, (1898), https://www.plato-philosophy.org/wp-content/uploads/2016/07/TheMonadology-1714-by-Gottfried-Wilhelm-LEIBNIZ-1646-1716.pdf.

Полагают, что слово «компьютер» впервые употреблено в книге The Yong Mans Gleanings , написанной Ричардом Брейтуэйтом в 1613 году. В те времена «компьютерами» называли людей, производящих вычисления.

“Blaise Pascal,” Biography.com, https://www.biography.com/people/blaisepascal-9434176.

Лейбниц пишет в De progressione dyadica : «[Двоичное] исчисление может быть реализовано при помощи машины, оснащенной отверстиями таким образом, чтобы их можно было открывать и закрывать. Их следует открывать в местах, соответствующих 1, и оставлять закрытыми – в соответствующих 0. Через открытые отверстия должны проваливаться кубики или шарики, попадая в желоба, а там, где они закрыты, ничего происходить не должно. Его [массив отверстий] можно сдвигать из одной колонки в другую по мере необходимости».

Лейбниц пишет: «Я еще раз задумался над своим давнишним планом создания системы логических выводов, которая могла бы служить средством общения для всех разнообразных народов… Если бы мы располагали подобным универсальным устройством, то могли бы обсуждать проблемы метафизики или этики так же, как проблемы и задачи по математике или геометрии. В этом и заключалась моя цель: любое недопонимание стало бы не более чем ошибкой в вычислениях… легко устранимой при помощи грамматических правил нового языка. Таким образом, в случае трудного спора философы могли бы просто сесть за стол и произвести вычисления. Подобно двум математикам, они могли бы сказать: „Давайте это подсчитаем“».

“Apes to Androids: Is Man a Machine as La Mettrie Suggests?” http://www. charliemccarron.com/man_a_machine/.

Luigi Manabrea, Sketch of the Analytical Engine Invented by Charles Babbage (London: Richard and John E. Taylor, 1843).

Desmond MacHale, The Life and Work of George Boole: A Prelude to the Digital Age, New ed. (Cork University Press, 2014).

В русскоязычной литературе устоялось название «проблема разрешения», но по существу эта задача представляет собой теорему, поэтому мы позволяем себе использовать в отношении ее глагол «доказать». – Прим. пер.

Лучшее объяснение содержится в книге ученого-логика Мартина Дэвиса The Universal Computer: The Road from Leibniz to Turing : «Тьюринг знал, что лучше всего задавать алгоритм в виде списка правил, которые человек мог бы исполнять механически, подобно рецепту в кулинарной книге. Он сумел показать, что список действий для такого человека может быть сведен к небольшому количеству исключительно простых операций без последствий для результата вычисления. Затем, доказав, что способная выполнять только эти элементарные операции машина могла бы определить, следует ли данное заключение из указанных предпосылок… он пришел к выводу, что алгоритма, удовлетворяющего условиям Entscheidungsproblem , не существует».

На самом деле в рассказе «Лжец» сформулирован только Первый закон. Все три впервые появляются в рассказе «Хоровод». – Прим. пер.

Русское издание: Дж. фон Нейман, О. Моргенштерн «Теория игр и экономическое поведение». М., Наука, 1970. – Прим. пер.

В тексте отсутствует указание, в каких единицах выражается емкость запоминающего устройства. – Прим. пер.

Alan Turing, “Computing Machinery and Intelligence,” Mind 59, no. 236 (1950): 433–60.

“A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence,” Stanford Computer Science Department’s Formal Reasoning Group, John McCarthy’s home page, links to articles of historical interest, last modified April 3, 1996, http://www-formal.stanford.edu/jmc/history/ dartmouth/dartmouth.html.

В своем предложении Маккарти, Минский, Рочестер и Шеннон привели такой список экспертов, которых намеревались пригласить в Дартмутский университет для работы над ИИ. Я воспроизвожу список так, как он был опубликован в 1955 году, с указанием компаний и адресов. Не все упомянутые в нем лица смогли принять приглашение.

Адельсон, Марвин

Hughes Aircraft Company

Эрпорт-Стейшен, Лос-Анджелес, Калифорния

Эшби, В. Р.

Барнвуд-хаус

Глостер, Англия

Бэкус, Джон

IBM Corporation

Мэдисон-авеню, 590

Нью-Йорк, штат Нью-Йорк

Бернстайн, Алекс

IBM Corporation

Мэдисон-авеню, 590

Нью-Йорк, штат Нью-Йорк

Бигелоу, Дж. Х.