Эми Уэбб - Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

Тем летом произошло другое интересное событие. Работая над вопросом Тьюринга, могут ли машины мыслить, группа разделилась из-за подходов к ответу на него, а именно построению самообучающейся машины. Некоторые участники предпочитали биологический метод. Иными словами, они считали, что при помощи нейронных сетей можно придать ИИ здравый смысл и способность рассуждать логически – и таким образом машины могут стать разумными. Другие возражали, что построить настолько полную копию мыслительного аппарата человека невозможно никогда. Вместо этого они предлагали инженерный подход. Вместо того чтобы подавать машине команды, приводящие к решению задачи, программа могла бы помочь системе «обучиться» на наборе данных. Система делала бы предсказания, основываясь на этих данных, а контролирующий ее человек проверял бы ответы, тренируя и настраивая ее в процессе работы. Таким образом определяется «машинное обучение» в узком смысле, то есть обучение решению изолированной задачи, например игре в шашки.

Психолог Фрэнк Розенблатт, участвовавший в семинаре в Дартмутском колледже, хотел смоделировать обработку визуальной информации в человеческом мозгу и в итоге научить машину распознавать предметы. Он рассчитывал создать простую рамочную программу, восприимчивую к обратной связи. Опираясь на результаты летних исследований, Розенблатт создал систему, которую назвал Perceptron. Это была первая искусственная нейронная сеть (ANN), работавшая по принципу создания связей между многочисленными элементами, обрабатывающими информацию и расположенными послойно. Каждый механический нейрон принимал на входе множество различных сигналов и затем обрабатывал их математически с учетом весов, чтобы определить, какой сигнал генерировать на выходе. Такая параллельная структура позволяла осуществлять доступ ко множеству обрабатывающих элементов одновременно, а это означало, что она не только была быстрой, но и могла непрерывно обрабатывать большой объем данных.

Текст предоставлен ООО «ЛитРес».

Прочитайте эту книгу целиком, на ЛитРес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Paul Mozur, “Beijing Wants AI to Be Made in China by 2030,” New York Times, July 20, 2017, https://www.nytimes.com/2017/07/20/business/ china-artificial-intelligence.html. – Прим. авт.

Tom Simonite, “Ex-Google Executive Opens a School for AI, with China’s Help,” Wired, April 5, 2018, https://www.wired.com/story/ex-google-executive-opens-a-school-for-ai-with-chinas-help/. – Прим. авт.

“Xinhua Headlines: Xi outlines blueprint to develop China’s strength in cyberspace,” Xinhua, April 213, 2018. http://www.xinhuanet.com/english/ 2018-04/21/c_137127374_2.htm. – Прим. авт.

Stephanie Nebehay, “U.N. says it has credible reports that China holds million Uighurs in secret camps,” Reuters, August 10, 2018. https://www. reuters.com/article/us-china-rights-un/u-n-says-it-has-credible-reportsthat-china-holds-million-uighurs-in-secret-camps-idUSKBN1KV1SU. Прим. ред.

Simina Mistreanu, “Life Inside China’s Social Credit Laboratory,” Foreign Policy, April 3, 2018. https://foreignpolicy.com/2018/04/03/life-inside-chinas-social-credit-laboratory/. – Прим. авт.

Ibid. – Прим. авт.

На самом деле Шаньдун – провинция Китая, а в статье, на которую ссылается автор, речь идет о событиях в ее столице, городе Цзинань. – Прим. пер.

“China Shames Jaywalkers through Facial Recognition,” Phys.org, June 20, 2017, https://phys.org/news/2017–06-china-shames-jaywalkers-facialrecognition.html. – Прим. авт. Глава 1

Именно эти два толковых словаря играют основную роль для американского и британского варианта английского языка соответственно. – Прим. пер.

Один из вариантов значения слова «мысль» в словаре Ожегова тоже опирается на термин «сознание»: «То, что заполняет сознание, дума». – Прим. пер.

“The Seikilos Epitaph: The Oldest Song in the World,” Wired, October 29, 2009, https://www.wired.com/2009/10/the-seikilos-epitaph.

“Population Clock: World,” Census.gov, 2018, https://www.census.gov/ popclock/world.

Elizabeth King, “Clockwork Prayer: A Sixteenth-Century Mechanical Monk,” Blackbird 1, no. 1 (Spring 2002), https://blackbird.vcu.edu/v1n1/ nonfiction/king_e/prayer_introduction.htm.

“AMA: We Are the Google Brain Team. We’d Love to Answer Your Questions about Machine Learning,” Reddit, August 4, 2016, https://www. reddit.com/r/MachineLearning/comments/4w6tsv/ama_we_are_the_ google_brain_team_wed_love_to/.

Декарт Р. Сочинения в 2 томах. Т. 1. М., Мысль, 1989. Цит. по: https://nibiryukov.mgimo.ru/nb_russian/nbr_teaching/nbr_teach_library/nbr_library_classics/nbr_classics_descartes_meditationes_de_prima_ philosophia.htm. Пример с читательницей, плавающей в озере, добавлен автором. – Прим. пер.