Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Критика IIT Шанаханом, см.: http://arxiv.org/ftp/arxiv/papers/1504/1504.05696.pdf

О слепом пятне см.: http://tinyurl.com/blindsight-paper

См. сн. 105.

“Сознание без доступа”, за и против, см.: Victor Lamme (2010), How neuroscience will change our view on consciousness, Cognitive Neuroscience , 204–20 ( http://www.tandfonline.com/doi/abs/10.1080/17588921003731586)

См.: https://www.youtube.com/watch?v=vJG698U2Mvo

См. сн. 126.

Подробное обсуждение этих вопросов см. в книге Дэниела Деннета Consciousness explained .

См. сн. 103.

См. по поводу свободы воли в Стэнфордской философской энциклопедии : https://plato.stanford.edu/entries/freewill

Видео, в котором Сет Ллойд объясняет, почему искусственный интеллект должен ощущать себя обладающим свободной волей, см.: https://www.youtube.com/watch?v=Epj3DF8jDWk

См. Dreams of a Final Theory: The Search for the Fundamental Laws of Nature (см. рус. пер.: Вайнберг С. Мечты об окончательной теории: физика в поисках самых фундаментальных законов природы / пер. с англ. А. В. Берков. М.: УРСС, 2004. – Прим. перев. ).

См. сн. 91.

За открытым письмом ( http://futureoflife.org/ai-open-letter/), написанным по итогам конференции в Пуэрто-Рико, о том, что проведение исследований, направленных на достижение надежности и дружественности искусственного интеллекта, необходимо и своевременно, появился документ о приоритетах, где перечислены существующие уже сегодня конкретные исследовательские направления, которые позволяют двигаться к этой цели: http://futureoflife.org/data/documents/research_priorities.pdf

Мое видеоинтервью с Илоном Маском о AI-безопасности: https://www.youtube.com/watch?v=rBw0eoZTY-g

Видеокомпиляция практически всех попыток посадить ракету SpaceX, включая успешную, см.:

https://www.youtube.com/watch?v=AllaFzIPaG4

Сообщение о нашем конкурсе по AI-безопасности Маск опубликовал в своем Twitter: https://twitter.com/elonmusk/status/555743387056226304

Твитт Маска о нашем открытом письме, призывающем к исследованиям по AI-безопасности: https://twitter.com/elonmusk/status/554320532133650432

Статья, подшучивающая над новостной бурей в прессе по поводу нашего открытого письма, см.: http://www.popsci.com/open-letter-everyone-tricked-fearing-ai

Твитт Маска о его большом пожертвовании в пользу нашего института и исследований по AI-безопасности: https://twitter.com/elonmusk/status/555743387056226304

Сайт Партнерства по созданию искусственного интеллекта на благо людей и общества (Partnership on AI to benefit people and society), см.: https://www.partnershiponai.org

Примеры недавних отчетов по искусственному интеллекту, см.:

– 100-летняя программа исследований искусственного интеллекта в Стэнфорде: http://tinyurl.com/stanfordai

– Отчет Белого дома о будущем искусственного интеллекта: http://tinyurl.com/obamaAIreport

– Отчет Белого дома о воздействии искусственного интеллекта на рынок труда: http://tinyurl.com/AIjobsreport

– Отчет IEEE об искусственном интеллекте и человеческом благосостоянии: http://standards.ieee.org/develop/indconn/ec/ead_v1.pdf

– Дорожная карта US Robotics: http://tinyurl.com/roboticsmap

Среди принципов, не попавших в итоговый документ, один из самых мной любимых был такой: “Пока нет общего согласия, мы должны избегать сильных допущений относительно возможности искусственного интеллекта обладать сознанием и чувствами или требовать их для себя”. Он прошел много итераций, и на последней из них вызывавшее споры слово “сознание” было заменено на “субъективные переживания”, и все равно этот принцип набрал только 88 % голосов, лишь немного недотянув до требуемых 90 %.

Дискуссионная панель с Илоном Маском и другими великими умами, см.: http://tinyurl.com/asilomarAI