Стюарт Рассел - Совместимость. Как контролировать искусственный интеллект

Основные идеи, освещенные в этой книге, разрабатывались совместно с членами Центра исследования совместимого с человеком ИИ в Беркли. Это в первую очередь Том Гриффитс, Анка Драган, Эндрю Критч, Дилан Хэдфилд-Менелл, Рохин Шах и Смита Милли. Центром прекрасно руководят исполнительный директор Марк Нитцберг и заместитель директора Рози Кэмпбелл при щедром финансировании Open Philanthropy Foundation.

Рамона Альварес и Карин Вердо обеспечили бесперебойную работу в течение всего проекта, а моя замечательная жена Лой и наши дети, Гордон, Люси, Джордж и Айзек, щедро одаривали автора жизненно необходимыми ему любовью, терпением и подбадриванием в доведении дела до конца, не всегда в этом порядке.

Рис. 2: (б) © The Sun / News Licensing; публикуется с разрешения Архивов Смитсоновского института.

Рис. 4: SRI International.creativecommons.org/licenses/by/3.0/legalcode.

Рис. 5: (слева) © Berkeley AI Research Lab; (справа) Boston Dynamics.

Рис. 6: © The Saul Steinberg Foundation / Artists Rights Society (ARS), New York.

Рис. 7: (слева) © Noam Eshel, Defense Update; (справа) © Future of Life Institute / Stuart Russell.

Рис. 10: (слева) AFP; (справа) публикуется с разрешения Хенрика Соренсена.

Рис. 11: Elysium © 2013 MRC II Distribution Company L. P. All Rights Reserved. Courtesy of Columbia Pictures.

Рис. 14: © OpenStreetMap contributors. OpenStreetMap.org. creativecommons.org/licenses/by/2.0/legalcode.

Рис. 19: фото местности, DigitalGlobe via Getty Images.

Рис. 20: (справа) публикуется с разрешения управления полиции Темпе.

Рис. 24: © Jessica Mullen / Deep Dreamscope.creativecommons.org/licenses/by/2.0/legalcode.

Цит. в пер. Н. Брагинской. — Прим. пер.

В русскоязычной литературе используется название «узкое исчисление предикатов». — Прим. ред.

Менее двух центов на пассажиро-километр. — Прим. пер .

Разговорное название Королевского института международных отношений (брит.). — Прим. пер.

В России выходит под названием «Своя игра». — Прим. ред.

«Торонто Мейпл Лифс» — профессиональный хоккейный клуб. — Прим. пер.

Министерство государственной безопасности ГДР. — Прим. пер .

Англ. laws — «законы». — Прим. пер.

Страховая дискриминация старых или трущобных районов, часто сопутствующая расовой дискриминации. — Прим. пер.

Англ. Erewhon, анаграмма слова nowhere — «нигде». — Прим. пер.

Аллюзия на стихотворение Д. Томаса «Do not go gentle into that good night», цитировавшееся в фильме «Интерстеллар». — Прим. пер.

В русскоязычной традиции — «принцип Юма». — Прим. пер.

Замечу, что в теории принятия решений уже полвека проводятся исследования по оптимизации неизвестной или неопределенной целевой функции. Простейший пример — задачи оптимизации предпочтений ЛПР (лица, принимающего решения) в ситуации, когда эти предпочтения неизвестны и выявляются в диалоге с ЛПР. — Прим. науч. ред.

Люди у которых гендерная идентичность совпадает с полом. — Прим. ред.

Смысл существования (фр.). — Прим. пер.

Шесть камней огромной силы из комиксов и фильмов Marvel. Если их собрать вместе, можно менять реальность по своему желанию. — Прим. ред.

Аллюзия к очень популярной в США детской книге Доктора Сьюза «Зеленые яйца и ветчина», написанной в 1960 г. — Прим. ред.

Из трактата «Левиафан» английского философа-материалиста XVI в. Томаса Гоббса. — Прим. ред.

Знак 4-Way Stops — аналог российского «Движение без остановки запрещено», но устанавливается со всех четырех направлений перекрестка и работает по правилу «кто первый встал на стоп-линии, тот первый и проезжает». Если встали одновременно двое, вступает в силу правило «помеха справа». Знак широко используется в США, Канаде и ЮАР. — Прим. ред.

В битве при Эшдауне, остановившей захват английских королевств Великой армией датчан и спасшей Уэссекс от разграбления, младший брат короля Альфред, увидев, что противник занимает выгодную позицию на вершине холма, в нарушение приказа совершил превентивную атаку, оттянул на себя основные силы врагов и обеспечил саксам победу. — Прим. пер.

Храм на вершине холма Монмартр в Париже. — Прим. науч. ред.