Стюарт Рассел - Совместимость. Как контролировать искусственный интеллект

Здесь есть возможность читать онлайн «Стюарт Рассел - Совместимость. Как контролировать искусственный интеллект» — ознакомительный отрывок электронной книги совершенно бесплатно, а после прочтения отрывка купить полную версию. В некоторых случаях можно слушать аудио, скачать через торрент в формате fb2 и присутствует краткое содержание. Город: Москва, Год выпуска: 2021, ISBN: 2021, Издательство: Альпина нон-фикшн, Жанр: Прочая околокомпьтерная литература, sci_popular, на русском языке. Описание произведения, (предисловие) а так же отзывы посетителей доступны на портале библиотеки ЛибКат.

Совместимость. Как контролировать искусственный интеллект: краткое содержание, описание и аннотация

Предлагаем к чтению аннотацию, описание, краткое содержание или предисловие (зависит от того, что написал сам автор книги «Совместимость. Как контролировать искусственный интеллект»). Если вы не нашли необходимую информацию о книге — напишите в комментариях, мы постараемся отыскать её.

В массовом сознании сверхчеловеческий искусственный интеллект — технологическое цунами, угрожающее не только экономике и человеческим отношениям, но и самой цивилизации. Конфликт между людьми и машинами видится неотвратимым, а его исход предопределенным. Выдающийся исследователь ИИ Стюарт Рассел утверждает, что этого сценария можно избежать.
В своей новаторской книге автор рассказывает, каким образом люди уже научились использовать ИИ, в диапазоне от смертельного автономного оружия до манипуляций нашими предпочтениями, и чему еще смогут его научить. Если это случится и появится сверхчеловеческий ИИ, мы столкнемся с сущностью, намного более могущественной, чем мы сами. Как гарантировать, что человек не окажется в подчинении у сверхинтеллекта?
Для этого, полагает Рассел, искусственный интеллект должен строиться на новых принципах. Машины должны быть скромными и альтруистичными и решать наши задачи, а не свои собственные.
О том, что это за принципы и как их реализовать, читатель узнает из этой книги, которую самые авторитетные издания в мире назвали главной книгой об искусственном интеллекте.
Все, что может предложить цивилизация, является продуктом нашего интеллекта; обретение доступа к существенно превосходящим интеллектуальным возможностям стало бы величайшим событием в истории. Цель этой книги — объяснить, почему оно может стать последним событием цивилизации и как нам исключить такой исход.
Введение понятия полезности — невидимого свойства — для объяснения человеческого поведения посредством математической теории было потрясающим для своего времени. Тем более что, в отличие от денежных сумм, ценность разных ставок и призов с точки зрения полезности недоступна для прямого наблюдения.
Первыми, кто действительно выиграет от появления роботов в доме, станут престарелые и немощные, которым полезный робот может обеспечить определенную степень независимости, недостижимую иными средствами. Даже если робот выполняет ограниченный круг заданий и имеет лишь зачаточное понимание происходящего, он может быть очень полезным.
Очевидно, действия лояльных машин должны будут ограничиваться правилами и запретами, как действия людей ограничиваются законами и социальными нормами. Некоторые специалисты предлагают в качестве решения безусловную ответственность.

Совместимость. Как контролировать искусственный интеллект — читать онлайн ознакомительный отрывок

Ниже представлен текст книги, разбитый по страницам. Система сохранения места последней прочитанной страницы, позволяет с удобством читать онлайн бесплатно книгу «Совместимость. Как контролировать искусственный интеллект», без необходимости каждый раз заново искать на чём Вы остановились. Поставьте закладку, и сможете в любой момент перейти на страницу, на которой закончили чтение.

Тёмная тема
Сбросить

Интервал:

Закладка:

Сделать

Какие концептуальные прорывы нас ожидают

Проблема создания универсального ИИ человеческого уровня далека от решения. Это не является вопросом большего количества денег, инженерных разработок или данных, как и более мощных компьютеров. Некоторые футуристы составляют графики, экстраполирующие экспоненциальный рост вычислительной мощности в будущее на основе закона Мура, указывая даты, когда машины превзойдут мозг насекомого, мозг мыши, мозг человека, мозг всех людей в совокупности и т. д. [114] Сравнение вычислительной мощности компьютера и возможностей человеческого мозга на графиках: Ray Kurzweil, «The law of accelerating returns», Kurzweilai.net, March 7, 2001. Эти графики бессмысленны, поскольку, как я уже говорил, более быстрые машины всего лишь быстрее дают вам неправильный ответ. Если бы он состоял в том, чтобы собрать всех ведущих экспертов по ИИ в одну команду с неограниченными ресурсами с целью создать интегрированную интеллектуальную систему человеческого уровня путем объединения лучших идей всех нас, результат был бы провальным. В реальном мире система разрушилась бы. Она не понимала бы, что происходит, не могла предсказать последствия своих данных, не знала, чего хотят люди в любой конкретной ситуации, — в общем, была бы до нелепости тупой.

Понимание того, как разрушилась бы система, позволяет исследователям ИИ выявлять проблемы, которые должны быть решены, — области, в которых необходимы концептуальные прорывы, — чтобы достичь ИИ человеческого уровня. Сейчас я опишу некоторые из нерешенных пока проблем. Когда мы справимся с ними, возможно, появятся новые, но их будет не слишком много.

Язык и здравый смысл

Интеллект без знаний — все равно что двигатель без топлива. Люди получают огромные знания от других людей: они передаются через поколения в форме языка. Среди них есть фактические: Обама стал президентом в 2009 г., плотность меди составляет 8,92 г/см 3, законы Ур-Намму устанавливают наказания за различные преступления и т. д. Огромный объем знаний заключен в самом языке — в понятиях, которые обусловливают его существование. Президент, 2009, плотность, медь, грамм, сантиметр, преступление и все прочие понятия заключают в себе обширнейшую информацию, представляющую собой выделенное множество процессов открытия и систематизации, благодаря которым, собственно, они и оказались встроены в язык.

Рассмотрим, например, слово медь , обозначающее определенный комплекс атомов во Вселенной, и сравним со словом арглебарглиум , которым я обозначаю столь же крупный комплекс совершенно случайным образом выбранных атомов во Вселенной. Можно открыть много общих, полезных и обладающих предсказательной силой законов о меди — ее плотности, проводимости, пластичности, точке плавления, звездном происхождении, химических соединениях, практическом применении и т. д. Напротив, об арглебарглиуме практически ничего нельзя сказать. Организм, говорящий на языке, который состоит из таких слов, как арглебарглиум, не мог бы функционировать, потому что никогда не открыл бы закономерностей, которые позволили бы ему моделировать и делать прогнозы в своей вселенной.

Машина, действительно понимающая человеческий язык, была бы способна быстро накапливать огромные объемы человеческого знания, что позволило бы ей превзойти результаты 10 000 лет обучения более чем 100 млрд человек, живших на Земле. Представляется попросту нецелесообразным ждать, когда машина заново сделает все эти открытия с нуля, начав с первичных сенсорных данных.

В настоящее время, однако, технология естественного языка не способна выполнить задачу прочтения и понимания миллионов книг, многие из которых поставили бы в тупик даже высокообразованного человека. Такие системы, как Watson от IBM, прославившаяся победой над двумя людьми-чемпионами американской телевизионной игры Jeopardy! {5} 5 В России выходит под названием «Своя игра». — Прим. ред. в 2011 г., способны извлекать простую информацию из четко сформулированных фактов, но не может строить комплексные структуры знания на основе текста, как и не в состоянии отвечать на вопросы, требующие построения длинных логических цепочек и использования информации из нескольких источников. Например, задача прочитать все доступные документы, относящиеся к концу 1973 г., и оценить (с объяснением) вероятный результат Уотергейта — процесса, приведшего к отставке президента Никсона, — далеко выходила бы за рамки сегодняшних возможностей.

Читать дальше
Тёмная тема
Сбросить

Интервал:

Закладка:

Сделать

Похожие книги на «Совместимость. Как контролировать искусственный интеллект»

Представляем Вашему вниманию похожие книги на «Совместимость. Как контролировать искусственный интеллект» списком для выбора. Мы отобрали схожую по названию и смыслу литературу в надежде предоставить читателям больше вариантов отыскать новые, интересные, ещё непрочитанные произведения.


Искусственный Интеллект RT - Заповедник мертвецов
Искусственный Интеллект RT
Отзывы о книге «Совместимость. Как контролировать искусственный интеллект»

Обсуждение, отзывы о книге «Совместимость. Как контролировать искусственный интеллект» и просто собственные мнения читателей. Оставьте ваши комментарии, напишите, что Вы думаете о произведении, его смысле или главных героях. Укажите что конкретно понравилось, а что нет, и почему Вы так считаете.

x