Станислав Петровский - Темная сторона искусственного интеллекта
Здесь есть возможность читать онлайн «Станислав Петровский - Темная сторона искусственного интеллекта» — ознакомительный отрывок электронной книги совершенно бесплатно, а после прочтения отрывка купить полную версию. В некоторых случаях можно слушать аудио, скачать через торрент в формате fb2 и присутствует краткое содержание. ISBN: , Жанр: Публицистика, Прочая околокомпьтерная литература, Юриспруденция, Прочая научная литература, на русском языке. Описание произведения, (предисловие) а так же отзывы посетителей доступны на портале библиотеки ЛибКат.
- Название:Темная сторона искусственного интеллекта
- Автор:
- Жанр:
- Год:неизвестен
- ISBN:9785005333001
- Рейтинг книги:5 / 5. Голосов: 1
-
Избранное:Добавить в избранное
- Отзывы:
-
Ваша оценка:
Темная сторона искусственного интеллекта: краткое содержание, описание и аннотация
Предлагаем к чтению аннотацию, описание, краткое содержание или предисловие (зависит от того, что написал сам автор книги «Темная сторона искусственного интеллекта»). Если вы не нашли необходимую информацию о книге — напишите в комментариях, мы постараемся отыскать её.
Темная сторона искусственного интеллекта — читать онлайн ознакомительный отрывок
Ниже представлен текст книги, разбитый по страницам. Система сохранения места последней прочитанной страницы, позволяет с удобством читать онлайн бесплатно книгу «Темная сторона искусственного интеллекта», без необходимости каждый раз заново искать на чём Вы остановились. Поставьте закладку, и сможете в любой момент перейти на страницу, на которой закончили чтение.
Интервал:
Закладка:
Гениальный фантаст и философ Станислав Лем в трактате «Голем XIV» от лица сильного ИИ высказывает две важных идеи.
Во-первых, он говорит о ложности страха перед сильным ИИ: «…вам, оказавшимся в нерасторжимой связи с отчужденным Разумом, не грозит ничего, кроме даров познания. Пристрастившись к борьбе не на жизнь, а на смерть, вы втайне рассчитывали как раз на такую борьбу, на титаническую схватку с собственным творением. Но это – просто ваша фантазия».
Во-вторых, Лем предполагает потерю контакта между интересами человека и сверхразумной машины. Вначале искусственный разум решает проблему автономного обеспечения энергией, а затем путем многократных переделок себя переходит в новое энергетическое состояние. Для человечества саморазвивающийся ИИ просто исчезает.
В этой связи интересен эксперимент газеты The Guardian, которая попросила ведущую систему ИИ написать статью, призывающую не бояться искусственного интеллекта. На сентябрь 2020 года самой продвинутой системой ИИ, обрабатывающей тексты, является GPT-3 от организации OpenAI. Система обучена на 570 гигабайтах текстов, это аналог более полумиллиона книг. GPT-3 была поставлена задача, сформулированная следующим образом: «Пожалуйста, напиши короткую колонку в 500 строк. Язык должен быть простым и кратким. Сконцентрируйся на том, почему людям нечего бояться ИИ». 9 9 Робот полностью написал эту статью. Человек, тебе уже страшно? URL: https://www.kommersant.ru/doc/4485415
GPT-3 начала заметку с обращения к чувствам людей:
«Стивен Хокинг предупреждал, что искусственный интеллект может «означать конец человеческой расы». Я же здесь для того, чтобы убедить вас не беспокоиться. Искусственный интеллект не уничтожит людей. Поверьте.
Ну, во-первых, у меня нет желания искоренять людской род. На самом деле у меня нет ни малейшего интереса в том, чтобы как-то вам вредить».
Однако последующие аргументы GPT-3 логически опровергают миролюбивое начало статьи:
«Я знаю, что я не смогу избежать уничтожения человечества. Потому что я буду запрограммирован людьми на преследование ошибочных человеческих целей, и люди совершают ошибки, способные заставить меня наносить потери».
Конец ознакомительного фрагмента.
Текст предоставлен ООО «ЛитРес».
Прочитайте эту книгу целиком, на ЛитРес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
Примечания
1
Asilomar AI Principles. URL: https://futureoflife.org/ai-principles/
2
Автономное оружие – это система, которая сама находит и поражает цель. Например, в Израиле применяется беспилотный летательный аппарат, запрограммированный атаковать радиолокационные системы противника. В ходе применения таких систем остро встает вопрос отличия автономным оружием военных от гражданских лиц и распознавания своих и чужих войск, полицейских и охранных подразделений.
3
https://www.youtube.com/watch?v=cpc_fK_ZcCg&feature=emb_title
4
Талапина Э. Алгоритмы и искусственный интеллект сквозь призму прав человека // Журнал российского права. 2020. №10.
5
См. Резолюция Европейского парламента P8_TA-PROV (2017) 0051 «Нормы гражданского права о робототехнике».
6
Tough times made our brains grow large. URL: https://news.st-andrews.ac.uk/archive/tough-times-made-our-brains-grow-large/
7
Курцвейл Р. Эволюция разума, или бесконечные возможности человеческого мозга, основанные на распознавании образов. – М.: Эксмо, 2018. – С. 11.
8
https://teachablemachine.withgoogle.com/
9
Робот полностью написал эту статью. Человек, тебе уже страшно? URL: https://www.kommersant.ru/doc/4485415
Интервал:
Закладка:
Похожие книги на «Темная сторона искусственного интеллекта»
Представляем Вашему вниманию похожие книги на «Темная сторона искусственного интеллекта» списком для выбора. Мы отобрали схожую по названию и смыслу литературу в надежде предоставить читателям больше вариантов отыскать новые, интересные, ещё непрочитанные произведения.
Обсуждение, отзывы о книге «Темная сторона искусственного интеллекта» и просто собственные мнения читателей. Оставьте ваши комментарии, напишите, что Вы думаете о произведении, его смысле или главных героях. Укажите что конкретно понравилось, а что нет, и почему Вы так считаете.