Мацей Габланковски - Илон Маск - Откровенно говоря…

«Производство часто считается каким-то повседневным процессом создания копий. Но это не так. Производство – это постройка машины, которая построит другие машины. Произведенная машина важна, но не менее важно создание той машины, которая ее произведет. Оказывается, что очень часто тиражирование сложней, чем создание оригинала. В Tesla, например, мы безо всяких проблем можем сделать один автомобиль. Но сделать их тысячи, сохраняя при этом высокую надежность, качество и в то же время низкие затраты, чрезвычайно сложно. Я бы сказал, что это в десять раз сложнее, чем сделать один прототип, а может быть, и в десятки раз» [182].

Я думаю, что люди сегодня как-то уж слишком увлеклись всяким там интернетом, финансами и правом.

Это одна из причин, почему у нас мало инноваций [183].

Илон Маск уже много лет повторяет, что сближение нашего разума и цифрового мира при помощи интерфейса с высокой пропускной способностью просто необходимо.

«В настоящее время пропускная способность у нас ограничена. Мы создаем цифровое «я», используя электронную почту, компьютеры, телефоны, приложения. Мы практически суперлюди, но пропускная способность интерфейса между корой головного мозга и нашим цифровым «я» сильно сдерживает нас. Преодоление этого ограничения будет очень важно в будущем» [184] С. Альтман. Как построить будущее, интервью с Илоном Маском, цитата. .

Искусственный интеллект – это и шанс, и угроза.

«Мы должны быть очень осторожны, имея дело с искусственным интеллектом. Если бы мне нужно было назвать величайшую экзистенциальную угрозу для человечества, я бы сказал, что это именно он. Мы должны быть очень внимательны с ним. Я все больше склоняюсь к мысли, что должен быть какой-то административный надзор, может быть, на государственном, а может, и на международном уровне, который позаботился бы о том, чтобы мы не наделали глупостей. Работая над искусственным интеллектом, мы вызываем демонов. Все мы знаем истории, в которых парень с пентаграммой и святой водой уверен, что сможет контролировать этих монстров, но в итоге терпит неудачу. (…) ЭАЛ-9000 – это мелочи. Сама технология намного сложнее. Настолько, что ЭАЛ-9000 трусливо дрожал бы перед ней, как маленький щенок» [185] И. Маск, беседа с Х. Перайрой, цитата. .

«Нужно прилагать максимум усилий, чтобы у человечества было хорошее будущее, – для меня это очевидно. Необходимо тратить значительно больше средств на разнообразные формы безопасности, связанные с искусственным интеллектом. Наибольшей пользой от развития последнего станет избавление от рутинной, нудной работы. При решении многих утомительных, скучных, неинтересных задач возможны прорывы в областях, недостижимых сегодня для человеческого интеллекта.

Лучше предупредить (или, по крайней мере, попытаться сделать это) негативные последствия развития искусственного интеллекта, чем ждать, пока они возникнут, и только тогда реагировать. Тем более что потенциально их диапазон огромен, и некоторые из них могут быть очень серьезными. Неизвестно, сможем ли мы возродиться после некоторых из них. Зато ясно, что можно создать сценарии, в которых человеческая цивилизация больше уже не восстановится. Когда риск настолько серьезен, лучше сосредоточиться на профилактике, а не на лечении» [186] И. Маск, комментарий о безопасности AI. – YT: https://youtu.be/vKC85-jnPpU, расшифровка: http://shitelonsays.com/transcript/elon-musk-thomasdietterich-on-ai-safety-2015-01-15 [дата доступа: 22.07.2018]. .

«Риск, как я полагаю, заключается не в том, что искусственный интеллект в кратчайшие сроки разовьет собственную волю. Меня беспокоит скорее то, что кто-то может использовать его неправильным образом. Или даже если он не намерен этого делать, кто-то другой может его перехватить и использовать во зло. Здесь, на мой взгляд, кроется угроза. В связи с этим я считаю, что нам необходимо демократизировать технологию искусственного интеллекта, чтобы она была широкодоступной. Мы создали OpenAI для лучшего распространения этой технологии, ведь так она не будет сосредоточена в руках небольшого количества людей» [187] С. Альтман. Как построить будущее, интервью с Илоном Маском, цитата. .