Ричард Уотсон - Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

На мой взгляд, нам срочно необходимо видение будущего человечества, повествование, которое даст ответы на вопросы о том, кто мы и чем мы отличаемся от других известных форм интеллекта. В результате технологии в целом и цифровые в частности должны получать широкое признание только в рамках неких последовательно согласованных рамок. При этом следует учитывать не только текущие возможности, но и вероятное развитие в будущем. Особенно это касается искусственного интеллекта, виртуализации робототехники и автономных систем.

Следует также учитывать тот факт, что у людей есть руки и их нужно чем-то занять. Использование рук – это один из способов проявления человеческого мышления. По мере того, как мир становится все более дигитализированным, мы должны все больше думать о применении рук для реализации связи с реальностью.

Хорошая новость заключается в том, что вы читаете это до 2050 года – маловероятно, что вы обеспокоены восстанием роботов. В обозримом будущем люди будут заниматься роботами, хотя в этом и кроется проблема. Это люди разрабатывают и используют цифровые технологии и это люди создают проблемы другим людям. Нам нужно справляться не с технологиями, а с собственными проблемами, особенно учитывая, что мы используем цифровые технологии для того, чтобы все сильнее дистанцироваться друг от друга.

Можно оспорить довод об экспоненциальном характере развития технологических изменений. Например, нетрудно заметить, что развитие авиакомпаний идет в обратном направлении. Некоторое время скорости самолетов стабильно увеличивались, но вскоре они замерли на определенной отметке. После гибели сверхзвукового пассажирского самолета и введения мер повышенной безопасности скорость перемещения, возможно, даже несколько уменьшилась. Если вы не сидите в первом классе и не владеете собственным самолетом, даже комфорт пассажиров несколько пострадал.

Неясно, снижается ли уровень человеческого интеллекта, но есть все основания полагать, что в то время, как цифровые технологии будут развиваться семимильными шагами, будет продолжать расти и человеческая глупость. Как отмечает Эдвард О. Уилсон, это весьма неудобное сочетание. Я подозреваю, что мы должны либо замедлить развитие технологий, либо начать стремительно развивать себя и свой интеллект.

Не стоит беспокоиться о настоящем искусственном интеллекте, о котором я обычно говорю, или «мощном» ИИ, значительно превосходящем человеческий разум, если его развитие и применение находится под контролем. Однако мы уже приближаемся к точке, где контроль становится сложным.

Что же касается технологического скачка или сингулярности ИИ, в рамках которого наши машины проснутся или станут сознательными по человеческим меркам, я считаю, что в настоящее время это невозможно, если не произойдет, как это ни странно, значительного развития человеческого мышления. Одно только увеличение вычислительных мощностей вряд ли приведет к сингулярности ИИ, если мы не изменим наши представления о том, как это может быть достигнуто. Скорее всего, мы также скоро достигнем физических пределов их увеличения. Закон Мура, выведенный в 1965 году, гласит, что вычислительная мощность удваивается примерно каждые 18 месяцев, однако вскоре это может вступить в противоречие с основами физики. Могут появиться квантовые и ДНК-компьютеры, но на это не стоит особенно рассчитывать.

Помимо прочего, в настоящее время мы можем только приблизительно описать человеческое сознание, не говоря уже о том, чтобы искусственно воспроизвести его в виде машины. Сказать, что в один прекрасный день мы создадим искусственное сознание без объяснения, как это будет достигнуто, так же глупо, как утверждать, как я слышал недавно, что в будущем мы сможем пересаживать головы… нам просто сначала нужно понять, как это делать.

Однако кто знает! Как сказал Джон Мейнард Кейнс в 1930-е годы, «будет невредно осторожно подготовиться к нашей судьбе». Более того, даже если настоящий ИИ никогда не будет создан, существует еще ползучая информатизация, рост автоматизации, чисто виртуальные интерфейсы и частные базы данных и возрастание цифровой централизации, с которыми нам придется бороться. Поэтому мы всегда должны помнить слова Хэла Финни, ученого-компьютерщика, который в 1992 году написал, что компьютер должен быть использован в качестве инструмента, способного освободить и защитить людей, а не контролировать их.