Евгений Ищенко - Двуликий электронный Янус

1. Роботы должны конструироваться и использоваться только с целью повышения благосостояния человека.

2. Роботы должны заменять людей лишь на тех работах, которые опасны или почему-либо нежелательны для человека.

3. Робот должен полностью повиноваться человеку, чтобы не подавлять его физически или психологически.

4. Робот не должен вредить человеку, в опасной ситуации он может причинить травму лишь себе.

5. Если роботы заменяют людей на рабочем месте, это должно делаться только с согласия заменяемых.

6. Управление роботом должно быть простым, чтобы его легко было использовать как помощника человека.

7. Выполнив свою задачу, робот должен уходить, чтобы не мешать другим работающим – людям или роботам.

Хорошие правила, ничего не скажешь. Но вот выполняются ли они?..

Хотя роботы все чаще заменяют человека на вредных производствах, но, как выяснилось, они сами создают новые опасности. Наиболее распространенные несчастные случаи, связанные с роботами, – это травмы или даже гибель человека, случайно подвернувшегося под механическую руку, когда робот совершает ею неожиданное быстрое движение. Бывает, что робот прижимает человека к стене, перемещаясь или поворачивая свой корпус. Наносятся травмы и тяжелыми деталями или заготовками, которые иногда вдруг выскальзывают из зажима манипулятора.

Конечно, во всех системах роботов предусматривается та или иная блокировка, задача которой – сделать невозможным пребывание человека в рабочей зоне автомата или исключить возможность движений робота, когда поблизости находится человек. Тем не менее несчастные случаи время от времени все же происходят. Их причины – ошибки в программировании, радиопомехи или наводки по электросети, к которым бывают чувствительны управляющие устройства роботов, наконец, неисправности в системе управления и просто неосторожность рабочих, плохо усвоивших технику безопасности.

Наводит на размышления и ситуация, сложившаяся через несколько недель после открытия выставки «Экспо-85» в японском городе Цукуба близ Токио. Многие из демонстрируемых там суперсовременных роботов стали проявлять… симптомы «заболевания». Специалист по электронике профессор Масахиро Мори охарактеризовал это явление как «перенапряжение» и «утомление». Роботы перестали правильно реагировать на команды, издавали неожиданные звуки. По мнению Мори, главной причиной такого расстройства электронных систем послужили микроскопические частицы пыли, забившиеся в сенсорные устройства. Чепуха вроде бы – пыль, а последствия…

Джеймс Зейглер, специалист из Нью-Йоркского центра исследований компании IBM, был заинтригован целой серией необъяснимых неполадок в компьютерной сети, о которых ему докладывали подчиненные. Объяснение им было найдено осенью 1996 года. Сбои в работе компьютеров, утверждает Зейглер, происходят в результате воздействия некоего космического излучения. Может быть, это лучи солнечного происхождения, а может – сверхбыстрые субатомные частицы, возникающие в результате взрывов сверхновых звезд. Нередко приходится иметь дело с нейтронами, которые стирают участок памяти микропроцессора, попадая на него. Иногда это пи-мезоны, очень тяжелые частицы с отрицательным зарядом, которые производят в микропроцессоре маленький взрыв с разрушением атомов.

Неполадки чаще возникают в местах, расположенных высоко над уровнем моря (там больше шансов, что космические лучи не рассеются в атмосфере). Было подсчитано, что в Денвере таких поломок происходит в 338 раз больше, чем в Нью-Йорке. Географическая широта тоже играет роль: чем ближе к экватору, тем космическое воздействие меньше. А как эти вездесущие частицы действуют на электронные мозги роботов? Едва ли благотворно!

Первый случай «убийства» роботом человека произошел в Японии в 1981 году. Инженер нарушил правила техники безопасности – зашел за ограждение робота-фрезеровщика. В поле зрения машины попала новая «деталь» – он схватил человека в свои железные руки, перевернул его, закрепил на столе и распорол фрезой сверху донизу. Этого бы, конечно, не случилось, обладай робот современными способностями – он запросто отличил бы человека от детали и сжалился бы над ним. Но тогда…

До конца апреля 1987 года в Японии было зарегистрировано десять таких прискорбных фактов, из них в четырех случаях виновным оказался сам человек, а в шести – робот, совершивший неожиданное резкое движение. Ежегодно в Японии отмечается 5–6 случаев травм, связанных с роботами. Всего на заводах Японии трудится несколько сотен тысяч роботов, потому о чем вроде бы говорить? Пустяки.