Владимир Левендорский: SWRRF. 20?? (воспоминания из будущего). Кн. 6. Часть 1

В принципе, с большинством таких проблем тогда успешно справлялись, благодаря созданию продвинутых техник глубоко обучения, формированию конструкторов алгоритмов… Но всё это вполне надёжно работало в системах, расположенных на каком-то конечном пространстве (пусть и занимающем десятки квадратных километров), с неким конечным числом управляемых объектов (даже, если их были многие тысячи) и нацеленных на решение какого-то конечного числа задач, решаемых неким конечным числом «сценариев»…

Все это в таких случаях решалось созданием комплекса «мастер-программ», создававшихся во взаимодействии соответствующего «ИИ» и человека, его контролёра-настройщика. А те уже «мастер-программы» обучали своих «коллег» и подчинённые менее продвинутые системы…

В задачу человека входило «подсказывание» решений в ситуациях, которые не имели однозначного формально логического решения или расчёты «ИИ» давали вероятностные результаты… По возможности выявлялись все такие ситуации в рамках решаемых программой задач. Но все ситуации, даже, в таких системах стопроцентно не удавалось просчитывать… Поэтому в их закладывались стоп-алгоритмы, ситуации, в которых система «ИИ» должна было обратиться за помощью, советом к человеку. «Сценарии» прохождения таких выявляемых с помощью человека ситуаций включались в усовершенствованные программы «ИИ».

И ещё задавались «красные линии», действия, которые «ИИ» ни в коем случае не должен была совершать. Потому что пресловутое «первое правило робототехники» на деле оказалось прекраснодушной общей декларацией. Уже в самых первых ИИ-системах пришлось «программировать убийство». И не только в «боевых вариантах». Но и, например, в программы управления автопилотов машин. В эти программы приходилось включать алгоритмы, как действовать в экстремальных ситуациях, когда надо решать, чьими здоровьем и, возможно, жизнью жертвовать: «своего» пассажира или других участников сложившийся ситуации. Универсальные этические алгоритмы долго не получалось создать. В реальности в то время для каждой системы с «ИИ» надо было прописывать, что не надо делать, чтобы фатально не навредить человеку, самой себе и среде в которой система работает…

За всем этим надо было следить: как система самообучается, не выходит ли за «красные линии»…. И тогда появились новые профессии, которые в какой-то мере компенсировали рост безработицы, вызванный массовым увольнением «кодописателей», – появились, упомянутые уже, контролёры-настройщики интеллектуальных систем.

Эти профессии были очень востребованными и очень хорошо оплачиваемыми, потому что мало кто для них годился. Помимо знания алгоритмом и языков «старого программирования», элементы которых, как подчинённые вторичные подсистемы входили в системы «ИИ», для этих профессий нужно было хорошее, «фундаментальное», математическое образование, которое в то время уже мало где можно было получить, не менее хорошие знания различных фундаментальных наук и прикладных дисциплин в зависимости от круга решаемых интеллектуально-логической системой задач… А ещё у этих людей должны были быть отменное здоровье, устойчивая психика и позитивный жизненный настрой…

Когда ты работал в качестве «контролёра», тебе надо было внимательно следить, когда контролируемая тобой система наткнётся на «стоп-точку» или «красную линию», и тогда тебе надо было быстро подсказать правильное решение или отрубать какой-то сегмент системы или её целиком… Внешне это было похоже на работу былых операторов атомных электростанций, диспетчеров аэропортов и железнодорожных узлов… Только принимаемые решения были намного сложнее и скорость принятия решения требовалась более быстрая…

Но эти самые «точки» и «линии» в твоё дежурство могли и не появиться. Они могли не появиться и в течении недели твоих дежурств, и месяца… И это было хорошо. Значит, система качественно запрограммирована и обучена. Каждая такая «точка» или «линия» – экстремальные ситуации, которые, понятное дело, лучше бы, вообще, не происходили…

Но всё это время ты должен был быть готов к их появлению, должен был максимально внимателен, собран, сконцентрирован. Ты находился в колоссальном напряжении. Стандартное дежурство длилось два с половиной часа: три «захода» в Центр контроля по полчаса с получасовыми перерывами. В этом режиме ты работал пару месяцев, а потом получал двухмесячный «отпуск»…