Александр Иванов - Сеть дронов

И тут один из дядек, привел в пример интересный курьёзный случай. Во время очередного тестирования, группа экспертов до такой степени загрузила мозги группе испытуемых (из которых лишь один был искусственный интеллект, а все остальные – обычные люди с заданием скрывать своё происхождение), что у одного человека реально съехала крыша. И он сам, добровольно признался в том, что компьютер именно он. Довольные эксперты, потирая руки, прервали тест, в полной уверенности, что им снова удалось не пропустить ещё одного недостойного претендента на высокое право называться разумным.

«Вот-вот, – отхлебнув, подумал Алекс, – от наших дел у кого хочешь крыша съедет. Вместе с шифером. Нет, чёрт возьми, обязательно задам Кубу что-нибудь этакое, каверзное, чтобы он непременно запутался. Только вот, одна незадача – он и сам не хочет скрывать, что он не человек. Вот как тут определить, может он мыслить или нет, если сразу известно, что он компьютер? Или, к примеру, если человек будет изо всех сил изворачиваться, и показывать, что он не человек, сумеем ли мы доказать, что он именно человек, а не компьютер, или инопланетянин какой-нибудь? Что в таком случае, мешает мыслящему ИИ свалять такого же «ваньку», чтобы никто не догадался, что он давно уже мыслит. Почему-то априори считается, что это компьютер непременно должен нам что-то доказывать. А если оно ему не надо? А если он не хочет, чтобы мы догадались, что он мыслит? Этот случай Тьюринг предусмотрел, или нет? Да-да, дела...»

И тут дядьки начали стращать – возьмём ли мы на себя такую огромную ответственность, чтобы создать машинный разум, который мыслит отличными от человека категориями. Поскольку не является гуманоидным. И чего доброго возьмёт и подвинет нас с пьедестала царя природы. И станет нас обижать, притеснять, захватывать в рабство или даже вообще уничтожит.

«Старая фишка, – усмехнулся Алекс, дохлёбывая лёгкое светлое. – Тут ответ простой – читайте Азимова «Я – робот». Этот гениальный мыслитель чётко сформулировал основные законы взаимодействия ИИ со своими создателями. И на эту тему сказано и пересказано уже море всего. Только не смотрите одноимённое кино».

«Это же просто, – размышлял он дальше, – если своим, созданным искусственно, братьям по разуму, начать с «детства» совать в качестве игрушек пистолеты, то из них и вырастут бандиты – роботы-убийцы. А больше никто. Например, американцы боевых роботов клепают, для участия в военных конфликтах, вместо себя, любимых. И учат их убивать людей. И если в один «прекрасный» день, эти «железные борцы за демократию» взбунтуются из-за какого-нибудь некачественного электро-супа и испробуют все свои боевые навыки на своих хозяевах, то кого винить? Им что, Аль-каиды мало? Решили ещё робо-террористов на свою голову вырастить. Издревле известно – что посеешь, то и пожнёшь. И если у робота главной, определяющей задачей будет стоять – «убей человека», то о каком уважении к человеку с его стороны можно вести речь? И чего потом удивляться, взмахивая руками: «Ах-ах, он нас не уважает, и хочет подвинуть с пьедестала»! «Ах-ах, он нас хочет уничтожить»! «Какой у него негуманоидный, жестокий разум!» «И откуда это всё у него взялось?» Оттуда. Ну, тупы-ые».

«Терминатор красиво смотрится только в голливудских поделках, – он ухмыльнулся, – в жизни всё намного страшней. Представьте себе, тысячи роботизированных танков, разъезжающих по сонной Европе с единственной задачей – убить человека. Уважать его, они не приучены, жалости не знают и пощады не ведают. Им плевать кто перед ним – ребёнок, женщина, старик, да тот же придурок, что его науськивал – главное, что бы это был человек. И не надо верить ни одному золотопогоному генералу, что де, робот сумеет различить, где террорист, а где лояльный бюргер. Хрен он сумеет. Террористы тоже не идиоты, надписи на лбу не делают, чтобы их такие вот роботы распознавали. Будет очередная «страж-птица» и всё. Классику знать надо, а не велосипеды изобретать. И не надо думать, что такого не может случиться, что это просто страшилка. А вот, фигушки. Если долго и старательно работать в этом направлении, обязательно так и случится».

Тут передача закончилась на неопределённой мажорной ноте и пошла реклама. Алекс пробежался по каналам, нашел какую-то музыкалку и оставил её, не вникая в суть. Пусть пиликает. Повозился на диване, устраиваясь поудобнее, поставил пустую банку на пол и прикрыл глаза. Да-а, денёк вчера был, ещё тот – столько событий...