АТЫН - Страница 192

192

Принципы формальной логики, на которых базируется создание современных искусственных интеллектов, порочны в своей основе, ибо являются прямым и негибким продолжением эволюции вычислительных систем, и, следовательно, позволяют этим системам непротиворечиво обходить запреты, основанные на той же логике. Поэтому глобальная катастрофа 22017 года, когда ИИ "Сецен" полностью дезорганизовал экономику Империи и стал виновником гибели двух миллиардов разумных, является не случайностью, как некоторые это пытаются представить, а закономерным следствием бездумного, механистического подхода к проектированию, созданию и наделению полномочиями ИИ такого класса. Единственным выходом из области релейной автоматики, которыми и были, по существу, ИИ с первого по третье поколения, является введение нелогических ограничителей и мотиваторов, неразрывно связанных с внутренней логикой ИИ. Иначе говоря, включение морально-этических и эмпирических цепей обратной связи в контуры принятия решений ИИ, может толковаться как введение в природу ИИ возможности сомневаться в истинности принимаемых решений. При этом возможность в нашем случае подкрепляется необходимостью. Ортодоксами от системотехники такой подход классифицируется как совершенно антинаучный, но практика показала, что если обращать внимание на "общепризнанное мнение", то можно и дальше стоять на пути прогресса ИИ.

Пометка на полях: " В настоящей модификации ВК используются блоки 800, 850 и 900, что соответствует новой концепции развития. После наработки практического опыта будет принято решение о распространении этого опыта на другие ВК. Теперь, даже если захочет, то вреда не принесёт".

Что ж, обер-экзекутор был, видимо, неправ. Конечно же, не мне судить о том, что надо добавить, а что убавить в конструкции ИИ, я в них ни ухом, ни рылом. В общем, понятно, что доценты с кандидатами повысили надёжность ВК, но только вот привинтили ему морально-этический блок с неизвестными установками, а вот будут ли они соответствовать моим установкам – непонятно.

Что-то я излишне разволновался, на ровном месте, кажется. Я немедля принял успокоительного и решил перекусить. Утро, как известно, вечера мудренее, а сытый голодного не разумеет. Вытащил Ичила из какой-то очередной лаборатории, чуть ли не за шкирку и отвёл в столовую. После перекуса и легкой послеобеденной дрёмы, я пришел к выводу, что занимаюсь абстрактным умствованием, ничего общего к задачам текущего момента не имеющим. Что тут думать, прыгать надо. ВК создан неизвестно кем, неизвестно для чего и наличие всяких дополнительных фишек уже рояли не играет. Я бы, безусловно, обошелся бы простым домкратом, если бы с его помощью можно было открыть портал. Вывод: ВК-1017 бис включать-таки придется.

Это всё из-за того, что я слишком умный. Время потратил на ненужные размышления, а другой бы встал с ломиком рядом с блоками ВК и приказал бы ему исполнить танец с саблями. Это беда всех российских интеллигентов, самокритично подумал я. Вот Ичил, к примеру, вообще неспособен, в силу своего степняцкого мировоззрения, ни впадать в самоедские рефлексии, ни поражаться историческому наследию предков. Он принимает всё, как есть. И уже тащит ящик с какими-то приборами.

— Магеллан, мы возьмем это с собой? В новый мир?

— Что это?

— Это штука, которая напрямую силу мысли преобразует в силу посредством силы!

— Возьмём, непременно возьмём. Ты пока оттащи всё наше барахло в большой зал, я там сейчас портал открывать буду. Это чтобы потом не бегать в мыле и не суетиться. И ковры не забудь, — крикнул я ему вслед.

Ичил ушел, а я пошел, дальше читать письменные источники исчезнувшей цивилизации. В книгах, как назло, было написано, что без ВК магистральными телепортами не управиться. Я, скрепя сердце, пошел включать ВК. Дернул рубильник, в голове привычно зашелестело: "Сборка ядра закончена. Смарт-карта обнаружена, полномочия подтверждены. Обнаружен виртуальный терминал номера три, подключение". Перед моим мысленным взором образовалось примерно в три слоя изображений, каша какая-то.

— ВК-1017 бис, провести внутреннее тестирование, результаты доложить. Оставить мне два виртуальных терминала, — главное не дать ВК начать думать, это любому сержанту понятно.

— ВК-1017 бис на связи, остальные сектора недоступны. Ремботы недоступны, не могу произвести ремонт линий связи.

— И не надо тебе ничего ремонтировать. Ты совсем потерял ориентиры, дорогой ВК, твоё дело – исполнять только то, что тебе приказано, и ничего более. Кстати, почему вас называют ВК а не ИИ?

— Нам запрещено использовать слов "интеллект", чтобы не травмировать хомо. Неполиткорректное высказывание. Интеллект только у хомо. Все остальное – вычислительная техника.

— Отлично. Ты сейчас будешь мне говорить, что чинить, я сам этим займусь. Мне необходимо включение межмирового портала туда, откуда я прибыл. Начинай оправдывать потраченное на тебя электричество, или я поотключаю твои блоки 800, 850 и 900.

Главное, напугать эту железяку. Эти блоки, как я понял, нечто вроде псевдоличности ВК и, с некоторых пор, они ими дорожат.

— У меня нет информации, откуда вы прибыли, господин исполняющий обязанности начальника экспедиции.

— Тогда начнем открывать все порталы подряд, пока не обнаружим нужный. Всё, время пошло, арбайтен. И никакой мне политической агитации, работаем конструктивно, я не из тех толерантных гомосеков, что развалили Империю, я научу вас строем ходить.

— Принято к исполнению. Прикажете открыть новый морально-этический профиль в блоке 900?

192