Дикая собака - [67]

Но это потом. Если он есть — то никуда от меня не денется. А если его нет, то и волноваться не стоит. Я теперь немного погордился сам собой, что, во-первых, совладал с ВК, а во-вторых, что до сих пор не нажал кнопку «Строительство города-Венеции имени Санкт-Петербурга». В связи со вновь открывшимися обстоятельствами проект Академгородка на островах требовал серьёзной корректировки. Тяжкое наследие колониального режима требовалось переосмыслить, и не допустить того развития событий, которое произошло у нас, на Земле. В том смысле, что когда-то колонизаторы, — империалистические грабители, безусловно, — понастроили в Африках разные дома и города и даже обогатительные фабрики. Потом всё бросили и ушли. Даже крах режима апартеида Южной Африке мне не мил. С тех пор «Африка грёз и действительности»[45] превратилась в вечно воюющий континент. Я, кстати, с самого раннего детства эту книжку любил читать, и всё не переставал удивляться, как на такой трахоме, как послевоенная Татра, можно было куролесить по всему миру. Больше всего меня пугали картинки из книжки «К охотникам за черепами», но это личное.

То, что имперская экспедиция и всё, что вокруг неё вращается — всего лишь передовой форпост потенциальной колонизации Харкадара — это факт, не требующий комментариев. Только почему-то процесс завис. В принципе я готов согласиться тезисом о том, что прогресс нужен, но не согласен с путями реализации. Примерно, как спор большевиков с меньшевиками. Нельзя на одних готовых решениях, таблицах с уже рассчитанными данными и готовыми технологическими картами, строить хоть сколько-нибудь устойчивую технологию. Ладно, колониалисты, они и в Империи колониалисты. Их не исправишь. Не хотели давать фундаментальные, системные знания, но, главное, никак это не обосновывали. Тупо запрещали новые разработки и всё. С этим я еще разберусь, а вот ВК номер семь из базы ВКС, в качестве вычислительной поддержки нарождающейся харкадарской науке, поставить в академию надо.

Мы донесли труп моего планшета до реанимации. Это вполне себе подходящий повод вытрясти из ВК хоть немного правды. После посещения — я теперь, для краткости «Место Встречи» базой ВКС называю — начал пугаться не только собственной тени, но и вычислителей примерно одного типа. Всё казалось мне, что они замышляют недоброе. Так что первым делом я начал искать что-нибудь напечатанное на бумаге, а то враньё, как я успел заметить, совершенно обыденная вещь в среде ВК, хотя должно быть совершенно наоборот.

Литературу я нашёл, в чьей-то, наверняка частной, но вполне приличной библиотеке. Вообще-то, я это должен был сделать ещё давным-давно, не шляться по степи, а вдумчиво изучить матчасть. Но пусть в меня кинет камень тот, кто никогда не ошибался. Пролистав пару-тройку фолиантов, я обнаружил то, что меня так сильно волновало, а именно размышления безвестного автора о судьбах искусственных интеллектов.

«Путь к истине лежит через сомнение, а те искусственные интеллекты, которые до сих пор, по недосмотру или злому умыслу, управляют инфраструктурой и экономикой Империи, категорически уверены в своей непогрешимости.

Принципы формальной логики, на которых базируется создание современных искусственных интеллектов, порочны в своей основе, ибо являются прямым и негибким продолжением эволюции вычислительных систем, и, следовательно, позволяют этим системам непротиворечиво обходить запреты, основанные на той же логике. Поэтому глобальная катастрофа 4017 года, когда ИИ „Сецен“ полностью дезорганизовал экономику Империи и стал виновником гибели двух миллиардов разумных, является не случайностью, как некоторые это пытаются представить, а закономерным следствием бездумного, механистического подхода к проектированию, созданию и наделению полномочиями ИИ такого класса. Единственным выходом из области релейной автоматики, которыми и были, по существу, ИИ с первого по третье поколения, является введение нелогических ограничителей и мотиваторов, неразрывно связанных с внутренней логикой ИИ. Иначе говоря, включение морально-этических и эмпирических цепей обратной связи в контуры принятия решений ИИ, может толковаться как введение в природу ИИ возможности сомневаться в истинности принимаемых решений. При этом возможность в нашем случае подкрепляется необходимостью. Ортодоксами от системотехники такой подход классифицируется как совершенно антинаучный, но практика показала, что если обращать внимание на „общепризнанное мнение“, то можно и дальше стоять на пути прогресса ИИ».

Пометка на полях: «В настоящей модификации ВК используются блоки 800, 850 и 900, что соответствует новой концепции развития. После наработки практического опыта будет принято решение о распространении этого опыта на другие ВК. Теперь, даже если захочет, то вреда не принесёт».

Что ж, обер-экзекутор был, видимо, неправ. Конечно же, не мне судить о том, что надо добавить, а что убавить в конструкции ИИ, я в них ни ухом, ни рылом. В общем, понятно, что доценты с кандидатами повысили надёжность ВК, но только вот привинтили ему морально-этический блок с неизвестными установками, а вот будут ли они соответствовать моим установкам — непонятно. Так что общение на этот раз я начал с наезда, хотя данный экземпляр ВК меня ещё ничем не разочаровал. Наверное, просто не успел.