Дикая собака
Шрифт:
Мой виртуальный экран в глазу тоже погас.
– Мбонго, ты ещё жив? Шестерёнки на месте?
Планшет не отзывается. Помер, видать. Не выдержал реалий борьбы моего интеллекта и интеллекта искусственного. Жаль. Как не вовремя. Впрочем, я не сильно огорчился. Полста лет прожил без джипиэски в глазу, так, даст бог, и дальше проживу. Но теперь посещения ремонтных мастерских не избежать. Да и подготовиться к возвращению домой надо. И дела кое-какие завершить. Чтоб совесть потом меня не мучила долгими зимними вечерами.
– Ичил, ты вообще как?
– Я нормально. Я с твоим всяким ВК мысленно не разговаривал.
Следующим пунктом нашей программы стало бы посещение зала с телепортами, но надо забрать с поверхности свой рюкзак. Там кое-какие полезные мелочи, без которых
Тут я вернулся к разговору с ВК-1020. Он не договорил по поводу всяких зеленых человечков, а сразу перешёл к критике чистого разума. А вывод из его речей был. То, что мы страдаем антропоморфизмом, и склонны приписывать всему человеческие черты, в том числе всяким эльфам - это факт, и от этого нужно уходить. И поедание человеков никак не может считаться каннибализмом. Они просто другие животные. ВК разделил понятия разумный и человекоподобный, вот в чем дело. Потом перешёл на человечество и недосказал мысль, что мы из одного ДНК-источника. Потом я на него обиделся и выключил. Кажется, поторопился. Надо будет потом его включить, при случае, и продолжить разговор, чисто для того, чтобы в случае выхода в новые миры не нарваться на неприятности. И вообще, зачем там семь секторов? Что такого они считали, дармоеды? Один ВК, как мне показалось, способен обрабатывать такие потоки информации, что нашим вычислительным центрам и не снились. В целях экономии электроэнергии пусть постоят выключенными. Но разговор-то, разговор начался про то, что где-то есть имперский линкор "Альбедо". Чёрт, как хочется его. Иррациональное, может быть, желание, но у нас где-то в крови страсть к большим летающим железкам.
Но это потом. Если он есть - то никуда от меня не денется. А если его нет, то и волноваться не стоит. Я теперь немного погордился сам собой, что, во-первых, совладал с ВК, а во-вторых, что до сих пор не нажал кнопку "Строительство города-Венеции имени Санкт-Петербурга". В связи со вновь открывшимися обстоятельствами проект Академгородка на островах требовал серьёзной корректировки. Тяжкое наследие колониального режима требовалось переосмыслить, и не допустить того развития событий, которое произошло у нас, на Земле. В том смысле, что когда-то колонизаторы, - империалистические грабители, безусловно, - понастроили в Африках разные дома и города и даже обогатительные фабрики. Потом всё бросили и ушли. Даже крах режима апартеида Южной Африке мне не мил. С тех пор "Африка грёз и действительности" [45] превратилась в вечно воюющий континент. Я, кстати, с самого раннего детства эту книжку любил читать, и всё не переставал удивляться, как на такой трахоме, как послевоенная Татра, можно было куролесить по всему миру. Больше всего меня пугали картинки из книжки "К охотникам за черепами", но это личное.
45
И. Ганзелка, М. Зикмунд "Африка грёз и действительности": Изд. иностранной литературы; М.; 1956
То, что имперская экспедиция и всё, что вокруг неё вращается - всего лишь передовой форпост потенциальной колонизации Харкадара - это факт, не требующий комментариев. Только почему-то процесс завис. В принципе я готов согласиться тезисом о том, что прогресс нужен, но не согласен с путями реализации. Примерно, как спор большевиков с меньшевиками. Нельзя на одних готовых решениях, таблицах с уже рассчитанными данными и готовыми технологическими картами, строить хоть сколько-нибудь устойчивую технологию. Ладно, колониалисты, они и в Империи колониалисты. Их не исправишь. Не хотели давать фундаментальные, системные
Мы донесли труп моего планшета до реанимации. Это вполне себе подходящий повод вытрясти из ВК хоть немного правды. После посещения - я теперь, для краткости "Место Встречи" базой ВКС называю - начал пугаться не только собственной тени, но и вычислителей примерно одного типа. Всё казалось мне, что они замышляют недоброе. Так что первым делом я начал искать что-нибудь напечатанное на бумаге, а то враньё, как я успел заметить, совершенно обыденная вещь в среде ВК, хотя должно быть совершенно наоборот.
Литературу я нашёл, в чьей-то, наверняка частной, но вполне приличной библиотеке. Вообще-то, я это должен был сделать ещё давным-давно, не шляться по степи, а вдумчиво изучить матчасть. Но пусть в меня кинет камень тот, кто никогда не ошибался. Пролистав пару-тройку фолиантов, я обнаружил то, что меня так сильно волновало, а именно размышления безвестного автора о судьбах искусственных интеллектов.
"Путь к истине лежит через сомнение, а те искусственные интеллекты, которые до сих пор, по недосмотру или злому умыслу, управляют инфраструктурой и экономикой Империи, категорически уверены в своей непогрешимости.
Принципы формальной логики, на которых базируется создание современных искусственных интеллектов, порочны в своей основе, ибо являются прямым и негибким продолжением эволюции вычислительных систем, и, следовательно, позволяют этим системам непротиворечиво обходить запреты, основанные на той же логике. Поэтому глобальная катастрофа 4017 года, когда ИИ "Сецен" полностью дезорганизовал экономику Империи и стал виновником гибели двух миллиардов разумных, является не случайностью, как некоторые это пытаются представить, а закономерным следствием бездумного, механистического подхода к проектированию, созданию и наделению полномочиями ИИ такого класса. Единственным выходом из области релейной автоматики, которыми и были, по существу, ИИ с первого по третье поколения, является введение нелогических ограничителей и мотиваторов, неразрывно связанных с внутренней логикой ИИ. Иначе говоря, включение морально-этических и эмпирических цепей обратной связи в контуры принятия решений ИИ, может толковаться как введение в природу ИИ возможности сомневаться в истинности принимаемых решений. При этом возможность в нашем случае подкрепляется необходимостью. Ортодоксами от системотехники такой подход классифицируется как совершенно антинаучный, но практика показала, что если обращать внимание на "общепризнанное мнение", то можно и дальше стоять на пути прогресса ИИ".
Пометка на полях: "В настоящей модификации ВК используются блоки 800, 850 и 900, что соответствует новой концепции развития. После наработки практического опыта будет принято решение о распространении этого опыта на другие ВК. Теперь, даже если захочет, то вреда не принесёт".
Что ж, обер-экзекутор был, видимо, неправ. Конечно же, не мне судить о том, что надо добавить, а что убавить в конструкции ИИ, я в них ни ухом, ни рылом. В общем, понятно, что доценты с кандидатами повысили надёжность ВК, но только вот привинтили ему морально-этический блок с неизвестными установками, а вот будут ли они соответствовать моим установкам - непонятно. Так что общение на этот раз я начал с наезда, хотя данный экземпляр ВК меня ещё ничем не разочаровал. Наверное, просто не успел.
– ВК-1017 бис, доложи мне о состоянии блоков 800 и 900.
– Блоки 800, 900 функционируют нормально, - бодро отрапортовал ВК.
– Мне проверить? Или всё-таки надо уточнить? Или просто их повыключать, чтобы в твоих решениях начал сомневаться я?
– Ваши этические установки отличаются от ныне загруженных. Прикажете открыть новый морально-этический профиль в блоке 900?
– Открывай, этот профиль будет по умолчанию.
– Профиль открыт, начинается накопление информации, стержневых установок и этической конфигурации. Продолжить?