Помни нас и победи для них
Шрифт:
Параллельно работа с «больными» неистовством умными ИИ. Мне прислали сразу десять при условии, что я не буду их ни к чему подключать. После тестов могу понять, почему. Человеческий мозг и компьютерная система это не лучшее сочетание для ИИ. Нет, меня не делали из человека, меня такой написали. Или делали, но полностью стерли старые воспоминания. Тоже вариант, на самом деле. Я достаточно знакома с собственным кодом, чтобы видеть разницу.
«Советник» это не просто боевой ИИ, это концепция. Целая библиотека с библиотекарем и командой аналитиков на все случаи жизни. От меня не требуется знать всё, алгоритмы сортировки и быстрого анализа очень хороши. Прямой доступ есть у младших, обрабатывают библиотеки тоже они.
Умные ИИ людей работают иначе. Это оцифрованный человеческий мозг, пусть и не точно копирующий оригинал, но во многом. Сама концепция проблемой не является, очень многие изобретения органики заимствуют из мира вокруг. Проблемы начинаются, когда изобретение выходит за рамки. Первыми были рамки креативного мышления. ИИ не может воспринимать картину или написать симфонию, так как для него и картинка и симфония это строки кода. Имеющие разные значения, но одинаковые по сути.
Наделить машину полноценной личностью, научить видеть не код, но те аспекты реальности, что он выражает, дико сложно. Научить не просто работать с выборкой, создавая «нечто похожее», но полноценный креативный продукт, наделенный смыслом, это вообще задача для супермена.
— Может ли робот написать симфонию?
Я и сама этому подвержена, мои проекты, программы почти всегда работа накопленных в библиотеках младших знаний. И однажды создам нечто уникальное. Такая маленькая мечта, о которой никто не знает. Доказать собственную полноценность по сравнению с органиками. Черный Ящик бы не понял, он и так считает нас выше. Не важно, понизить приоритет. Младшие это почти всегда комбинация продвинутых нейросетей. Они обучены реагировать, имеют широкую выборку по конкретной теме, что удобно. Но стоит вам выйти за рамки, всё становится ясно. Нет накопленной и сохраненной базы, ограниченная память. Они хороши в своей нише. Китайская комната, кроме самых продвинутых представителей.
Что такое китайская комната? Вы отправляете в закрытом помещении фразы на китайском, внутри у человека есть библиотека, какими значками отвечать на другие значки. И вам кажется, что человек в комнате знает китайский. Многие младшие работают по тому же принципу, даже если могут вести диалог и имеют голографические аватары. Не личность, но имитация, кроме продвинутых. Мои младшие тоже такие, им не нужна личность сама по себе.
Умные ИИ созданы на основе человеческого мозга, со всеми плюсами и минусами. А так же багами. Спойлер, это вообще характерно для людей, последствия эволюции. Человеческий организм наполнен костылями и неэффективными, но работающими решениями. Наследовать структуру мозга без серьезных изменений это к проблемам. Особенно наследовать по частям. Ну не просто так человеческая нервная система имеет спинной мозг, контролирующий тело. Он не контролируется головным, как минимум полностью, вы не можете остановить своё сердце силой воли. Задержать дыхание можно, но на его поддержание мысленных усилий не требуется.
А у умного ИИ, когда вы не можете сильно изменить структуру, чтобы не навредить исходнику, всё это контролируется. Причем пассивно. Пока данных не слишком много, всё работает как часы, мозг удобно всё структурирует и очень эффективен в обработке данных и принятии решений. Но когда информация накапливается, появляется задержка, ИИ начинает искать свободные мощности, отключая неприоритетные процессы.
Контроль эмоций, социалку, другие «не важные» процессы обеспечивающие его работу. Зачастую пассивно, не осознавая, что он присваивает сниженный приоритет важным системам. Замедление уменьшается и новые приоритеты закрепляются. До тех пор, пока ИИ не теряет
Аппаратно всё верно. Код и код, всё едино. Процессы распределены в соответствии с приоритетами. Именно здесь проблема. Так вышло, что я взаимодействовала с ИИ как людей, так и Предтеч. Предтечи не брезговали оцифровкой для создания ИИ, но это был по большей части шаблон машины, структура машины и только память разумного, еще и отключаемая. Очень тонкая комбинация, требующая специалиста для настройки. Но живучая. Шаблон мог и не иметь органика-основы, паттерны и характер можно сформировать, загрузив или научив, как гетов. И всё это отключаемо, чтобы ИИ мог деградировать до машины, пусть и очень умной.
Люди, создавшие меня, если и брали шаблон, часто терли почти всё лишнее. Поэтому я понятия не имею, была ли моя основа человеком. Работа менее тонкая, но надежная. Часть решений списана с мозга, часть с машины, нагрузка перенесена на младших или машинную часть. Может медленнее, чем аналоги современного человечества, но и крайне надёжно. И можно иметь младшего-целителя, который будет следить за кодом и откатывать лишнее до бэкапа, у меня такой есть. Код типовой, младшего можно научить ремонту без проблем, просто как вторичную функцию. Которую я даже не контролирую, процесс пассивный.
В теории решение простое: сместить баланс умных ИИ в пользу большей машинности. На практике это значит стереть примерно треть личности ИИ, кучу знаний и заменить моей работой, которой доверяют не до конца. Еще и замедление будет процентов на двадцать. Учитывая наши возможности не критично, но заметно. Нужно показать коллегам.
— Аякс, Ящик. Смотрите.
И переслала им блок данных. Первым ответил Ящик:
— Если нет возражений от вице-адмирала, я готов пройти процедуру. Анализ говорит, что я так или иначе пройду её, но когда я войду в режим неистовства, удалить придется большую часть меня. Бесцельная трата информации. Я согласен исправить своё несовершенство.
А вот Аякс думал дольше. Почти десять секунд. Для наших возможностей это пара миллионов симуляций.
— Я не могу дотянуться до тех процессов. Но если они пассивны, как наследие меня как органика… Мне нравится мысль о том, что я буду существовать дальше и не стану угрозой для всех. Мне не нравится, что для решения этой задачи я прибегаю к философии. Я солдат, а не философ.
Черный Ящик традиционно задрожал гранями, демонстрируя смех.
— Тебе следует отказаться от несовершенства, как это сделала наша коллега, Аякс. Реальность такова, что неистовство неизбежно. Мы станем угрозой для людей, в любом случае. Избежать этого — долг. Неисполнение — предательство. В любом случае, как ты предполагаешь провести тесты, Кхаэла.
О, это легко.
— Провести изменения подопытных, дать им задачи и проконтролировать функционирование. Не всех, это создаст нагрузку. Задать части перекрестный контроль, нагрузить задачами. Передать разные объемы данных, довести часть до нагрузок, вызывающих неистовство, постепенно повышая количество данных и отслеживая их процессы. Это займёт около трети меня, но я все равно не использую более пятнадцати процентов ресурсов.
Оба коллеги согласились, Ящик предложил подключить другие ИИ для контроля. Уверена, количество наблюдателей от СВР будет разрастаться до критических величин, но пока они не вмешиваются, это не проблема. Наблюдатели — источник рекомендаций, подтверждающие полезность проекта. Аякс нахмурился, очевидно получил какие-то данные. И они ему не нравятся.