Анимус. Пламя техноэволюции
Шрифт:
Стивен, стоявший к ним спиной, не разворачиваясь, согнул правую руку в локте и поднял указательный палец, что должно было обозначать что-то вроде: "Не мешайте, я занят важным делом. Освобожусь в ближайшие пять минут"
– Ну, вы тут разбирайтесь, а я наведаюсь к нашим сетевикам.
– услышала Эрика с того места, где только что стоял, уже сделавший пару шагов, Марк.
Сетевиками он называл нейробиолога Фрэнка Николсона и Ричарда Снайпса, который был специалистом в области объединения массивных компьютерных систем, для более эффективного решения сверхсложных задач.
Прошло еще минуты три, прежде чем Стивен произвел последние, понятные только ему, действия над голографическим псевдосенсорным устройством ввода данных, и он повернул свое худощавое тело, с водруженной на него курчавой головой, в сторону Эрики.
– Подправил пару алгоритмов, - сказал Стивен, голосом человека, страдающего раздвоением личности, одна половина сознания которого уже находилась в этой реальности, а вторая ещё не покинула виртуальный мир цифр и компьютерных программ.
– Что-то серьезное?
– немного беспокойно спросила Эрика, - Мы же всё десятки раз проверяли.
– Да ничего особенного. Небольшие, не существенные и практически незаметные изменения в блоке самосознания.
По-видимому, "Мыслитель" пытается усовершенствовать этот процесс, оптимизировав упрощённую схему самообучения. Короче, он пытается пойти по пути наименьшего сопротивления, что в принципе не противоречит законам физики и природы в целом.
Я всё вернул в прежнее состояние и закрыл ему доступ к переписыванию данного раздела. Так что, всё в порядке.
– Попытался без подробностей описать ситуацию Стивен.
– Всё в порядке?
– переспросила Эрика, - А если "Мыслитель" захочет ещё что-нибудь переписать? Что-то, чего мы ещё, как окажется, не учли. Может, стоит отложить презентацию и ещё поработать над вероятностями моделями поведения, а также....
– Ты же знаешь, что все крайние сроки по сдаче проекта уже прошли и финансирование нам вряд ли продлят, если только мы не представим комиссии "Мыслителя" в действии.
– Перебил Стивен на полуслове Эрику, - Мы все участвовали в разработке мер безопасности на случай срывов ?электронной психики? и других непредвиденных ситуаций.
Ты же знаешь, что мы можем отслеживать его любую "мысль". Специально созданные блоки-шпионы отыскивают потенциально опасные изменения программ. В любой момент времени мы можем заблокировать отдельный участок мышления и переписать его.
В крайнем случае, если допустим, что "Мыслитель" превратится в злобного психопата, мы можем просто отключить питание.
Но, гипотетически, при том наполнении знаниями и опытом, которыми мы наделили "Мыслителя", вероятность такого хода событий крайне ничтожна. Так что, давай оставим между нами это маленькое отклонение в работе системы и займемся чем-нибудь более важным. Я, например, не прочь подкрепиться перед боем. Тебе что-нибудь принести?
– Нет, спасибо, - что-то ничего не хочется, - Эрика и так не была сторонницей приема пищи в промежутке между завтраком и обедом, а ещё эта новость об излишней самостоятельности в принятии решений "Мыслителем" никак не способствовала появлению
Стивен уже исчез за дверью, где-то в недрах кабинета, который приютил несколько автоматов с напитками и продуктами, служившими завтраком, обедом или ужином сотрудникам, проводившим на работе львиную долю своего суточного времени.
Эрика стояла, как вкопанная, на том самом месте, где пять минут назад стоял Стивен. Она смотрела на плёночного вида экран, по которому ровным строем двигались четкие символы программ, написанных Стивеном, Эрикой и командой помощников-программистов. Однако эти символы сейчас служили лишь фоном для накатывающихся на неё волн мыслей, беспокойств и переживаний.
– Быть может, Стивен прав и беспокоиться не о чем. Ведь они старались всё учесть и просчитать вероятность различных сбоев в работе "Мыслителя", создали многоступенчатую систему безопасности, включавшую в себя различные меры защиты в случае непредсказуемых действий "слетевшего с катушек" электронного мозга. От переписывания отдельного участка программы до массового отключения всех электронных устройств, находящихся в радиусе электромагнитного импульса - этот комплекс мероприятий гарантировал безопасность окружающим в случае утери контроля над искусственным интеллектом.
Но мы же создавали не психопата или убийцу, а самого эффективного помощника для человечества. И она, Эрика, можно сказать, вложила в "Мыслителя" свою душу. Они учили его осознавать себя частью окружающего мира. Всеми силами стараться не навредить всему живому на планете и в первую очередь, человеку. Они запрограммировали три основных закона робототехники и закрыли доступ для изменения файлов.
Кажется, оснований для беспокойства нет. Наверное, это естественно - беспокоиться за своё детище. Никто не может знать наверняка, кем вырастет его ребёнок. В отличие от человеческого опыта воспитания, у них со Стивеном была возможность программно запретить "Мыслителю" вырасти злодеем.
Мысли Эрики прервало громкое объявление.
– Вспомогательному персоналу просьба покинуть помещение, - одновременно из нескольких настроенных на максимальный уровень громкоговорителей трижды прогремел голос Марка Штерна.
Это могло обозначать только одно - через пятнадцать минут на балкон, расположенный напротив "Мыслителя" выйдут представители комиссии, которые должны подтвердить наличие интеллекта у машины и дать добро на использование искусственного разума в различных областях человеческой деятельности с целью эффективного развития прогресса без ущерба человечеству и окружающей среде.
Вслед за речами ученых, проливающих свет на устройство, общую схему работы и целесообразную необходимость использования мыслящих систем на благо человечества, предстояло практическое представление возможностей "Мыслителя".
Различные вопросы, тесты и задания должны были выявить наличие интеллекта у машины, а также вычислить уровень и масштабность этого самого интеллекта.
После чего, если комиссия одобрит его использование, начнётся интеграция "Мыслителя" во внешние системы управления мегаполисами, предприятиями, транспортом и другие инфраструктуры.