Шаг к звездам [= Вспышка]
Шрифт:
В августе 1992 года капитан Ричардсон подал прошение об отставке и, получив удовлетворительный ответ, превратился в гражданского специалиста. Он решил, что единственным выходом для него будет работа над миниатюризацией и совершенствованием нейросетей, разработкой принципиально новых архитектур искусственных нейронов, которые в конечном итоге позволят если не ему лично, то его преемникам создать универсальное средство борьбы со злом…
В ту пору он свято верил в истинность своего выбора, не задумываясь над тем, как часто дорога, вымощенная благими намерениями, ведет прямиком в ад…
…Ад,
Альберт нервно расхаживал по небольшому подиуму, поочередно обращаясь к присутствующим специалистам с одним и тем же вопросом:
— Кто в конце концов объяснит мне, почему андроид открыл огонь по женщинам?!
Взгляд Уилсберга, в который уже раз, тяжело прошелся по бледным лицам подчиненных.
— Почему вы молчите? Для чего вам было дано двое суток времени и сотни терабайт расшифрованной телеметрии? Где выводы? Ты. — Он резко указал на одного из компьютерных техников. — Отвечай — ведь этот андроид изначально был настроен на исполнение бытовых функций, верно?
Техник, со знаками различия капитана, встал.
— Да, сэр.
— Значит, кибермеханизм имел четкое, недвусмысленное представление о той разнице, которая существует между вооруженным боевиком и безоружной женщиной?
— Нет, сэр, — побледнев, ответил капитан.
— То есть?! — На этот раз замешательство испытал Альберт. — Разве его нейросети не обучали распознаванию образов?! Эти машины на предварительных испытаниях ухаживали за детьми! — резким тоном напомнил он.
— В том случае у андроида работали иные нейросети, — ответил капитан. — Все зависит от выбора базовой модели поведения, которая реализована в различных, сосуществующих параллельно системах.
— Не морочьте мне голову! — взорвался Уилсберг. — Я присутствовал на полигонных испытаниях и своими глазами видел, как кибермеханизмы с одинаковой легкостью справлялись с разноплановыми проблемами без дополнительной перенастройки!
— Да, сэр. Вы абсолютно правы. Андроид, исполняющий бытовые функции, мог автоматически перейти к решению иных задач, но для этого требовалось возникновение определенной ситуации: например, при испытаниях мы инсценировали прорыв трубы городских коммуникаций или возгорание электропроводки. Распознавание возникшей проблемы активировало иные нейросети, специально обученные для эффективного устранения технических неисправностей. Аналогичным образом инициализировался режим охранных функций — для этого системе андроида было необходимо зафиксировать незаконные действия, классификация которых заранее прописана в его базах данных.
— Это я знаю… — немного остывая, пробурчал Уилсберг. — Но где ответ на вопрос: почему он открыл немотивированную стрельбу, по сути угробив удачно начатую операцию?! Почему он не вспомнил, что безоружный человек не опасен?! — Генерал резко обернулся и, воспользовавшись пультом дистанционного управления, остановил кадр на одном из экранов. — Прокомментируйте вот это, капитан, с точки зрения хваленой машинной логики!
На застывшем кадре было запечатлено падающее, обезглавленное выстрелом в упор, полуобнаженное
— Позвольте мне высказаться, сэр?
Реплика пришла из глубин полутемного зала, и Уилсберг обернулся, чтобы разглядеть говорившего.
— Капитан Ричардсон? — интуитивно переспросил он.
— Да. — Герберт встал со своего места. — Думаю, что смогу ответить на большинство поставленных вами вопросов, господин генерал. Вы зря кричите на своих подчиненных, ведь никто из них не был посвящен в изначальную суть проблемы и занимался лишь узким, специализированным направлением проекта, верно?
— Ну, допустим.
Герберт подошел к подиуму и спросил, глядя на Уилсберга:
— Генерал, вам знаком термин «парадигма»? [15]
Альберт некоторое время молча смотрел на Ричардсона, а потом вдруг произнес, обращаясь не к нему лично, а к остальным участникам «разбора»:
— Все свободны.
Дождавшись, пока зал опустел, он вновь повернулся к Герберту.
— Нет, капитан, я не знаю значения этого слова. Садитесь. — Он указал на свободные кресла в первом ряду.
15
Парадигма — в данном контексте означает модель, тип постановки проблемы, принятые в качестве образца для решения исследовательских задач.
Ричардсон сел. Даллас был недалек от истины, давая оценку патриотизму Герберта, — многолетние научные изыскания постепенно превратили его в космополита, но переход на систему общечеловеческих ценностей лишь усугубил чувство внутренней моральной ответственности, и сейчас, четко осознавая, что в основу использованных в Афганистане боевых машин были заложены его теоретические разработки, Ричардсон нашел в себе мужество признать: в сложившейся ситуации только он мог дать ответ на сформулированную Уилсбергом проблему.
Будучи удручен и подавлен, он не мог предвидеть, что втайне генерал надеялся именно на такой исход «совещания». За годы службы Альберт стал неплохим психологом (иначе его не поставили бы руководить столь ответственным проектом), и он намеренно не обращался к Герберту напрямую, давая тому возможность «созреть» для принятия личного решения.
При этом Уилсберг считал себя скорее прагматиком, нежели циником. Он тоже являлся заложником событий, на него давили «сверху», и генерал в свою очередь использовал любые доступные методы, чтобы исполнить полученные приказы.
Сев в кресло рядом с Ричардсоном, он произнес, на этот раз нисколько не покривив душой:
— Я понимаю твое состояние, капитан. Рад, что в тебе не взыграли амбиции ученого, ущемленного в авторских правах. И еще я думаю, что зря вас с Хьюго не пригласили сюда вместе. Возможно, твое изначальное участие в проекте помогло бы избежать роковых ошибок. А сейчас просто объясни мне, в чем кроется причина провала, ладно?
Герберт едва заметно кивнул. Фраза генерала относительно авторских прав в первый миг показалась ему чуть ли не издевкой, но он сумел удержаться от резких высказываний по этому поводу.