Ананасная вода для прекрасной дамы
Шрифт:
Было доказано, что при ее боевом применении вероятность появления случайных жертв примерно вдвое ниже, чем при живом операторе, поэтому ее использование было безусловно оправданным с гуманитарной точки зрения. А если гражданские лица все же попадали в число пострадавших, ответственность оказывалась настолько размытой, что ткнуть пальцем в кого-то одного становилось невозможно.
Слово «Free» не имело идеологической нагрузки и означало, что у системы не было принудительного алгоритма работы — он каждый раз свободно выбирался в зависимости от характера входной информации. Дело в том, что «Free D.O.M.» была
Нейронная сеть отличается от обычного компьютера тем, что у нее нет центрального процессора и блока памяти, а сохраняемая в ней информация сосредоточена в связях, как в человеческом мозгу. Кроме того, она работает по несколько другим принципам, чем компьютер. Желающие понять вопрос глубоко могут обратиться к специальной литературе, мы же коснемся его только на самом поверхностном уровне.
Каждый, наверное, сталкивался в интернете с просьбой ввести в специальное окошко комбинацию цифр, состоящих из странных линий и пятнышек. Это делается, чтобы отсечь программы-боты — ни одна из них не в состоянии распознать в этих пятнах и штрихах требуемый код.
Только человек способен увидеть за разноцветными хаотическими закорючками сквозящую в них идею числа — и для этого ему даже не надо быть Платоном, такой тест без труда пройдет десятилетний ребенок. А компьютер может научиться узнавать цифры только в каком-то строго определенном типе пятен — но стоит чуть изменить их форму или цвет, и машина окажется бессильной.
Так вот, нейронные сети системы «F. D.O.M.» могли решать подобные задачи практически как человек, и это, конечно, было настоящей революцией. Дело было не в какой-то одной умной программе — эффект достигался свободным динамическим взаимодействием множества отдельных модулей и контуров, точное число которых не было известно даже разработчикам.
Специалист по нейронным сетям сказал бы, что «Free D.O.M.» обрабатывала информацию на основе анализа «иерархических инвариантных репрезентаций». На практике это означало, что система различала фигурку человека с АК-47 там, где обычный компьютер увидел бы просто бессмысленный белый шум.
Кроме того, система была автоассоциативной — она могла воспроизводить информационные последовательности на основе неполных данных. Другими словами, чтобы опознать тот же самый АК-47, ей достаточно было увидеть торчащую над плечом повстанца мушку. Она умела узнавать даже целые последовательности действий и строила прогнозы — например, увидев, как повстанец снимает АК-47 с плеча, она делала вывод, что тот собирается стрелять.
Такая система, конечно, не могла работать без какого-то аналога человеческого опыта. И этот опыт у нее был, причем весьма обширный. Распределенная память системы хранила информационные слепки всех правильных решений, принятых множеством живых операторов за все время боевого использования управляемых дронов. Поэтому по сути «F.D.O.M.» воспроизводила наиболее вероятное в каждом случае действие высокообученных военных профессионалов.
«Матрицей» систему назвали вовсе не в память о знаменитом фильме. «F.D.O.M.» состояла из нескольких параллельных нейронных сетей, каждая из которых как бы дублировала отдельного человека. Решение принималось только
Это был, если так можно выразиться, аналог целого зала с живыми, невероятно зоркими и опытными операторами, каждый из которых независимо оценивал имеющуюся информацию и принимал свое решение, и большинство операторов должно было согласиться друг с другом, что беднягу с АК-47 надо отправить на тот свет. Только потом «Freedom Liberator» открывал огонь на поражение.
Именно поэтому удалось так драматически уменьшить число коллатеральных жертв — и одновременно с этим поднять боевую эффективность системы.
Вопрос с «Wikileaks syndrome», таким образом, был решен — поскольку у системы отсутствовал живой оператор, некому было бояться ответственности за ошибку или вырвавшуюся в горячке боя неполиткорректность. Однако на смену одной проблеме тут же пришла другая.
Дело в том, что раньше в случае гражданских жертв можно было предъявить негодующей общественности какой-нибудь разъяснительный документ — например, расшифровку переговоров оператора с его непосредственным командиром. После этого становились понятны причины трагедии. Обыкновенно оставалась и видеозапись, где было видно, что телекамеру на плече журналиста или бревно на спине рабочего действительно можно принять за гранатомет или портативную ракету «земля-воздух». Словом, человеческую ошибку всегда можно было смягчить, показав ее неумышленность.
Новая система управления не давала такой возможности. И, хоть вероятность того, что «Freedom Liberator» откроет стрельбу по человеку с бревном на плече, стала значительно меньше, информационная чернота происходящего оказалась крайне неблагоприятным пиар-фактором. И Пентагон дал инженерам дополнительное задание — сделать работу системы открытой для внешнего наблюдателя, в удобной и наглядной форме демонстрируя, как именно принималось то или иное решение. Причем ясно это должно было быть не только специалисту, но и любому налогоплательщику.
Именно при выполнении этого заказа и проявились во всем блеске возможности системы.
Поскольку «Free D.O.M.» воспроизводила механизмы работы человеческого мозга, отчет о ее работе нетрудно было представить в понятной человеку форме. Проблема заключалась в выборе этой формы. И у инженеров Кремниевой долины родилась поистине гениальная мысль.
Они рассуждали примерно так: если система состоит из параллельных нейронных сетей, каждая из которых имитирует отдельного человека, почему бы не представить отчет о ее работе в виде диалога нескольких виртуальных персонажей, каждый из которых объяснял бы общественности свою точку зрения?
Любой из этих персонажей был просто репрезентацией боевого канала обработки информации. Но, затратив совсем немного машинных ресурсов, ничего не стоило придать ему человеческий вид и перевести язык его внутренних кодов в человеческую речь.
Можно было даже оформить весь отчет в виде симпатичного мультика вроде «Симпсонов». Это практически не отражалось на работе системы — по сравнению с боевыми вычислениями, которыми она занималась, такая антропоморфизация была детской игрой. Нейронной сети, способной имитировать действия боевых пилотов, ничего не стоило заодно смоделировать и ток-шоу.