?Неуязвимость! Отчего системы дают сбой и как с этим бороться

Chris Clearfield and Andr'as Tilcsilk

MELTDOWN

WHY OUR SYSTEMS FAIL AND WHAT WE CAN DO ABOUT IT

КоЛибри®

Это

был теплый понедельник в конце июля {1} , как раз перед часом пик. Энн и Дэвид Уирли сели в первый вагон состава метро № 112, который направлялся в Вашингтон, округ Колумбия. Они возвращались с занятий для волонтеров, работающих в больницах. Молодая женщина уступила им свое место в передней части вагона, и супруги Уирли уселись рядом, неразлучные, какими они были еще со времен старших классов. 62-летний Дэвид только что вышел в отставку, и пара с нетерпением ждала 40-го юбилея свадьбы и путешествия в Европу.

Дэвид был удостоенным наград офицером ВВС и летчиком-истребителем. Во время воздушных атак 11 сентября 2001 года именно он был тем самым генералом {2} , который по тревоге поднял истребители над Вашингтоном и приказал пилотам по собственному усмотрению сбивать любые гражданские самолеты, которые могли представлять угрозу для столицы. Но даже в те времена, когда Дэвид был генералом и занимал командный пост, он отказывался от услуг персонального водителя. Он любил ездить на метро.

В 16:58 ритмичное постукивание колес поезда прервал скрежет. Это машинист нажал на аварийный тормоз. Потом последовала какофония из звуков лопающегося стекла, ломающегося металла и криков: поезд № 112 во что-то врезался. По непонятной причине он резко остановился на путях. От удара в передней части состава образовалась четырехметровая стена из обломков сидений, потолочных конструкций и металлических поручней. Этот же удар убил Дэвида и Энн, а также еще семерых людей.

Такого просто не могло произойти. Вся система вашингтонского метро протяженностью линий более 160 км была запрограммирована так, чтобы отслеживать и контролировать движение поездов. Когда составы опасно приближались друг к другу, их скорость автоматически снижалась. Но в тот день, когда поезд № 112 проходил изгибающийся участок пути, на рельсах перед ним оказался другой стоящий поезд. Он существовал в реальности, но каким-то образом оказался невидимым для датчиков пути. Поезд № 112 автоматически прибавил скорость: ведь сенсоры показывали, что путь свободен. К тому моменту когда машинист поезда увидел стоящий впереди состав и включил экстренное торможение, столкновение было уже неизбежным.

Пока спасатели вытаскивали из поезда раненых пассажиров, инженеры метро уже приступили к работе. Они должны были убедиться, что жизни других пассажиров подземки вне опасности. А для этого им нужно было решить загадку: как может поезд метро длиной в два футбольных поля просто исчезнуть?

Вызывающие тревогу сбои вроде аварии с поездом № 112 происходят постоянно. Посмотрите на заголовки газет всего за одну неделю.

Катастрофа на шахте в Бразилии

Новый день, новая хакерская атака: сеть отелей накрыла волна краж кредитных карточек

Автомобили Hyundai отозваны из-за дефекта датчиков включения тормозной системы

История

с системой водоснабжения на реке Флинт. В Вашингтоне говорят об «ошибке правительства»

«Массовые сбои» в работе спецслужб привели к атакам террористов в Париже

Ванкувер удовлетворил судебный иск человека, несправедливо заключенного в тюрьму почти на три десятилетия

Эпидемия лихорадки Эбола: ученые обвиняют во всем «опасно неэффективную глобальную систему здравоохранения»

Следствие по делу об убитой 7-летней девочке превратилось в сагу о неспособности системы защитить ее

Искусственные землеустроительные поджоги в Индонезии привели к огромным лесным пожарам и экологической катастрофе

Управление по санитарному надзору за качеством пищевых продуктов и медикаментов расследует случаи появления кишечной палочки в ресторанах мексиканской кухни сети Chipotle в штатах Вашингтон и Орегон

Эта неделя может показаться вам особо неудачной, но на самом деле ничего особенного в ней нет. Ведь редко какая неделя обходится без нескольких крупных катастроф. Одна неделя знаменуется аварией в промышленности, другая – крупным банкротством, а третья – ужасной медицинской ошибкой. Даже небольшие проблемы могут привести к разрушительным последствиям. Например, за последние несколько лет целый ряд авиакомпаний вынужден был поставить свои авиапарки «на прикол» из-за сбоев в их технических системах {3} , что стало причиной многодневных задержек в аэропортах. Такие проблемы могут вызывать гнев, но они нас уже не удивляют. Для того чтобы сохранить свою жизнь в XXI веке, мы должны полагаться на бесчисленное количество сложных систем, которые глубоко влияют на наше существование: от электросетей и станций по очистке воды, транспортных систем и сетей связи до систем здравоохранения и законодательства. Однако иногда эти системы подводят нас.

Эти сбои в системах, включая такие крупные, как взрыв нефтяной платформы корпорации British Petroleum (BP) в Мексиканском заливе, авария на атомной электростанции Фукусима-1 или мировой финансовый кризис, на первый взгляд происходят по разным причинам. Однако оказывается, что проблемы, лежащие в их основе, на удивление схожи. У всех этих событий наблюдается одна общая «ДНК», которую ученые лишь начинают исследовать. Эта «ДНК» подразумевает, что неудачи в одной сфере могут стать уроками для специалистов в других отраслях: стоматологи могут учиться у пилотов, а команды маркетологов – у отрядов спецназа. Понимая глубинную природу катастроф в таких специфических и рискованных сферах человеческой деятельности, как глубоководное бурение или высотный альпинизм, мы можем получить знания, необходимые для понимания сбоев и в более простых системах. Оказывается, что многие наши повседневные неудачи – провалившиеся проекты, неправильные кадровые решения и даже сорванный званый ужин – имеют много общего с разливами нефти и чрезвычайными происшествиями в горных экспедициях. К счастью, за последние десятилетия ученые со всего мира нашли способы, которые позволят нам поменять подход к принятию решений, формированию команд, созданию систем и предотвращению аварий и катастроф, которые стали сегодня слишком обычным делом.

Эта книга состоит из двух частей. В первой объясняется, почему дают сбои наши системы. В ней раскрыты общие причины, которые приводят на первый взгляд к очень разным событиям: провалу рекламной кампании в социальных сетях вокруг сети кофеен Starbucks, крупной аварии на атомной электростанции Three Mile Island, финансовому кризису на Уолл-стрит и странному скандалу с небольшими почтовыми отделениями в маленьких провинциальных городках Великобритании. В первой части исследуется также «парадокс прогресса»: по мере того как наши системы приобретают все б'oльшую эффективность, они становятся все более сложными и прощают меньше ошибок, создавая такие условия, когда простые недоразумения могут вызвать ужасные аварии. Системы, бывшие когда-то вполне безобидными, сегодня могут случайно убивать людей, банкротить компании и посылать в тюрьму невиновных. Помимо этого в первой части показывается, что те изменения, которые сделали наши системы уязвимыми с точки зрения случайных сбоев, одновременно создали благодатную почву для намеренных противоправных действий, в частности для хакерства и мошенничества.