Сила этики. Искусство делать правильный выбор в нашем сложном мире
Шрифт:
Расследования, проведенные американскими газетами New York Times и Seattle Times, показали, что руководство Boeing было настолько одержимо стремлением опередить Airbus, настолько сосредоточено на скорости производства и стоимости, что инженеры были вынуждены представлять технические планы «вдвое быстрее обычного», а менеджеры работали в «сжатые сроки и с ограниченным бюджетом». Один из информаторов утверждал, что в трех разных случаях компания отклоняла те меры безопасности, которые могли бы предотвратить роковые катастрофы [60] .
60
Gelles et al. «Boeing устроил гонку с производством 737 Max, чтобы обогнать Airbus»; Gates и Baker, «Инженеры утверждают, что в Boeing настаивали на ограничении испытаний мер безопасности в гонке по сертификации самолетов, включая 737 MAX»; Dominic Gates, Steve Miletich и Lewis Kamb, «По словам осведомителя, в Boeing отказались от обновлений мер безопасности 737 MAX перед смертельными катастрофами», Seattle Times, 2 октября 2019 г.,и с. 2, «1. Давление в производственном процессе» в отчете «Самолет Boeing 737 MAX: Цена, последствия и уроки, вынесенные на основе его дизайна, развития и сертификации». Компания Boeing в газете the New York Times утверждала: «Программа Max была запущена в 2011 г. Ее предложили клиентам в сентябре 2012 г. Четко определенная конфигурация самолета была достигнута в июле 2013 г. Первый
Процесс принятия решений в Boeing был свернут, когда в компании увлеклись гонкой к финишной черте, а также и позже. В 2017 году, через несколько месяцев после поставки самолетов, в компании Boeing обнаружили сбой с предупреждением о расхождении показаний датчиков угла атаки [61] . Предупреждение о несогласии – это стандартная функция, которая сообщает пилоту, что два датчика угла атаки имеют разные показания: это говорит о том, что один из датчиков, возможно, вышел из строя. Сбой, как обнаружили в Boeing, заключался в том, что предупреждение о несогласии в самолетах Max ошибочно связывалось со второй необязательной функцией, «индикатором датчиков угла атаки», которая была премиальной функцией. Это означало, что если перевозчик не покупал опцию «премиум», предупреждение о несогласии у него не срабатывало. Компания Boeing не уведомила об этом ни покупателей, ни пилотов [62] . Вместо этого она решила подождать до следующего запланированного обновления программного обеспечения в 2020 году, чтобы исправить ошибку [63] .
61
«Заявление Boeing о расхождении в показаниях датчиков угла атаки», по данным на 27 декабря 2019 г.,также David Gelles и Natalie Kitroeff, «В Boeing были уверены, что аварийная сигнализация в 737 Max была в стандартной комплектации. Но это было не так», New York Times, 5 мая 2019 г.,также Tracy Rucinski и David Shepardson, «Компания Boeing не сообщала ФАА о проблеме с 737 MAX в течение 13 месяцев», Reuters, 5 мая 2019 г.,тут говорится, что решение Boeing сохранить оповещение о расхождении показаний датчиков угла атаки в стандартной комплектации «возвращает нас к тому, что мы видели на дисплеях предыдущих моделей 737NG примерно с середины прошлого десятилетия».
62
Только 5 мая 2019 г., через два месяца после второй катастрофы, компания Boeing раскрыла эту проблему в пресс-релизе «Заявление Boeing о сигналах о расхождении в показателях датчиков угла атаки».
63
«Заявление Boeing о сигналах о расхождении в показателях датчиков угла атаки», также Mike Baker, «Компания Boeing не планировала исправлять аварийную сигнализацию 737 MAX до 2020 г.», Seattle Times, 7 июня 2019 г., https://www.seattletimes.com/business/boeing-aerospace/boeing-didnt-plan-to-fix-737-max-warning-light-until-2020/
Предупреждение о несогласии могло бы проинформировать пилотов компаний Lion Air и Ethiopian Airlines о неисправности одного из датчиков, что могло бы помочь им быстрее распознать проблему. Но ни один из этих перевозчиков не оплатил опцию «премиум», поэтому предупреждение у них не сработало. Такой индикатор для датчиков угла атаки приобрели примерно 20 % всех клиентов Max; следовательно, только эти 20 % также располагали этим средством обеспечения безопасности. Даже среди трех американских перевозчиков, которые купили самолеты Max, за премиальный вариант заплатили лишь American Airlines и Southwest Airlines, а United Airlines – нет [64] .
64
Hiroko Tabuchi и David Gelles, «Обреченным самолетам Boeing не хватало двух функций безопасности, которые компания продавала только как дополнительные опции», New York Times, 21 марта 2019 г.,Andy Pasztor, «Компания Boeing не сообщила авиакомпаниям и ФАА, что отключила аварийную систему», Wall Street Journal, 28 апреля 2019 г.,также Amanda Macias сообщает, что авиакомпания Southwest предприняла шаги, чтобы активировать индикатор несогласия после крушения Lion Air: «В Boeing только после катастрофы Lion Air сообщили отделу безопасности авиакомпании Southwest, что на 737 Max система предупреждений об опасности отключена», CNBC News, 28 апреля 2019 г., https://www.cnbc.com/2019/04/28/boeing-didnt-tell-southwest-that-safety-feature-on-737-max-was-turned-off-wsj.html
Модель Max 8 была запущена в эксплуатацию в 2017 году и быстро стала самым продаваемым самолетом Boeing в истории [65] – ошеломительный успех… пока вскоре пилоты не оказались вынуждены вести бой против своих самолетов, а сами самолеты не упали с небес на землю. Модель Max была призвана укрепить позицию Boeing как самого уважаемого и успешного производителя самолетов в мире. Вместо этого она пролила свет на этическую проблему, решение которой нельзя откладывать.
65
Сайт Boeing, архив Wayback Machine, по данным на 25 декабря 2019 г., https://web.archive.org/web/20191225100949/https://www.boeing.com/commercial/737Max/
Давайте рассмотрим три важных бинарных решения, с которыми столкнулась компания Boeing.
Во-первых, в 2017 году ее руководители осознали, что они сделали средство обеспечения безопасности (предупреждение о несогласии датчиков угла атаки) премиальным вариантом, а не стандартом. На этом этапе вопрос звучал так: будем ли мы делать это достоянием общественности и все исправлять или нет?
Компания Boeing решила придерживаться позиции, согласно которой предупреждение о несогласии предоставляет только «дополнительную информацию» и не является средством обеспечения безопасности [66] . Возможно, так оно было и с более старыми моделями 737, но в Boeing должны были знать, что мощный характер системы MCAS превратил это предупреждение в необходимую функцию безопасности, предоставляющую пилотам важную информацию. Компания Boeing не сообщила об этом и не исправила эту ошибку, решив вместо этого исправить ее через три года при обновлении программного обеспечения [67] .
66
В
67
«Заявление Boeing о сигналах о расхождении в показателях датчиков угла атаки»; также Baker, «Компания Boeing не планировала исправлять аварийную сигнализацию 737 MAX до 2020 г.».
Во-вторых, после того как в Индонезии разбился первый самолет, выбор был таким: отзываем ли мы самолеты до тех пор, пока не выясним наверняка, что стало причиной катастрофы, и не сможем исправить это и соответствующим образом обучить пилотов, или мы будем продолжать полеты на этих самолетах? Компания не только продолжала полеты; она также заняла бессовестную позицию, обвинив во всем пилотов. «Мы использовали стандартное для нашей отрасли предположение о пилотах и о том, какие у них бывают реакции», – свидетельствовал главный инженер Boeing Джон Гамильтон на слушаниях в сенате США в октябре 2019 года [68] . Поскольку неправильные условия работы MCAS были похожи на проблему с неконтролируемым стабилизатором, руководство Boeing предположило, что пилоты должны были знать, что следует щелкнуть переключателями и отключить MCAS. Но, как ранее в том же году заявил конгрессу капитан Салленбергер, пилоты заслуживают того, чтобы летать на самолетах, на которых «не установлены непреднамеренные ловушки» [69] .
68
Главный инженер Boeing Джон Гамильтон выступал как свидетель в сенате США, в Комитете по коммерции, науке и транспорту на слушаниях по авиационной безопасности и вопросу будущего Boeing 737 MAX 29 октября 2019 г.:См. также с. 123 «Промежуточного отчета о расследовании катастрофы B737-8 (MAX)»; с. 6 «Четыре допущения из их числа были следующими» и с. 7 «Анализ: допущения о распознавании ситуации и реакции пилота при оценке безопасности» в материале «Допущения, используемые в процессе оценки безопасности, и влияние многочисленных предупреждений и индикаций на работу пилота», Национальный совет по безопасности на транспорте, 19 сентября 2019 г.,и с. 3 «2. Ошибочные допущения» в «Самолет Boeing 737 MAX: Цена, последствия и уроки, вынесенные на основе его дизайна, развития и сертификации».
69
Цитату капитана Салленбергера можно найти на с. 24 документа «Статус Boeing 737 Max: Мнения заинтересованных сторон», слушания перед подкомитетом по авиации Комитета по транспорту и инфраструктуре, палата представителей конгресса, 19 июня 2019 г., https://www.congress.gov/116/meeting/house/109642/documents/CHRG-116hhrg37476.pdf
Вне зависимости от того, что пилоты должны были или не должны были знать, неисправное программное обеспечение Boeing также послужило причиной гибели 189 человек. Это бинарное решение, здесь есть однозначный ответ: отозвать самолеты, а затем устранить нарушения в системах безопасности и обучить пилотов.
Время принимать третье решение, как для Boeing, так и для ФАА, настало, когда в Эфиопии разбился второй самолет: разрешаем ли мы самолетам продолжать полеты или нет? Вместо того чтобы запретить самолетам все рейсы, глава корпорации Мюленбург позвонил президенту Трампу, чтобы заверить его, что полеты безопасны. Компания Boeing настаивала на том, чтобы самолеты Max 737 продолжали летать, и ФАА это разрешило, хотя более шестидесяти стран уже дали им правильный ответ.
Кризис Boeing показывает, что даже простой выбор из двух вариантов можно сделать ошибочно, если мы не сможем интегрировать в процесс принятия решений этику. Если мы не в состоянии правильно ответить на бинарные вопросы, даже когда на кону стоит человеческая жизнь, тогда у нас возникнут гораздо более серьезные проблемы, когда границы станут более размытыми и мы столкнемся с необходимостью принимать небинарные решения.
Если говорить об этике на передовой, сложные этические проблемы в общем и целом требуют, чтобы мы сосредоточились на отключении бинарного мышления, потому что оно способствует упрямству и может привести к чрезмерно упрощенным «правильным» или «неправильным» решениям, не основанным на реальности. Проблемы, лежащие в основе нереалистичного выбора одного из двух вариантов, который, как мы видели, наблюдается по всему миру, – например, с вопросом, должна ли Великобритания оставаться в Евросоюзе либо выйти из него (брексит) или следует ли США построить стену на южной границе с Мексикой, – требуют более тонкого подхода к принятию решений.
Вот лишь один из примеров такой дилеммы, заслуживающей небинарного ответа, хотя она и выглядит как бинарный вопрос. Ваша подруга удаляет с телефона приложение Uber и говорит, что вы должны сделать то же самое: известно, что компания эксплуатировала водителей и обходила местные законы [70] . «Удалить или оставить» – это бинарное решение. Откажитесь от бинарности и вместо этого спросите: когда и при каких обстоятельствах я удалю это приложение? Какие еще факторы и людей вам следует принять во внимание, прежде чем последовать примеру подруги? Может быть, Uber удобнее для вас, потому что вы живете в таком районе, где трудно найти такси. Возможно, вы знаете учителей или одиноких родителей, которые подрабатывают в Uber, когда у них есть время. Как это решение повлияет на них? Компании, организующие совместные поездки (райдшеринг), также помогают жителям определенных районов города, которые подвергаются дискриминации со стороны водителей такси [71] . Как на ваше решение влияют эти факторы? Вместо того чтобы выбирать, «удалить или оставить» приложение, возможно, вы предпочтете его оставить, но будете использовать его только тогда, когда под рукой нет местных такси, автобусов или метро или когда вы выпили и не должны садиться за руль.
70
Shannon Bond, «Длинный список юридических проблем Uber обогнал позицию компании на фондовой бирже», Financial Times, 8 апреля 2019 г.,Mike Isaac, «Как потерялся Uber», New York Times, 23 августа 2019 г.,также David F. Larcker и Brian Tayan, «Руководство сошло с ума: эпические злоупотребления в Uber Technologies», 11 декабря 2017 г., Центр корпоративного управления имени Рока в Стэнфордском университете, серия «Пристальный взгляд: Темы, проблемы и споры в области корпоративного управления», № CGRP-70, Высшая школа бизнес-исследований Стэнфордского университета, документ № 18–3, доступно в системе SSRN: https://ssrn.com/abstract=3087371
71
Jeffery C. Mays, «Uber набирает союзников по гражданским правам против предложенного Нью-Йорком замораживания: “Это расовая проблема”», New York Times, 29 июля 2018 г., https://www.nytimes.com/2018/07/29/nyregion/uber-cap-civil-rights.html
Когда мы чрезмерно упрощаем этические дилеммы, немедленно принимая ту или иную сторону, мы упускаем возможность и идем на риск. Нам не удается определить те данные, которые могли бы повлиять на наши решения. Мы теряем из виду различные стороны, чьи интересы также будут затронуты, такие как учителя и одинокие родители. И мы игнорируем тот факт, что наши действия и действия других людей имеют потенциальные последствия, например поддержание низкого уровня безопасности в той или иной компании.