Дил и его команда потрудились дважды проверить данные «черного ящика». Они определили запас топлива на борту в момент, когда самолет перешел на полет в зоне ожидания, выяснили, сколько топлива расходуют DC-8 в среднем, узнали, сколько топлива было потрачено до момента аварии. Цифры сходились. Самолет расходовал топливо ничуть не быстрее, чем можно было ожидать. Утечка была не в баках, а в восприятии времени Макбрума.
Лишь по итогам расследования, проведенного третьими лицами, правда вышла наружу. В здравоохранении никто не осознал настоящую проблему, потому, что с точки зрения самих врачей, проблемы не было. Таков один из замкнутых циклов, откладывающих решение проблемы до бесконечности: когда люди не изучают совершенные ошибки, они порой не осознают, что ошиблись (даже если подозревают это).
Опубликованный в июне 1970 г. отчет о катастрофе United Airlines 173, подготовленный Дилом и его коллегами, стал важной вехой в истории авиации. На 30-й странице сухим языком официальных отчетов были сформулированы рекомендации: «Выпустить оперативный бюллетень для всех инспекторов воздушного транспорта с инструкцией предписать прикрепленным к ним операторам гарантировать внедрение принципов рационального управления ресурсами на уровне экипажей воздушных кораблей с особым упором на преимущества привлечения к принятию решений других членов экипажа (для командиров) и тренировки уверенности в себе (для других членов экипажа)».
Через несколько недель НАСА провело конференцию, чтобы рассказать о преимуществах новой учебной программы «Управление ресурсами экипажа». Упор делался на коммуникацию. Вторых пилотов учили всегда сохранять уверенность в себе. Мнемоническое правило, используемое в авиации для воспитания в членах экипажа уверенности в себе, носит название P. A. C. E.: Probe, Alert, Challenge, Emergency – Проверка, Оповещение, Побуждение, Чрезвычайная Ситуация[8]. Командиров, которых годами воспринимали в качестве непререкаемых авторитетов, теперь учили прислушиваться, воспринимать сигналы тревоги и прояснять неопределенности. Проблема восприятия времени решилась структурированием распределения обязанностей.
Были расширены и улучшены уже существовавшие карты контрольной проверки (чек-листы). С одной стороны, чек-листы составляются для того, чтобы ничего не упустить в сложной ситуации. С другой, они уменьшают иерархические различия. Когда командир и второй пилот разговаривают, настраиваются друг на друга, выполняя проверки по чек-листу, между ними открываются коммуникационные каналы. Повышается вероятность того, что второй пилот в аварийной ситуации заговорит с командиром. Это решает еще и так называемую «проблему активации».
Различные версии новых методов обучения стали сразу же проигрывать на симуляторах. На каждой стадии новые идеи проверялись, жестко тестировались и подвергались испытаниям на прочность. Наиболее эффективные предложения были оперативно внедрены в практику авиакомпаний по всему миру. После ужасной серии катастроф 1970-х число аварий в авиаиндустрии стало уменьшаться.
«Катастрофа United Airlines 173 была травматическим происшествием, но в итоге благодаря ей стал возможен гигантский скачок вперед, – говорит эксперт по безопасности полетов Шон Пручницки. – Она до сих пор считается водоразделом: именно тогда мы осознали, что “человеческие ошибки” часто возникают из-за неудачно построенной системы. Эта катастрофа изменила способ мышления целой индустрии».
Катастрофа United Airlines 173 унесла жизни десяти человек и позволила научиться тому, как спасти десятки тысяч.
Этот подход мы можем назвать «принципом “черного ящика”»[9]. Для организаций, не связанных с полетами, данный принцип не означает, что нужно создавать настоящий «черный ящик»; он предполагает скорее стойкое желание выносить уроки из обстоятельств, в которых мы терпим неудачу, но которые редко используем, чтобы улучшить свои результаты. Принцип «черного ящика» предполагает создание систем и культур, позволяющих организациям учиться на ошибках, а не пугаться их.
Неудачи дают массу возможностей для обучения по очень простой причине: в чем бы они ни проявлялись, они обнаруживают нарушение ожиданий [36]. Неудача демонстрирует нам, что мир в каком-то аспекте отличается от наших представлений о нем. Смерть Илэйн Бромили, например, показала, что применяемые во время медицинских операций процедуры не учитывают ограничения человеческой психологии. Катастрофа United Airlines 173 выявила аналогичные проблемы в кабине экипажа воздушного судна.
Подобные неудачи неизбежны, потому что мир – это сложная система, которую мы никогда не поймем во всех подробностях. Модель, как часто напоминают нам эксперты в области общественных наук, не есть реальность. Таким образом, неудача – это своего рода дорожный знак. Он выявляет особенность нашего мира, которую мы не уяснили до конца, и указывает, как именно нам следует привести свои модели, свои стратегии, свое поведение в соответствие с реальной жизнью. С этой точки зрения вопрос, который часто задают после событий с неблагоприятным исходом, – «можем ли мы тратить время на расследование причин неудачи?» – абсолютно неправилен. Правильный вопрос звучит так: «Можем ли мы позволить себе этого не делать?»
Отсюда – еще один важный вывод. Иногда говорят, что принципиальная разница между авиацией и здравоохранением заключается в доступности ресурсов: в распоряжении авиации куда больше денег, она может проводить расследования и учиться на своих ошибках. Если бы здравоохранение располагало большими средствами, разве оно не поступало бы так же? Но и это утверждение на деле перевернуто с ног на голову. Может, у здравоохранения денег и меньше, но врачи сберегали бы деньги, если бы учились на ошибках. Стоимость медицинских ошибок составляет, по консервативным оценкам, 17 млрд долларов в год в одних только США [37]. В марте 2015 г. отдел судопроизводства Национальной службы здравоохранения (НСЗ) Великобритании зарезервировал 26,1 млрд фунтов на покрытие ущерба, нанесенного из-за халатности. Учиться на ошибках – значит не тратить ресурсы, а наиболее эффективно сберегать и ресурсы, и жизни[10].
Психологи часто делают различие между ошибками в ситуации, когда мы знаем, как надо поступать, и ошибками в ситуации неопределенности. Скажем, ошибочно выданное лекарство относится к первой категории: медсестра знает, что должна дать пациенту лекарство А, но неумышленно дает ему лекарство Б, возможно, потому, что у них похожи упаковки или из-за дефицита времени.
Бывает, однако, что ошибку сознательно делают частью процесса открытия. Фармацевтические компании тестируют множество разных сочетаний химических препаратов, чтобы узнать, какие из них эффективны, а какие нет. Никто не знает заранее, какое сочетание сработает, потому компании проводят столько тестов – и часто ошибаются. Здесь неудача – органическая часть процесса.
В первой части книги мы рассмотрим ошибки первой категории, потом придет черед ошибки второй категории. Суть в том, что без ошибок по обоим сценариям открытий не бывает. В таких сферах, как здравоохранение, ошибки похожи на указательные знаки, позволяющие реформировать систему, чтобы уменьшить вероятность ошибок в будущем; во втором случае ошибки способствуют появлению новых лекарств.
Есть еще не слишком четкое деление ошибок на совершаемые во время «тренировки» и во время «выступления». Фигуристы, например, в процессе тренировок часто падают. Напрягаясь, тренируя сложные прыжки и время от времени падая на холодный лед, они переходят к более сложным прыжкам, улучшая заодно технику и оттачивая детали. Все это позволяет им безукоризненно выступать на больших соревнованиях.
На деле тренировка позволяет использовать преимущества обучения на ошибках и заплатить меньшую цену. Лучше потерпеть неудачу при подготовке к соревнованию, чем во время соревнования. Это верно и для организаций – они тестируют пробные схемы (в авиации и других отраслях, в которых безопасность критична, идеи проверяются на симуляторах), чтобы обучиться на ошибках прежде, чем начинать реализацию новых идей или процедур. Чем больше мы ошибаемся во время тренировок, тем больше учимся – и тем вероятнее сможем не ошибиться, когда это нам понадобится.
Но и после самых прилежных тренировок мы время от времени терпим неудачи в жизненных соревнованиях. Часто это случается в обстоятельствах, когда неудача угрожает нашему самомнению, когда нам больше всего необходимо учиться. Тренировка не заменяет обучения на ошибках, которые мы совершаем в жизни, она лишь дополняет его. Во многих отношениях это две стороны одной медали.
Запомнив это, давайте рассмотрим последний пример расследования по принципу «черного ящика». Речь пойдет о сбитых во Второй мировой войне бомбардировщиках, а проводил его один из лучших математиков XX в. Абрахам Вальд.
Анализ Вальда, ставший поворотным моментом в истории крупнейшего военного конфликта, важен и для нашей книги. Иногда задним числом кажется, что извлекать уроки из катастроф довольно просто. Разве выводы из случившегося с рейсом United Airlines 173 не очевидны? Разве они не следуют напрямую из имеющейся информации?
Однако в процессе расследования данные часто кажутся весьма двусмысленными. Наиболее успешные следователи не просто горят желанием изучить катастрофу, они обладают к тому же аналитическими навыками и интуицией, позволяющей приходить к важным выводам. К слову, многие эксперты в области авиации считают, что в последние годы полеты становятся более безопасными главным образом из-за все более добротных и тщательных расследований [38].
Однако лишь немногие исследования были столь же гениальны, как исследование Вальда. Несколько десятков лет его работа была засекречена, но не так давно правда о Вальде и его вкладе в победу над нацизмом была обнародована. В первую очередь его расследования указывают на то, что учиться на ошибках можно, если ты учитываешь не только имеющуюся, но и отсутствующую информацию.
3
Абрахам Вальд родился в 1902 г. в Венгрии в семье еврея-пекаря. Он получил домашнее образование – его учителем стал старший брат Мартин, квалифицированный инженер. Абрахам очень рано полюбил математику, в 14 лет он был без ума от геометрии. Его друзья говорили, что он все время придумывал и разгадывал головоломки.
В 1927 г. Вальд покинул отчий дом и поступил в Венский университет. И учителя, и студенты сразу распознали в нем острый ум. Как писал позднее коллега Вальда: «Меня заворожили его фантастические способности, его доброта и необычайная энергия, с которой он набрасывался на математические проблемы» [39].
Еще будучи студентом, Вальд получил приглашение Карла Менгера, одного из величайших математиков своего поколения, присоединиться к Математическому коллоквиуму – группе ученых, встречавшихся в неформальной обстановке, чтобы обсуждать математику и философию. Членами коллоквиума были впоследствии легендарные Курт Гёдель и Альфред Тарский. Вальд продолжал активно заниматься математикой и написал несколько работ о геометрии, которые Менгер оценил как «глубокие, изящные и имеющие фундаментальное значение» [40].
Увы, стать преподавателем в Венском университете Вальд не смог из-за еврейского происхождения. «В годы экономического и начинавшегося политического упадка поступить на работу в университет было для него невозможно, хотя, вне всякого сомнения, такое развитие событий было бы благоприятно как для самого Вальда, так и для университета, – писал Менгер позднее. – С характерной скромностью он сказал мне, что его удовлетворит и небольшой заработок от частных уроков, если у него останется возможность продолжить работу с Математическим коллоквиумом» [41].
По мере того как Европа приближалась к войне, стало сложным сохранить даже такое положение. В 1937 г. сторонники нацизма потребовали исключить Вальда из числа членов Математического коллоквиума. Через год, когда Гитлер торжественно вошел в австрийскую столицу, Вальда изгнали. Он оставался в Вене еще пару недель; когда стало ясно, что нацисты намерены уничтожить всех евреев, Менгер, бежавший к тому моменту в США, сумел найти там место для младшего товарища.
Вальд не хотел уезжать из Вены, которую полюбил (в письме другу он писал, что Вена стала его «вторым домом»), однако решение покинуть Австрию почти определенно спасло ему жизнь. Восемь из девяти его родственников позднее погибли от рук нацистов. Родители и сестры Вальда умерли в газовых камерах Освенцима, любимый старший брат Мартин, прививший Абрахаму любовь к математике, погиб, занимаясь рабским трудом на западе Германии. Вальд узнал о судьбе близких людей только после конца войны.
В Америке он страшно обрадовался, когда понял, что сможет и дальше заниматься любимой математикой. В конце концов Вальду предложили работу в команде с обманчиво банальным названием «объединение прикладной математики». Офис объединения располагался в квартире на верхнем этаже четырехэтажного дома в паре кварталов от центра Гарлема. Появление там Вальда стало поворотным пунктом в ходе войны [42].
В объединение входили выдающиеся математики. Они работали на военных и анализировали широкий спектр проблем, в частности наиболее эффективную модель запуска торпед и аэродинамические свойства ракет. По словам писателя Дэвида Макрейни, «люди, проходившие мимо этого дома, даже понятия не имели, что четырьмя этажами выше шла важнейшая работа в области прикладной математики, влиявшая на ход мировой войны» [43].
В основном эта работа была строжайше засекречена, и появившиеся в итоге отчеты членов объединения оставались под замком несколько десятков лет. Лишь недавно исследователи стали собирать сведения о достижениях «солдат-математиков» и выяснили, что те внесли решающий вклад в победу союзников. Работы Вальда, увидевшие свет много лет спустя, были, вероятно, самыми удивительными из всех.
Военные попросили Вальда помочь им решить важнейшую проблему. Бомбардировки в Европе были связаны с огромным риском.
В некоторые периоды войны вероятность выжить для пилота, отправляющегося на дежурный вылет, составляла чуть более 50 %. Военный историк Кен Уилсон писал, что храбрые и отчаянные пилоты были «уже почти призраками» [44].
Командование решило, что необходимо усилить самолеты броней, чтобы лучше защитить их от обстрела как с земли, так и с воздуха. Проблема была в том, что бронировать всю поверхность бомбардировщика нельзя – самолет будет слишком тяжел для полета и потеряет маневренность. Вальду поручили определить, какие части корпуса нужно покрывать броней в первую очередь.
Ученого снабдили огромным массивом информации. К чести ВВС, каждый возвращавшийся самолет тщательно изучался на предмет повреждений – все понимали, что это единственный способ сделать вылеты более безопасными. ВВС применяли принцип «черного ящика»: изучали информацию по итогам катастроф и использовали ее для предотвращения будущих неудач.
Командование ВВС осознавало, что «рисунок» повреждений более-менее ясен. Многие самолеты были изрешечены попаданиями вдоль крыльев и фюзеляжа. Как правило, кабина летчика и хвост повреждены не были. Чем больше поврежденных самолетов возвращалось из боев, тем яснее проявлялся рисунок повреждений.