Фрикомыслие. Нестандартные подходы к решению проблем
Шрифт:
Другими словами, Херли хочет видеть умного программиста, притворяющегося глупцом, чтобы перехитрить умного мошенника, который тоже прикидывается глупым, чтобы найти себе жертву, может, и не глупую, но крайне доверчивую.
Чатбот Херли заставит всю систему мошенников работать с перегрузкой за счет ложноположительных случаев и тем самым затруднит для них выбор реальной жертвы. Вы можете представить это как ковровую бомбардировку сада аферистов миллионами семян сорняков.
Мы тоже считаем, что иногда нужно нападать на плохих парней до того, как они смогут сами напасть на ни в чем не повинных
В «Суперфрикономике», опубликованной в 2009 году, мы описали алгоритм, который был нами разработан совместно с сотрудниками отдела по борьбе с мошенничеством одного крупного британского банка. Алгоритм был необходим, чтобы проверить миллиарды банковских операций миллионов вкладчиков и выявить возможных террористов. К его созданию нас подвигла необычная банковская активность террористов, которая наблюдалась в США в связи с атаками 11 сентября. Вот несколько признаков, на которые нужно было обратить внимание:
обычно террористы сразу вносили крупную сумму и затем постепенно расходовали деньги, не пополняя счет или делая это крайне нерегулярно;
их банковские операции не были связаны с обычными расходами на проживание (аренда, оплата счетов, страховок и пр.);
нередко они отправляли деньги за границу или получали переводы оттуда, но сумма перевода, как правило, была небольшой (чтобы банк не сообщал об этом в соответствующие органы).
Этих трех признаков, конечно, недостаточно, чтобы поймать террориста или даже мелкого преступника. Но, начав с них и присовокупив другие признаки, выявленные в результате анализа банковских реестров, мы сумели сузить круг поисков.
Круг этот должен быть очень узким. Представьте себе: наш алгоритм с вероятностью 99% предсказывает, что владелец того или иного банковского счета связан с террористической группой. Эта цифра кажется вполне нормальной, пока вы не подумаете о 1% ложноположительных результатов нашего алгоритма.
Террористы — довольно редкая птица в Соединенном Королевстве. Допустим, что их всего человек 500. Алгоритм с 99%-ной точностью отыщет 495 из них, но, кроме этого, он ошибочно укажет на 1% от всех обработанных данных. С учетом того, что население Великобритании составляет около 50 миллионов человек, это дает нам 500 000 невиновных людей. Что случится, если вы вызовете в суд полмиллиона человек, не являющихся террористами, по обвинению в терроризме? Вы можете сколько угодно хвалиться низким одним-единственным процентом ложноположительных случаев (сравните, с чем приходится сталкиваться нигерийским аферистам!), однако вам придется взглянуть в лицо огромному числу разъяренных людей (и, возможно, отвечать в суде по их искам).
Поэтому точность алгоритма должна приближаться к 99,999%. Чтобы достигнуть ее, мы добавляли в алгоритм новые и новые признаки. Некоторые из них были чисто демографическими (мы знаем, что террористы в Великобритании в большинстве своем молодые мужчины и в данный исторический момент мусульмане). Другие — поведенческими. Например, террорист вряд ли будет снимать деньги со счета через банкомат во второй половине дня в пятницу, во время мусульманской молитвы в мечети.
Одним очень важным признаком, который мы выявили, было наличие страховки. Террорист почти никогда не страхует через банк свою жизнь, даже если у него есть жена и дети. Почему? Как мы объясняли в книге, страховка обычно не выплачивается, если
После нескольких лет доработки и настройки алгоритм был выпущен на бескрайние просторы банковских данных. Он работал на суперкомпьютере в банке всю ночь, чтобы днем все шло как и прежде. Алгоритм справился со своей задачей прекрасно. Он выдал относительно небольшой список, в который, мы уверены, попало по меньшей мере несколько террористов. Банк передал нам этот список в опечатанном конверте (закон об охране личных данных не разрешал видеть имена), а мы при встрече передали конверт начальнику британской службы национальной безопасности. Это было прямо как в фильме про Джеймса Бонда.
Что стало с людьми из этого списка? Мы бы хотели рассказать вам об этом, но не можем. Не из соображений национальной безопасности, а просто потому, что не знаем. Хотя британские власти были рады получить от нас этот список, они не считали себя обязанными держать нас в курсе дела.
Но это еще не конец истории, как могло бы показаться.
В «Суперфрикономике» мы описали не только принцип действия алгоритма, но и то, как потенциальный террорист может его обмануть. Для этого нужно пойти в банк и застраховать свою жизнь. Мы даже упомянули, что конкретный банк, с которым мы сотрудничали, «предлагает базовый пакет всего за несколько фунтов в месяц». Чтобы привлечь внимание к этой стратегии, мы дали главе название «Почему террористам-самоубийцам следует страховать жизнь?».
Когда мы приехали в Лондон для продвижения книги, то обнаружили, что британская публика не оценила наш совет террористам. «Я не знаю, зачем мы выдаем террористам такой секрет»19, — написал один колумнист. Радио и телевидение были гораздо менее вежливы. Они просили нас объяснить, какой идиот тратит столько сил, чтобы расставить ловушку, а потом объясняет, как ее обойти. В итоге мы выглядели тупее, чем нигерийские аферисты, тщеславнее Дэвида Ли Рота и кровожаднее царя Соломона.
Мы хмыкали, бубнили, приводили аргументы, иногда склоняли головы в раскаянии. Но внутри себя мы улыбались. Каждый раз, когда нас отчитывали за нашу глупость, мы становились чуточку счастливее. Почему?
С самого начала проекта мы понимали, что найти несколько плодов с гнильцой среди миллионов фруктов будет крайне сложной задачей. Но наши шансы возрастут, если мы сумеет перехитрить террористов и заставить их раскрыться. Именно для этого и была придумана афера со страховкой — да, это была чистая афера.
Вы знаете хоть кого-нибудь, кто покупает страховку в банке? Нет. И мы не знаем. Многие банки предлагают приобрести у них страховку, но клиенты приходят туда вовсе не за этим. Если им нужна страховка, они обращаются к агенту или напрямую в страховую компанию.
И пока «этих американских идиотов» поливали грязью в британских СМИ за советы террористам, кто, спросите себя, вдруг испытал сильнейшее желание пойти и застраховаться в своем банке? Тот, кто хочет замести следы. А наш алгоритм уже стоял на страже. Наученные описанными в этой главе хитрецами, мы придумали ловушку, в которую попадают только виновные. «Таковы, - выражаясь словами царя Соломона, - пути всякого, кто алчет чужого добра: оно отнимает жизнь у завладевшего им»20.
ГЛАВА 8 КАК УБЕЖДАТЬ ЛЮДЕЙ, КОТОРЫЕ НЕ ХОТЯТ, ЧТОБЫ ИХ УБЕЖДАЛИ