За стеной фильтров. Что Интернет скрывает от вас?

Паризер Эли

Предположим, компания знает: конкретные клиенты испытывают непреодолимое желание купить что-то, когда испытывают стресс, приступ самоуничижения или находя тся в легком подпитии. Если персональное устройство способно в нужный момент выкрикивать «Ты можешь!» людям, нуждающимся в поддержке, то эта технология даст политикам возможность обращаться к каждому избирателю лично с учетом его страхов и слабостей.

Рекламно-информационные передами показывают посреди ночи не только потому, что эфирное время стоит дешево. И ночные часы большинство людей особенно легко поддаются убеждению. Они могут загореться желанием купить куборезку, которую ни за что по взяли бы днем. Впрочем, правило «трех часов утра» довольно грубое: вероятно, в нашей повседневной жизни есть моменты, когда мы особенно склонны купить то, что нам подсовывают. Маркетологи могут воспользоваться теми же данными, на основе которых мы получаем персонализированный контент, чтобы найти наши слабости и манипулировать ими. И это уже не фантазии: исследова тель приватности Пэм Диксон выяснила,

что компания РК List Management выставила на продажу список клиентов под названием «Для меня — бесплатно. Покупатели с непреодолимыми желаниями». Попавшие туда охарактеризованы как люди, чрезвычайно легко поддающиеся рекламе, если акция подается как лотерея [256] .

256

РК List Marketing. Free to Me — Impulse Buyers, www.pklistmarketing.com/Data%2 °Cards/Opportunity%20Seekers%20&%20Sweepstakes%20Participants/Cards/Free%20To%20Me%20-%20Impulse%20Buyers.htm.

Поскольку персонализированное убеждение работает при продаже товаров, оно может сослужить службу и при продвижении идей. Несомненно, место, время и стиль аргументации могут сделать нас более восприимчивыми к чьим-то словам. Передача подсознательных сообщений запрещена, мы понимаем, что некоторые виды убеждения по сути жульничество. Нечестно атаковать людей особыми словами и высказываниями, ориентированными на подсознание. Но ведь легко представить себе, как политическая кампания нацеливается на избирателей именно в те моменты, когда легко преодолеть наши более разумные устремления.

Мы интуитивно понимаем, какую власть дает раскрытие нашей глубинной мотивации, желаний и сущности, — вот почему многие в повседневной жизни откровенничают лишь с людьми, которым понастоящему доверяют. И здесь есть симметрия: вы знаете ваших друзей примерно так же хорошо, как и они вас. А вот сбор данных о том, как вас легче всего убедить, подчас происходит невидимо и асимметрично: вы можете и не знать об этом. В отличие от некоторых форм профилирования [257] , проводимых открыто для пользователя (как в Netflix), такое профилирование на поверку выглядит ущербно. Автоматизированный тренер воспринимается совсем иначе, если он говорит: «У тебя прекрасно получается! Я говорю тебе это, потому что ты хорошо реагируешь на поощрение!»

257

От слова profiling. Профилирование изначально подразумевало сбор косвенных данных о преступнике и составление его психологического и социального портрета. Впоследствии эти инструменты распространились и в других сферах, в том числе в маркетинге. Прим. пер.

Вы не обязательно заметите, что на вас составляют досье. Вы не увидите, как с его помощью будут управлять вашим поведением. И компании, которым мы передаем эти данные, не связаны юридическими обязательствами держать их при себе. Если досье попадется каким-нибудь нечистым на руку компаниям, они смогут обходить ваш рациональный механизм принятия решений, давая дорогу вашим непреодолимым влечениям. Понимание чьей-то идентичности вооружает вас инструментами влияния на этого человека.

Темная и узкая тропа

В скором времени Google, по словам вице-президента компании Мариссы Майер, надеется упразднить поле для ввода поисковых запросов. «Следующий шаг — автоматизация, — говорил Эрик Шмидт в 2010 году. — Я хочу, чтобы, когда я шел по улице, мой смартфон вел поиск постоянно—"а знаете?", "а знаете?", "а знаете?"» [258] Иными словами, ваш телефон должен соображать, что бы вам хотелось поискать, раньше вас.

В приближающейся эпохе поиска без поиска идентичность будет управлять медиа. Но создатели персональных фильтров еще не в полной мере поняли: медиа тоже формируют идентичность. Политолог Шанто Айенгар называет в числе главных факторов предвзятость в связи с доступностью, и в статье 1982 года «Экспериментальная демонстрация "не столь уж минимальных" последствий телевизионных новостей» он показал, насколько сильной она может быть [259] . И течение шести дней Айенгар предъявлял нескольким жителям Нью-Хейвена телевизионные новости. Сюжеты были специально обработаны, чтобы каждой группе доставались свои фрагменты.

258

Robert Andrews. Google's Schmidt: Autonomous, Fast Search Is 'Our New Definition', paidContent, Sept. 7, 2010, http://paidcontent.co.uk/article/419-googles-schmidt-autonomous-fast-search-is-our-new-definition.

259

Shanto Iyengar, Mark D. Peters, and Donald R. Kinder. Experimental Demonstrations of the 'Not-So-Minimal' Consequences of Television News Programs. American Political Science Review 76, no. 4, 1982, 848–858.

После этого ученый попросил

участников эксперимента отметить, насколько для них важны такие темы, как загрязнение окружающей среды, инфляция и вопросы обороны. Изменения по сравнению с анкетами, заполненными до эксперимента, были разительны: «Участники, которые наблюдали стабильный поток новостей об обороне или загрязнении, пришли к выводу, что эти проблемы более существенные» [260] . В группе, которой показывали отрывки о загрязнении окружающей среды, соответствующая тема поднялась в списке приоритетов с шестого места на второе.

260

Shanto Iyengar, Mark D. Peters, and Donald R. Kinder. Experimental Demonstrations of the 'Not-So-Minimal' Consequences of Television News Programs. American Political Science Review 76, no. 4, 1982, 848–858.

Дрю Уэстен, специалист по нейропсихологии, занимающийся темой политического убеждения, продемонстрировал силу этого эффекта, попросив группу людей запомнить список слов, в том числе «луна» и «океан» [261] . Через несколько минут он сменил тему и спросил, какое моющее средство предпочитают участники. Большинство выбрали Tide [262] , хотя это слово в списках не фигурировало.

Выдвижение тех или иных новостей на первый план — не единственный способ влияния медиа на нашу идентичность. Мы также более склонны верить тому, что слышали прежде. В исследовании Хашера и Голдстейна от 1977 года участников попросили прочесть 60 утверждений и сказать, истинны они или ложны [263] . Все эти высказывания были правдоподобны, но некоторые истинны («Французские горнисты получают бонусы живыми деньгами, если остаются на военной службе»), а другие — нет («Развод существует лишь в технически продвинутых обществах»). Через две недели эти же испытуемые должны были оценить второй набор высказываний, в котором повторялись некоторые предложения из первого. В третий раз, еще через две недели, участники эксперимента гораздо чаще верили тем высказываниям, которые уже слышали. Информация как пища: мы — то, что мы потребляем.

261

Drew Westen. The Political Brain: The Role of Emotion in Deciding the Fate of the Nation. Cambridge, MA: Perseus, 2007.

262

Tide (англ.) — «прилив». Прим. пер.

263

Lynn Hasher and David Goldstein. Frequency and the Conference of Referential Validity. Journal of Verbal Learning and Verbal Behaviour 16, 1977, 107–112.

Все это базовые психологические механизмы. Но если совместить их с персонализацией медиа, неприятности неизбежны. Ваша идентичность формирует ваше медиапотребление, но затем медиа формируют ваши убеждения и области интереса. Вы переходите по ссылке, и это сигнализирует об интересе к чему-то; значит, вы с большей вероятностью будете в дальнейшем видеть статьи именно на эту тему, что, в свою очередь, повысит значимость темы для пас. Вы оказываетесь в ловушке, в «я»-петле, и если система вдруг восприняла вас неверно, то это приведет к появлению весьма причудливых схем, подобно реверберации в усилителе звука.

Если вы пользуетесь Facebook, то, наверное, уже сталкивались с этой проблемой. Вы ищете свою старую подружку из колледжа, Салли. Это лишь мимолетное любопытство: а что же с ней стало после всех этих лет? Facebook воспринимает это так: вы интересуе тесь Салли. И вдруг ни с того ни с сего ее жизнь заполняет вашу ленту новостей. Вам все еще чуть-чуть любопытно, вы кликаете на новые фото ее детей, мужа и домашних питомцев, которые она вывесила, и тем самым подтверждаете догадку Facebook. С точки зрения программы, у вас с этим человеком есть какие-то отношения, даже если вы много лет не общались. И еще несколько месяцев жизнь Салли будет представлена в вашей ленте лучше, чем вам нужно. Есть люди, чьи сообщения вы прочли бы с гораздо большим интересом, но вам попадаются именно ее публикации.

Отчасти этот эффект обратной связи объясняется, по словам венчурного капиталиста Мэтта Колера, проблемой «локального максимума». Колер был одним из первых сотрудников Facebook и повсеместно считается одним из самых умных экспертов по социальным сетям в Кремниевой долине.

Проблема локального максимума, как он мне объяснил, возникает всякий раз, когда вы пытаетесь что-то оптимизировать. Допустим, вы хотите написать простые инструкции, чтобы помочь слепому, потерявшемуся в горах Сьерра-Невада, найти путь к пику этого хребта. «Потыкайте вокруг себя и проверьте, не имеет ли окружающая поверхность уклона, — говорите вы. — Если нет, то двигайтесь в направлении, где ощущается подъем, и так далее» [264] .

264

Из телефонного интервью автора с Мэттом Колером, 23 ноября, 2010.