За стеной фильтров. Что Интернет скрывает от вас?

Паризер Эли

Иными словами, подходит к концу то время, когда стена фильтров исчезает, как только мы отрываемся от компьютера.

Робот с «Гейдаром [383] »

Профессор из Стэнфорда Райан Кейло много думает о роботах. Но он не тратит время на рассуждения о киборгах и андроидах. Его больше интересуют роботы Roomba-маленькие пылесосы, уже вовсю продающиеся в магазинах. Владельцы дают своим машинкам имена, как домашним питомцам. Они умиляются, глядя, как маленькое неуклюжее устройство катается по комнате. Roomba вызывает эмоциональную реакцию, даже внушает иллюзию неких отношений. И в следующие несколько лет к ним присоединится целая армия их электронных братьев.

383

Разговорное слово, обозначающее способность определять чью-либо сексуальную ориентацию.

Производное от слов gay и radar. Прим. пер.

Проникновение человекоподобных машин в нашу повседневную жизнь ставит перед нами новые дилеммы по части персонализации и приватности. «Человечность» как виртуальных персонажей, так и реальных роботов вызывает сильные эмоции. И когда люди начнут относиться к машинам так же, как к другим людям, эти аппараты смогут убеждать нас поделиться личной информацией, которую мы бы сознательно никогда не выдали.

Прежде всего присутствие лица, похожего на человеческое, меняет наше поведение, побуждает нас вести себя так, будто мы находимся на публике. Одно из проявлений этого эффекта продемонстрировал китайский эксперимент с Джин-Джином и Чачей, мультяшными интернет-полицейскими. В то же время, по словам Кейло, люди гораздо менее охотно делятся частной информацией, когда их допрашивает виртуальный агент, чем когда им надо просто заполнить анкету [384] . Отчасти поэтому мода на интеллектуальных агентов в первый раз быстро сошла на нет: во многих случаях проще выудить у людей личную информацию, если им кажется, будто они в частном порядке вводят ее в неперсонализированный механизм, а не делятся ею с людьми.

384

M. Ryan Calo. People Can Be So Fake: ANew Dimension to Privacy and Technology Scholarship. Penn State Law Review 114 (2010), no. 3:810–855.

С другой стороны, когда ученые Теренс Вернем и Брайан Хейр из Гарварда попросили нескольких добровольцев сыграть в игру, в которой они могли либо пожертвовать деньги, либо оставить их себе, изображение дружелюбного робота по имени Кисмет увеличивало пожертвования на 30 процентов [385] . Человекоподобные агенты склоняют нас держать при себе интимные подробности нашей жизни, потому что мы чувствуем себя так, будто рядом есть другие люди. Но для пожилых людей или детей в больнице виртуальный друг или робот может стать спасением от одиночества и скуки.

385

Vanessa Woods. Pay Up, You Are Being Watched. New Scientist, Mar. 18, 2005, www.newscientist.com/article/dn7144-pay-up-you-are-being-watched.html.

Это о хорошем. Тем не менее человекоподобные агенты обладают изрядной властью над нами. «Компьютеры, запрограммированные быть вежливыми или демонстрировать определенные личностные черты, — пишет Кейло, — могут оказать серьезнейшее влияние на уровень вежливости, восприимчивости и иные аспекты поведения испытуемых» [386] . Поскольку они вступают в контакт с людьми, они могут вытянуть информацию, которую мы вовсе не намеревались выкладывать. Флиртующий робот может считывать подсознательные сигналы — движения глаз, язык тела, — чтобы быстро определять особенности личности собеседника.

386

Calo. People Can Be So Fake.

Проблема, по мнению Кейло, заключается в следующем: трудно все время помнить, что человекоподобные программы и агрегаты на самом деле не люди. «Адвертары» или роботы-помощники могут иметь доступ ко всем персональным данным, выложенным в онлайн. Они могут знать о вас даже больше, чем ваш лучший друг. По мере совершенствования методики убеждения и анализа личности эти механизмы получат необычайно тонкое представление о том, как можно менять ваше поведение.

Это возвращает нас к теме «адвертаров». В мире, где внимание дефицитно, сигналы, намекающие на присутствие живых существ, особенно людей, выделяются на общем фоне: мы запрограммированы уделять им внимание. Рекламный щит игнорировать гораздо проще, чем привлекательного человека, называющего вас по имени. И в результате рекламодатели могут счесть вполне оправданными инвестиции в технологию, позволяющую использовать «человечную» рекламу в общественных местах. Очередной привлекательный мужчина или красивая женщина, которые заносят вас в друзья на Facebook, могут оказаться всего лишь рекламой пакетика с чипсами.

Как выражается Кейло, «люди еще не эволюционировали до уровня технологий XX века. Человеческий мозг развивался в мире, где насыщенное социальное поведение могло исходить только от людей и где все воспринимаемые объекты — физические предметы» [387] . Теперь

все это меняется.

Будущее уже наступило

Будущим мира персонализации движет простой экономический расчет. Получение сигналов о нашем поведении и вычислительная мощность, необходимая, чтобы просчитывать их, становятся дешевле, чем ранее. Когда цена снижается, новые и весьма изощренные возможности становятся все доступнее.

387

Calo. People Can Be So Fake.

Возьмем распознавание лиц. С помощью MORIS, приложения для iPhone за три тысячи долларов, полиция в Ьроктоне (Массачусетс) может «щелкнуть» подозреваемого и в считаные секунды проверить по фотографии его личность и прошлые нарушения [388] . Если пометить именами несколько фотографий в программе управления картинками Google Picasa, то она уже может вычислить, кто есть кто на остальных ваших снимках. А по словам Эрика Шмидта, это относится и к архивам изображений Google, полученных со всего Интернета. «Дайте нам 14 своих фотографий, — сообщил он разработчикам на конференции Techonomy Conference 2010, — и мы сможем найти остальные ваши изображения с 95-процентной точностью» [389] .

388

Maureen Boyle. Video: Catching criminals? Brockton Cops Have an App for That. Brockton Patriot Ledger, June 15, 2010, www.patriotledger.com/news/cops_and_courts/xl602636300/Catching-criminals-Cops-have-an-app-for-that.

389

Jerome Taylor. Google Chief: My Fears for Generation Facebook. Independent, Aug. 18, 2010, www.independent.co.uk/life-style/gadgets-and-tech/news/google-chief-my-fears-for-generation-facebook-2055390.html.

Правда, в конце 2010 года эта функция еще не была внедрена в поиск Google по изображениям. Израильский стартап Face.com, возможно, предложит такую услугу раньше, чем поисковый гигант [390] . Не каждый день компания разрабатывает полезную и даже революционную технологию, а затем позволяет конкуренту запустить такой продукт первым. Но у Google есть серьезные основания для беспокойства: способность искать людей по лицу может разрушить многие иллюзии нашей культуры о приватности и анонимности.

390

В 2011 году Google предоставил возможность искать изображения, похожие на заданное, а также пытаться их идентифицировать. Несколько позже было выпущено мобильное приложение Google Goggles с похожими функциями. Прим. пер.

Многих эта технология может застать врасплох. И дело не только в том, что вашим друзьям (и врагам) будет легко находить ваши фотографии, сделанные другими, — как будто всему Интернету сразу проставили теги на Facebook. Они также смогут находить фотографии других людей, снятые кем-то еще, где вы на заднем плане идете или курите сигарету.

После обработки данных все уже просто. Хотите найти двух людей вместе — вашего бойфренда и ту слишком оживленную девушку-стажера, с которой, как вы подозреваете, он заигрывал, или же вашего сотрудника и топ-менеджера другой фирмы, пытающегося переманить его к себе? Пожалуйста. Хотите построить социальный граф в духе Facebook и понять, кто с кем чаще появляется? Легко. Хотите увидеть, кто из ваших коллег зарегистрировался на анонимном сайте знакомств или вывесил где-нибудь свои фото в неглиже? Хотите узнать, как выглядел ваш новый друг, когда злоупотреблял наркотиками? Хотите найти мафиози, воспользовавшихся программой защиты свидетелей, или шпионов, работающих под прикрытием? Возможности практически безграничны.

Естественно, распознавание лиц требует невероятных вычислительных мощностей. Программа Picasa работает медленно: на моем ноутбуке ей нужно несколько минут, чтобы обработать базу фотографий. Так что пока, возможно, слишком дорого, производить такие операции для всего Интернета. Но на стороне этой технологии — закон Мура [391] , один из самых могущественных законов компьютерной техники: каждый год, по мере того как скорость процессоров в расчете на доллар удваивается, делать это будет вдвое дешевле. Рано или поздно массовое распознавание лиц — возможно, даже в реальном времени, что позволит опознавать людей на камерах безопасности и в прямом эфире, — станет возможным.

391

Гордон Мур в 1965 году предположил, что число транзисторов на кристалле будет удваиваться каждые 24 месяца и мощность вычислительных устройств будет расти по экспоненте. Прим. ред.