Мир-фильтр. Как алгоритмы уплощают культуру

Издательство CORPUS ®

Художественное оформление и макет Андрея Бондаренко

Йозеф Фридрих Фон Ракниц. Предположительная схема механического турка. 1789

В 1769 году государственный служащий империи Габсбургов по имени Иоганн Вольфганг Риттер фон Кемпелен создал устройство, прозванное механическим турком. Этот подарок должен был произвести впечатление на императрицу Священной Римской империи Марию-Терезию Австрийскую. Почти

что волшебная машина фон Кемпелена умела играть в шахматы и побеждать человека – всего лишь с помощью внутренних шестеренок и ремней. Как видно на исторических гравюрах, механический турок представлял собой большой деревянный ящик шириной около четырех футов, глубиной два с половиной фута и высотой три фута [1] ; за его дверцами можно было разглядеть сложный внутренний механизм. Сверху располагался человекоподобный автомат: над шахматной доской наклонялась фигура размером с ребенка – халат, тюрбан, впечатляющие усы (этот ориенталистский архетип объединял в глазах европейцев чужака-человека и чужака-машину). Турок протягивал над доской левую руку, брал фигуры и передвигал их. Машина сигналила после сделанного хода, определяла, когда противник жульничает, а лицо автомата могло менять выражение. Механический турок фон Кемпелена настолько всех одурачил, что во время своих путешествий по миру сразился с Бенджамином Франклином в 1783 году и Наполеоном Бонапартом в 1809 году. Оба ему проиграли.

Однако на самом деле механический турок не умел играть в шахматы. Не было ни искусственного интеллекта, управляющего автоматоном, ни кучи шестеренок, механически определяющих следующий ход. Внутри корпуса сидел невысокий человек, хорошо игравший в шахматы. Благодаря системе магнитов он мог отслеживать расположение пешек, коней и королей на доске [2] . Используя систему рычагов и тросиков, игрок управлял рукой автомата: брал фигуры и передвигал их. Дым от свечки, которую спрятанному шахматисту приходилось использовать для освещения, уходил через скрытые отверстия в задней части машины [3] . Все внутренние механизмы не играли никакой роли, а лишь создавали видимость. Когда дверцы открывались и зрители заглядывали внутрь в рамках демонстрации ложной прозрачности, они не видели оператора: тот скрывался, используя передвижное сиденье – нечто вроде ложного дна в реквизите фокусника.

Механический турок создавал впечатляющую иллюзию машины, которая могла сама принимать решения и выглядела умнее человека, в то время как на самом деле автоматом управлял именно человек. Некоторые зрители подозревали обман. “Называть это автоматом – жульничество, и это заслуживает публичного осуждения”, – писал скептически настроенный британский автор Филипп Тикнесс в книге 1784 года, утверждая, что машиной управляли “невидимые сообщники”. Тикнесс продолжал: “Шахматист-автоматон – это человек в человеке; из чего бы ни состояла его внешняя форма, внутри он содержит живую душу”. Конечно, Тикнесс был прав, но тайна полностью раскрылась только в 1860 году, когда машина уже объехала Соединенные Штаты и попала в коллекцию Джона Кирсли Митчелла, личного врача Эдгара Аллана По [4] . Оригинальный автоматон погиб во время пожара, а сын Митчелла написал статью для журнала Chess Monthly. Однако то, что машина оказалась чистой иллюзией, только увеличило значимость механического турка.

За два века, прошедшие с момента его изобретения, это устройство стало распространенной метафорой для описания технологических манипуляций. Она олицетворяет человека, скрывающегося за фасадом, казалось бы, передовых технологий, а также способность таких устройств вводить нас в заблуждение относительно своей природы. (В 2005 году компания Amazon назвала “Механическим турком” свой сервис, в котором цифровые задачи, такие как расстановка тегов для фотографий или очистка данных, выполняются с помощью невидимого рынка аутсорсингового человеческого труда.) Механический турок подобен герою “Волшебника страны Оз”, прятавшемуся за занавесом, – всезнающая таинственная сущность, которая в конечном итоге оказывается чем-то гораздо более обыденным и понятным. Машина и трюк дополняют друг друга. Благодаря двойному обману турку удается “все время выигрывать” – как писал немецкий философ Вальтер Беньямин, размышляя об этом устройстве в эссе 1940 года.

В последнее время я довольно часто думаю о механическом турке, потому что он напоминает мне об одном технологическом призраке, преследующем нашу эпоху начала XXI века. Имя этому призраку – “алгоритм”. Алгоритм – это сокращение от “алгоритмических рекомендаций”, цифровых механизмов, которые

поглощают кучу пользовательских данных, проталкивают их через набор уравнений и выплевывают результат, считающийся наиболее релевантным для заданных целей. Алгоритмы определяют сайты, которые мы находим с помощью Google; тексты, которые мы видим в ленте Фейсбука [5] ; песни, которые бесконечным потоком проигрывает Spotify; людей, которых мы рассматриваем как потенциальных партнеров в приложениях для знакомств; фильмы, рекомендуемые на главной странице Netflix; персонализированную ленту видеороликов, которую выдает ТикТок; порядок постов в Твиттере [6] и Инстаграме; папки, по которым автоматически сортируется наша электронная почта; рекламу, которая преследует нас по всему интернету. Алгоритмические рекомендации в значительной степени обуславливают наше взаимодействие с цифровым пространством – учитывая наши предыдущие действия и выбирая те фрагменты контента, которые в наибольшей степени соответствуют нашим моделям поведения. Они призваны интерпретировать наше поведение, а затем показывать нам то, что мы хотим увидеть.

Сегодня мы постоянно сталкиваемся со всевозможными алгоритмами, каждый из которых пытается угадать, о чем мы думаем, что ищем и чего желаем – еще до того, как даже мы сами осознаем ответы на эти вопросы. Когда я пишу электронное письмо, мое приложение Gmail предугадывает слова и фразы, которые я пытаюсь набрать, и пишет их за меня, словно читая мои мысли. Сервис Spotify выводит на экран музыкантов и альбомы, которые, по его прогнозам, я, скорее всего, буду слушать, и в итоге я часто выбираю их просто по привычке. Когда я разблокирую свой телефон, там уже висят фотографии из прошлого, которые я, возможно, захочу посмотреть – названные “воспоминаниями”, словно они существуют в моем подсознании; рядом мне предлагают и приложения, которые я, возможно, захочу открыть, и друзей, которым я, возможно, захочу написать сообщение. Инстаграм подсовывает доску настроений из того, что его алгоритм считает моими интересами: фотографии еды, снимки зданий, повторяющиеся нарезки популярных телепередач. ТикТок предлагает мне необъяснимую лавину видеороликов о том, как люди меняют плитку у себя в ванной, и я необъяснимым образом продолжаю их смотреть, хотя мне это ни к чему. Но ведь не может же моя идентичность сводиться к культурному потреблению?

Раньше все эти мелкие решения принимали люди: редактор газеты решал, какие материалы поместить на первую полосу; фоторедактор журнала отбирал фотографии для публикации; ответственный за программу фильмов выбирал, какие картины показывать в кино; диджей независимой радиостанции составлял плейлисты из песен, соответствующих его собственному настроению и особой атмосфере того или иного дня или места. Хотя эти решения, конечно, зависели от различных социальных и экономических сил, человек, отвечающий за них, обеспечивал базовый уровень качества и даже безопасности; однако при ускоренной подаче в интернете этот уровень может отсутствовать.

Алгоритмические рекомендации – это новейшая итерация механического турка: серия человеческих решений, облеченных в форму технологических, автоматизированных и получивших нечеловеческие масштабы и скорость. Эта технология, разработанная и поддерживаемая инженерами монополистических компаний и работающая на тех данных, которые мы – пользователи – постоянно предоставляем, заходя каждый день, одновременно создана нами и нами же управляет, манипулируя нашим восприятием и вниманием. Алгоритм всегда побеждает.

Название этой книги – “Мир-фильтр” (Filterworld) – мой термин, который означает обширную, взаимосвязанную и в то же время разрозненную сеть алгоритмов, влияющих на нашу сегодняшнюю жизнь и оказывающих особенно сильное воздействие на культуру и способы ее распространения и потребления. Хотя Мир-фильтр также изменил политику, образование, межличностные отношения и многие другие аспекты жизни общества, я сосредоточился только на культуре. Визуальные искусства, музыка, кино, литература или хореография – алгоритмические рекомендации и наполняемые ими ленты опосредуют наше отношение к культуре, направляя внимание на то, что лучше всего вписывается в структуру цифровых платформ. Автоматические рекомендации – это фильтры, которые отделяют то, что привлекает внимание, от того, что игнорируется, и тонко искажают внешний вид этих вещей, подобно фильтру в Инстаграме, усиливающему одни свойства и ослабляющему другие. Культурные успехи Мира-фильтра очевидны. К ним относятся такие явления, как “кантрифицирующие” [7] действия ТикТока, который в 2018 году привел к мировой славе песню рэпера Lil Nas X “Old Town Road”; клишированные тенденции в дизайне, затопившие Инстаграм, такие как минималистичные интерьеры и однообразные логотипы со шрифтами без засечек, которые модные бренды взяли на вооружение в последние годы; вызывающий ярость поток бессмысленных споров в Твиттере.