Бог, человек, животное, машина. Технология, метафора и поиск смысла
Шрифт:
Я заметил в своем кругу общения эту тенденцию не принимать во внимание неприглядные политические взгляды как сбой в системе. В какой-то момент той весной, в те бредовые первые недели пандемии, когда эфир был наполнен слухами о сетях торговли детьми и секс-культах знаменитостей, возникло общее недоверие к некоторым позициям, которые стали казаться немыслимыми, до такой степени, что трудно было упомянуть о безумном посте, увиденном в Facebook или Twitter, не получив вопроса: "Это был кто-то, кого вы действительно знаете?" В большинстве случаев подразумевалось, что это мнение, скорее всего, принадлежит машине, то есть не является мнением вообще, хотя формулировка была достаточно расплывчатой, чтобы ее можно было истолковать более широко, как полное отрицание политической реальности, лежащей за пределами собственной социальной сети. Как и большинство людей, живущих в университетских городах, я вращаюсь в замкнутых и политически однородных кругах, хотя даже эта среда была менее однородной, чем эхо-камеры, в которых каждый из нас обитал в Интернете. Однажды на встрече во дворе я услышал, как одна женщина сказала, что вся идея о том, что некоторые прогрессисты
С момента выборов 2016 года рядовые граждане остро ощущают, что эти бессознательные агенты каким-то образом "подрывают демократию". Но разговоры об этой угрозе часто ограничиваются ее самыми прямыми и непосредственными последствиями. Проблема не только в том, что общественное мнение формируют роботы. Дело в том, что стало невозможно отличить идеи, представляющие законную политическую волю, от тех, которые бездумно распространяются машинами. Эта неопределенность создает эпистемологический разрыв, который делает практически невозможным назначение виновных и позволяет легко забыть о том, что эти идеи высказываются и распространяются членами нашей демократической системы - проблема, которая имеет гораздо более глубокие корни и укоренилась, и для которой нет быстрых и легких решений. Вместо того чтобы смириться с этим фактом, все чаще говорят о том, что виноваты сами платформы, хотя никто не может прийти к единому мнению, где именно кроется проблема: Алгоритмы? Структура? Отсутствие цензуры и вмешательства? О ненавистнической риторике часто говорят так, будто это ошибка кодирования - "кошмар модерации контента", "общеотраслевая проблема", как ее описывают руководители различных платформ, которую необходимо решать с помощью "различных технических изменений", большинство из которых направлены на ублажение рекламодателей. Такие разговоры лишь укрепляют убежденность в том, что коллективная подноготная экстремистов, иностранных агентов, троллей и роботов - это эмерджентная черта самой системы, фантом, таинственно возникающий из кода, как Грендель, пробуждающийся из болота.
Самого Дональда Трампа, человека, чьему приходу к власти, возможно, помогли, а возможно, и нет, машины, часто включают в этот цифровой фантом, еще одно эмерджентное свойство озадачивающей сложности сети. Часто говорят, что он политик, который лучше других понимает или, по крайней мере, интуитивно понимает, как манипулировать системой, работающей на пустых знаках, - системой, которая настолько оторвалась от семантического смысла, настолько сведена к синтаксису, что можно просто бросить в эфир кучу бессмысленных фраз - то, что журналистка Маша Гессен называет "кучами слов", - и увести повествование от его первоисточника. Роберт А. Бертон, известный невролог, утверждал, что Трамп так хорошо разбирается в алгоритмах, потому что он сам является алгоритмом. В своей статье для New York Times в 2017 году Бертон утверждал, что президент обретает смысл, как только вы перестаете воспринимать его как человека и начинаете видеть в нем "рудиментарную обучающуюся машину на основе искусственного интеллекта". Как и системы глубокого обучения, Трамп действовал вслепую, методом проб и ошибок, записывая, какие ходы сработали в прошлом, и используя их для оптимизации своей стратегии, подобно AlphaGo, системе искусственного интеллекта, которая победила на чемпионате по го в Сеуле. Причина, по которой он так озадачил нас, заключается в том, что мы постоянно пытались антропоморфировать его, приписывая его решениям намерения и идеологию, как будто они проистекали из последовательной программы действий. Системы искусственного интеллекта добились такого дикого успеха, потому что они не обременены никакими рациональными или моральными соображениями - им не нужно думать о том, что является социально приемлемым, или принимать во внимание последующие последствия. У них есть одна цель - победа, и этот строгий единоличный интерес постоянно обновляется благодаря положительной обратной связи. Совет Бертона историкам и политикам - рассматривать Трампа как "черный ящик". "Поскольку в действиях сети нет логических обоснований, - писал он, - невозможно провести реинжиниринг сети, чтобы выяснить "почему" то или иное решение".
–
Несмотря ни на что, в той весне было что-то странно-чудесное. Это было не более чем ощущение, которое трудно выразить словами и которое всплывало лишь на короткое время, в паузах между нарастающими волнами паники. Оно было как-то связано с тишиной, опустившейся на мир: пустота улиц, некогда кишащих транспортом, затемненные витрины магазинов и ресторанов, неподвижность, которая, казалось, обитала в самом воздухе, качество которого, как утверждали, улучшилось из-за сокращения использования ископаемого топлива. Полагаю, это было чувство удивления от того, что вся система - все переплетающиеся сети, цепочки поставок и глобальные потоки капитала - была остановлена простым императивом сохранения человеческой жизни. Нас заставляли верить, что это невозможно сделать, но когда пришло время, это каким-то образом произошло. Мы просто выдернули вилку из розетки. Это было утверждение, что жизнь - не средство, а цель, - кредо, которое будет подтверждено еще раз тем же летом, во время протестов против убийства Джорджа Флойда, восстания, в котором осуждение исторической несправедливости и систематического расового насилия черпало свою энергию и моральное возмущение в лишении человека жизни.
Когда студенты уехали, университетский городок превратился в мертвую зону бруталистских зданий и неухоженных газонов. Ходить среди теней этих пустующих строений было все равно что бродить по руинам погибшей цивилизации: единственным признаком жизни был случайный робот, доставляющий еду, который все еще выполнял заказы. В какой-то момент люди начали выходить на улицу, и именно тогда, в течение не более чем пары
Но эта фаза, как я уже говорил, была удивительно короткой. Вскоре система вновь заработала в прежнем режиме, плавно впитывая в свою оперативную логику все нарушения и хаос того года. Контент продолжал поступать по информационному трубопроводу в привычной для нас манере, а смена темы не нарушала его основной формы. Пользователи Twitter, известные своими язвительными высказываниями, теперь писали цитаты Ковида, используя идентичный синтаксис; знаменитости, овладевшие искусством возмущения и тревоги, теперь делали это, публикуя фотографии переполненных пляжей в День поминовения или видео, на которых протестующих бьют слезоточивым газом. Эта плавность проявлялась на всех медиаплатформах и была наиболее заметна в разделах "Стиль жизни" крупных газет, которые без заминки переходили от меню званых ужинов и рекомендаций по путешествиям к советам о том, как эффективно забить морозильник, или где найти дизайнерские маски для лица, или как выглядеть лучше всех на звонке в Zoom.
Даже фондовый рынок, за которым следили так же навязчиво, как за любым оракулом, в первые месяцы пандемии оказался в основном стабильным - то есть совершенно не связанным с экономикой и людьми, которые ее населяют. В июне в журнале FiveThirtyEight была опубликована статья, в которой автор попытался понять, почему фондовые индексы продолжают расти, несмотря на то что все обычные показатели экономического здоровья - уровень занятости, цены на нефть, уверенность потребителей - указывают на рецессию. Автор пришел к выводу, что одной из возможных причин является преобладание алгоритмической торговли, благодаря которой рынки остаются изолированными от реальных условий, в которых живут обычные граждане, включая глобальные пандемии и массовые протесты. "Беспристрастные алгоритмы не волнуются и не пугаются новостей так, как это делают люди", - пишет он.
И все же именно к этой системе, пребывающей, подобно номиналистскому Богу, в некоем трансцендентном царстве, следующей своим прихотям, своей логике, мало заботящейся о нас, часто апеллировали как к силе, которую мы должны умиротворить - силе, требующей жертвовать человеческой жизнью. Еще более удручающими, чем эти аргументы, которые были неудивительными и в основном простыми, были попытки противостоять им с помощью заумной работы по анализу затрат и выгод. Все статьи, в которых приводились аргументы в пользу закрытия, следовали одной и той же формуле: они начинались с неясной апелляции к внутренней ценности человеческой жизни, а затем быстро превращались в алгоритмы рентабельности и оценки доступности в попытке продемонстрировать, что выбор имеет смысл как с моральной, так и с экономической точки зрения - тактика, которая в итоге лишь подтверждала противоположное мнение, что человеческая жизнь сводима к экономической логике. Эта тенденция достигла своего логического конца в статье Пола Кругмана, который категорически развенчал трюизм о том, что человеческая жизнь "бесценна". По его словам, статистическая стоимость жизни постоянно рассчитывается в транспортной и экологической политике: она составляет примерно 10 миллионов долларов. Форбс стал более подробным, противопоставив статистическую стоимость жизни (ССЖ) и стоимость лет жизни с поправкой на качество (QALY), чтобы получить более точную цифру. Как человек, который провел последнее десятилетие, пытаясь понять, как человеческая жизнь может иметь ценность вне религиозных рамок, я с ужасом обнаружил, что самый убедительный и безоговорочный аргумент в пользу закрытия рынка привел Рассел Мур, представитель Южной баптистской конвенции, который утверждал, что люди созданы по образу и подобию Божьему и что любая попытка сопоставить экономику и здоровье населения "превратит человеческие жизни в галочки на странице, а не в священную тайну, которой они являются".
Одним из самых спорных аргументов против экономического шатдауна - хотя его обсуждение ограничилось академическими уголками интернета - был аргумент итальянского философа Джорджо Агамбена, который заключил, что шатдаун доказывает, что "наше общество больше не верит ни во что, кроме голой жизни". Под "голой жизнью" он подразумевал грубое биологическое выживание, не считая этических, гуманистических и социальных проблем, которые делают жизнь действительно стоящей, хотя именно эта фраза - "голая жизнь" - снова и снова цитировалась критиками, часто вне контекста, пока не стала сокращением для безжалостного мирового порядка, который отдает предпочтение экономике перед индивидуальными душами, для которых она была создана.
Лишь немногие из этих ответов смогли отразить всю широту критики Агамбена, который, по сути, был глубоко обеспокоен тем, что пандемия представляет собой угрозу для нашей человечности. Это проявилось, по его мнению, в том, как она изолировала и отчудила нас от наших сообществ - в том, что мы теперь рассматриваем наших собратьев "исключительно как возможных распространителей чумы, которых нужно избегать любой ценой и от которых нужно держаться на расстоянии не менее метра". Агамбен был еще более обеспокоен тем, что придет ему на смену: