Измерять и навязывать. Социальная история искусственного интеллекта
Шрифт:
Главы книги Пасквинелли можно читать не последовательно: они похожи на отдельные исследовательские семинары, связанные общей перспективой и сквозными примерами. Сложный материал комбинируется с многообразием сюжетов, что требует от читателя внимания и концентрации. Однако усилия вознаградятся. Конечно, реконструированный ИИ предстает величественным и пугающим средоточием всеобъемлющей парадигмы «глаза Хозяина», эдаким гиперобъектом (если воспользоваться термином Тимоти Мортона), который подчиняет человеческий опыт алгоритмической логике квантификации, эффективности и оптимизации. Но вместе с тем интеллектуальное путешествие, предпринятое итальянским философом, оказывает духоподъемное и освобождающее воздействие. Лишая мистической автономности «верховный алгоритм», книга не приносит готовых рецептов того, как его расплести, но по меньшей мере определяет направление движения: вопрос о власти машин над человечеством есть вопрос политический, и ответ на него в конечном счете лежит в сфере отношений между людьми.
Иван Напреенко,
социолог, редактор журнала «Социология власти» и сайта о книгах и чтении «Горький»
Февраль 2024
Введение: ИИ как разделение труда
Частичное искусство отдельного машинного рабочего, подвергшегося опустошению, исчезает как ничтожная и не имеющая никакого значения деталь перед наукой, перед колоссальными силами природы и перед общественным массовым трудом, воплощенными в системе машин и создающими вместе с последней власть «хозяина» [8] .
8
Маркс К. Капитал. Т. I. М.: Государственное издательство политической литературы, 1952. С. 429. Маркс также отмечает: «Позже мы увидим, что «хозяева»
Карл Маркс, «Капитал», 1867 г.
Все люди являются интеллектуалами… Это означает, что если можно говорить об интеллигентах, то нельзя говорить о неинтеллектуалах, ибо неинтеллектуалов не существует. <…> Нет такой человеческой деятельности, из которой можно было бы исключить всякое интеллектуальное вмешательство, нельзя отделить homo faber от homo sapiens [9] .
Антонио Грамши, «Тюремные тетради», 1932 г. [10]
9
Грамши А. Тюремные тетради. Ч. I. C. 343. М.: Издательство политической литературы, 1991.
10
Перевод скорректирован: итальянский термин gli intellettuali соответствует русскому слову «интеллектуалы» (в англоязычной традиции его передают как intellectuals). Однако в советской традиции перевода, ведущей отсчет с 1950-х гг., устоялся вариант «интеллигенты», который в силу конкретно-исторических коннотаций сужает понятие Грамши. При этом философ, безусловно, был прекрасно знаком с ролью, которая приписывалась интеллигенции в российской революционной традиции, и в размышлениях об особой социальной роли интеллектуалов отталкивался в том числе от этого. – Прим. пер.
В XX веке мало кому пришло бы в голову считать водителя грузовика работником умственного труда, иначе говоря, интеллектуалом. Однако в начале XXI века внедрение искусственного интеллекта (ИИ) [11] в беспилотные транспортные средства и другие артефакты побудило иначе взглянуть на ручные навыки, в частности, на вождение, и обнаружить, что самое ценное в труде никогда не сводилось к ручному компоненту, а включало в себя когнитивные и кооперативные аспекты. Нужно признать, что благодаря исследованиям ИИ водители грузовиков примкнули к интеллектуалам [12] . В этом есть парадокс и вместе с тем горькое политическое откровение: понадобилось усерднейшим образом развивать автоматизацию, чтобы увидеть, насколько глубоко «интеллектуальные способности» проявлены в занятиях и работах, которые традиционно считались сугубо ручными и неквалифицированными, – настолько, что ими пренебрегали и профсоюзы, и критическая теория. В нынешнюю цифровую эпоху лишь немногие социологи, например Ричард Сеннет, взяли на себя труд утверждать, что «делать значит думать». Этот же тезис историки науки Лисса Роберт и Саймон Шаффер выразили в изящном образе «разумной руки», которая и в ренессансной мастерской, и в индустриальную эпоху не сводилась к мышечной силе, направляя проектирование, изобретательство и научные прорывы [13] . Отрицание разумности ручного труда и общественной деятельности, наблюдаемое нами сегодня, по-видимому, представляет собой симптом избыточного роста цифровой сферы и дематериализацию человеческой деятельности, которые нагнетают вокруг ИИ ауру таинственности.
11
В России сложилась традиция переводить словосочетание artificial intelligence как «искусственный интеллект». «Интеллект» в русском языке соотносится с английским intellect, под которым подразумевается способность понимать и объяснять (ср. «разум»), однако у intelligence прямого аналога в русском нет, это слово означает способность получать и применять на практике знания и навыки (ср. «разумность»). В случаях употребления слова intelligence с определениями я буду следовать сложившейся традиции перевода. В случаях обособленного словоупотребления intelligence, помимо вариантов «интеллект» и «интеллектуальные способности», я буду также использовать слово «разумность», делая акцент на наблюдаемом комплексе качеств, которые указывают на их глубинный источник (собственно, разум) в случае с живыми существами. – Прим. пер.
12
Согласно Грамши, чья цитата открывает книгу, все люди могут считаться интеллектуалами в том смысле, что не существует труда, в котором отсутствует хотя бы «минимум созидательной интеллектуальной деятельности». Однако, как тут же поясняет философ, «не все люди выполняют в обществе функции интеллектуалов (так, о том, кто жарит себе яичницу или пришивает заплату на куртку, не скажут, что он является поваром или портным)» (см.: Там же). – Прим. пер.
13
Сеннет Р. Мастер. М.: Strelka Press, 2018; Roberts L. and Schaffer S. (eds). The Mindful Hand: Inquiry and Invention from the Late Renaissance to Early Industrialisation. Chicago: University of Chicago Press, 2007. О роли физического прикосновения в цифровую эпоху см.: Ladewig R. and Schmidgen H. (eds). Body and Society 28. Nos. 1–2. Special issue. Symmetries of Touch: Reconsidering Tactility in the Age of Ubiquitous Computing (2012).
Что такое ИИ? Согласно господствующей точке зрения речь идет о попытке «разгадать загадку разумности» [intelligence]. Ключ якобы лежит в тайной логике ума [mind] или в глубинной физиологии мозга, например в сложных нейронных сетях. В этой книге я утверждаю обратное: внутренний код ИИ заключается в имитации не биологического разума, а разумности труда и общественных отношений. Сегодня представляется очевидным, что ИИ – проект, направленный на сбор знаний, выраженных в индивидуальном и коллективном поведении, и их перекодирование в алгоритмические модели с целью автоматизации самых разных задач – от распознавания паттернов [14] и манипулирования объектами до перевода с языка на язык и принятия решений. Как это бывает с типичными эффектами идеологии, «ключ» к загадке лежит на самом видном месте, но никто его не замечает – да и не хочет замечать.
14
В случаях, когда речь идет о распознавании сугубо визуальных данных, которое исторически предшествует экстраполяции метода на невизуальную информацию, я использую устоявшийся перевод «распознавание образов». В других случаях, когда речь идет о расширенном применении метода, – «распознавание паттернов». – Прим. пер.
Вернемся к беспилотным автомобилям. Какую работу выполняет водитель? И в какой степени ИИ cпособен эту деятельность автоматизировать? Беспилотное транспортное средство призвано имитировать – с высокой долей приближения и в условиях значительной неопределенности – все микрорешения, которые принимает водитель на оживленной дороге [15] . Искусственные нейронные сети «учатся» корреляциям между визуальным восприятием среды и механическим контролем транспортного средства (рулевое управление, ускорение, торможение), а также этическим решениям, которые в случае опасности необходимо принять за несколько миллисекунд. Вождение требует высоких когнитивных навыков, которые нельзя заменить импровизацией, и умения быстро решать задачи. Навыки вырабатываются только привычкой и тренировками – процессами, которые нельзя назвать полностью осознанными. Вождение остается, по существу, социальной и кооперативной деятельностью, регулирующейся кодифицированными правилами (включая правовые ограничения) и спонтанными элементами, к которым относится неявный культурный код – в каждой местности он свой. Считается, что закодировать такую сложную деятельность непросто, и даже бизнесмен Илон Маск признал (после не столь уж и малочисленных аварий автомобилей Tesla со смертельным исходом), что «обобщенное беспилотное вождение – это трудная проблема» [16] . Как бы то ни было, все сложности, с которыми столкнулся промышленный проект беспилотных транспортных средств, ясно показали, что задача вождения не сугубо «механическая». И если навык вождения можно перевести в алгоритмическую модель, то лишь потому, что это логическая деятельность, поскольку в конечном счете всякий труд логичен [17] .
15
В начале 1960-х годов Романо Альквати определил информацию как новаторские микрорешения, которые принимают работники в процессе производства (см. главу 5 этой книги). См. также: Pasquinelli M. Italian Operaismo and the Information Machine // Theory, Culture and Society 32, no. 3 (2015): 49–68; Sprenger F. Microdecisions and Autonomy in Self-Driving Cars: Virtual Probabilities // AI and Society (2020): 1–16.
16
Hawkins A. J. Elon Musk Just Now Realizing That Self-Driving Cars Are a
17
См. также: A Manifesto // Logic Magazine. Issue 1. March 2017.
В каких же тогда отношениях состоят труд, логические правила и автоматизация, которая представляет собой не что иное, как изобретение новых машин? Здесь все запутано, в этом и заключается главная проблема ИИ, которой посвящена моя книга. Предлагаемый взгляд на ИИ вовсе не нов. Историк науки Лоррейн Дастон, например, уже рассматривала эту проблему на примере великих счетных проектов эпохи Просвещения, которые предшествовали автоматическим вычислениям [18] . В конце XVIII века для создания длинных логарифмических таблиц, необходимых для модернизации революционной Франции, математику Гаспару де Прони пришла в голову идея применить промышленное разделение труда (канонизированное Адамом Смитом в «Исследовании о природе и причинах богатства народов») в ручных расчетах [19] . С этой целью Прони создал социальный алгоритм — иерархическую организацию, состоявшую из трех групп служащих, которые делили нагрузку; каждый брал на себя часть больших расчетов, а затем они вместе собирали окончательный результат. Несколько лет спустя в промышленной Англии Чарльз Бэббидж использовал интуицию разделения труда в качестве внутреннего принципа разностной машины, создав таким образом первый прототип современного компьютера. Что важно, Бэббидж понял: разделение труда может не только служить принципом для проектирования машин, но и применяться для вычисления затрат на производство (с тех пор этот метод известен как «принцип Бэббиджа»).
18
В английском языке слова calculation и computation в целом взаимозаменяемы, однако в контексте ИИ их следует разводить, как это делает автор. В первом случае речь идет об арифметических операциях, во втором – об алгоритмических. Слово calculation и родственные термины, например calculus, я передаю через слова с корнем «счет», а также вариантами «исчисление», «счисление»; в случае с computation использую производные от слова «вычисление» (см. советский вариант перевода computer как «вычислительной машины»). – Прим. пер.
19
Daston L. Calculation and the Division of Labor, 1750–1950 // Bulletin of the German Historical Institute 62 (Spring 2018): 13.
В индустриальную эпоху надзор за разделением труда входил в задачи фабричного мастера [20] . Хозяйский глаз [21] долго контролировал и дисциплинировал рабочих в мастерских, лагерях и на плантациях, составлял планы сборочных линий и планировал смены каторжного труда. Еще до изобретения промышленных машин мастерские-потогонки в городах и колониальных поместьях «механизировались» с точки зрения телесной дисциплины и режима визуальности [22] . Как показал философ Мишель Фуко, введение дисциплинарных техник, основанных на сегментации времени, пространства и отношений, подготовило почву для капиталистического режима эксплуатации труда [23] . Вместе с тем рационалистический взгляд на мир позволил подробно описать движения человеческого тела и набросать эскиз его механизации. Историк Зигфрид Гидион детально зафиксировал этот процесс в известной работе «Механизация становится у руля». Согласно Гидиону, механизация «начинается с понятия Движения», вытесняет ремесла и наконец в развитом виде представляет собой «сборочный конвейер, в котором вся фабрика объединена в синхронно действующий организм» [24] .
20
Фридрих Энгельс оспаривал тезис о «хозяйском глазе» и утверждал, что внутри крупных предприятий и инфраструктур того времени, например железнодорожных компаний, рабочие обладали широким представлением о производственном процессе: «Экономическое развитие нашего современного общества все более и более ведет к концентрации, к обобществлению производства в огромных предприятиях, которыми уже не могут более руководить отдельные капиталисты. Всякий вздор о «хозяйском глазе» и о создаваемых им чудесах превращается в явную бессмыслицу, как только предприятие достигает определенных размеров. Представьте себе «хозяйский глаз» на Лондонской и Северо-Западной железных дорогах! Но то, чего хозяин сделать не может, то рабочие, наемные служащие компании, с успехом могут делать и делают. Итак, капиталист уж больше не может предъявлять права на свою прибыль как на «заработную плату за руководство», так как он ничем не руководит». Цит. по: Энгельс Ф. Общественные классы. Необходимые и излишние // К. Маркс и Ф. Энгельс. Сочинения. Изд. 2-е, Т. 19. М.: Государственное издательство политической литературы, 1962. С. 299.
21
В оригинале книга М. Пасквинелли называется The Eye of the Master. – Прим. ред.
22
О режиме видимости на рабовладельческих плантациях см.: Mirzoeff N. The Right to Look: A Counterhistory of Visuality. Durham, NC: Duke University Press, 2011.
23
Фуко М. Надзирать и наказывать: Рождение тюрьмы. М.: Ад Маргинем, 1999.
24
Giedion S. Mechanization Takes Command: A Contribution to Anonymous History. Oxford: Oxford University Press, 1948. P. 5.
Кульминацией механического мышления стал тейлоризм – система «научного управления», которая стремилась экономить движения рабочих в мельчайших деталях. Как заметил политэконом Гарри Браверман, «Тейлор понимал принцип Бэббиджа лучше, чем кто-либо из современников последнего, и всегда им руководствовался в расчетах» [25] . Для наблюдения за малейшими движениями рабочих тейлористская система обзавелась своего рода кинематографическими глазами: хозяин фабрики буквально стал режиссером, который снимал трудящихся, чтобы измерять и оптимизировать их производительность, осуществляя на практике «кинематографический способ производства» (по выражению исследователя медиа Джонатана Беллера) [26] . Тейлоризм породил «исследования времени и движения», которыми в те же годы занимались советский революционер Алексей Гастев и американские инженеры Франк и Лилиан Гилбреты, породив по обе стороны Атлантики сходные фотографические методы – циклограмму и хроноциклограф соответственно [27] . Эта книга продолжает указанную линию аналитических исследований трудовых процессов с начала индустриальной эпохи до появления ИИ и призвана показать, как «разумность» технологических инноваций часто возникает из подражания абстрактным отображениям человеческой практики и коллективного поведения.
25
Braverman H. Labor and Monopoly Capital: The Degradation of Work in the Twentieth Century. New York: Monthly Review Press, 1974. P. 117. См.: Taylor F. W. The Principles of Scientific Management. New York: Harper & Brothers, 1911.
26
Beller J. The Cinematic Mode of Production: Attention Economy and the Society of the Spectacle. Lebanon, IN: University Press of New England, 2006.
27
См.: Maier C. S. Between Taylorism and Technocracy: European Ideologies and the Vision of Industrial Productivity in the 1920s // Journal of Contemporary History 5, no. 2 (1970): 27–61; Hellebust R. Aleksei Gastev and the Metallization of the Revolutionary Body // Slavic Review 56, no. 3 (1997): 500–518; Olenina A. H. Psychomotor Aesthetics: Movement and Affect in Modern Literature and Film. Oxford: Oxford University Press, 2020; Sutil N. S. Motion and Representation: The Language of Human Movement. Cambridge, MA: MIT Press, 2015; Brown E. The Corporate Eye: Photography and the Rationalization of American Commercial Culture, 1884–1929. Baltimore, MD: Johns Hopkins University Press, 2008; Nelson D. (ed.), A Mental Revolution: Scientific Management Since Taylor. Columbus, OH: Ohio State University Press, 1992.
Промышленные машины, например ткацкие и токарные станки, возникли не по мановению руки одинокого инженерного гения, а из имитации схем коллективного труда. Они появились на свет путем улавливания паттернов движений рук и орудий рабочих, фиксации невидимых творческих ноу-хау и последующего их превращения в механические артефакты. Основываясь на теории изобретательства, которую уже в XIX веке разделяли Смит, Бэббидж и Маркс, я утверждаю в этой книге, что самые сложные «разумные» машины также возникли из воспроизведения схем коллективного разделения труда. Я именую описанную теорию развития техники трудовой теорией автоматизации, или трудовой теорией машин, которую распространяю на исследования современного ИИ и обобщаю в виде трудовой теории машинного интеллекта [28] .
28
Словосочетания «трудовая теория автоматизации» и «трудовая теория машин» созданы по аналогии с выражениями, употребляемыми в политической экономии, в частности, «трудовой теории стоимости».