Молох (сборник)
Шрифт:
Мне кажется, что невозможно затормозить тенденцию перекладывания знаний и власти над материальной реальностью (и даже мыслительной), которая всегда исторически принадлежала людям, на кремниевые, металлические и другие (еще по-прежнему неразумные) приспособления. Правдой, и вполне очевидной, является то, что Большой Капитал проявляет свое, как говорят, присутствие в основном в сфере широко понимаемого развлечения. Очевидным является и то, что в отличие от таких могущественных компьютерократов, как Microsoftили, например, Nintendo, различные большие и меньшие Пентагоны не хвастаются увеличением своей электронной собственности, своей оперативной готовности и своих имитационных (и ответственных за решения) хранилищ. Кроме того, все легче становится, например, со спутниковых орбит пересчитать силы врага, такие, как различные пусковые установки, противоракетные системы и противосамолетные радары; а в общем и целом: легче сориентироваться в состоянии, местоположении, количестве боевых средств, восприятие которых тривиально возможно, — начиная от «битоносных», необязательно укрытых внутри Скалистых гор, «компьютеровейников». Иначе говоря, в XXI веке информатика сможет проникать во все штабные мероприятия, мобилизационные планы и, кроме того, отдельно делать из фальшивой, правдивой, кодированной, шифрованной информации очередную систему обороны, способную действовать как невидимый яд, а все враждебные стороны (и необязательно вражеские — за «союзниками» обычно тоже шпионят) будут вынуждаться самим ускорением информационного прогресса, не только скоростью (производительностью), но и способностью использованиясобираемой информации — к постоянному симулированиюпрогрессивного (правдоподобнее всего) развития «боевых сил» противника. Танки можно пересчитать, химическое оружие запретить (хотя последнее уже менее надежно как гарант мира, а переход от терапевтических средств к биологическому оружию был и будет нечетким) — в то время как битовые арсеналы и их растущую «компликаторику» никто без высылки «битов-разведчиков» или даже «вирусоподобных шпиков» либо не сможет распознать вообще, либо это будет по крайней мере нелегко.
6
Короче говоря, сегодня в рекламе царствуют по-настоящему информационное развлечение и обочины экономического развития; и понятно, что милитаристские организации не занимаются подобным разглашением, во все стороны, своего растущего могущества, то есть информационного подъема. Отец Дюбарль, доминиканец, о котором я уже вспоминал, в 1948 году, после появления «Кибернетики» Норберта Винера не столько предрекал, сколько в своей статье (в «Le Monde»в 1948
196
групповой интерес (фр.).
7
Однако прошу не думать, что я якобы предсказывал какую-то мировую войну информаций, подобно еще недавно висевшему над человечеством призраку атомной войны ( all out strategic exchange [197] — заканчивающийся, возможно, «возмездием мертвой руки»). Я скорее считаю, что границы между повсеместно царствующим миром и военными стычками начнут размываться приблизительно таким образом: будет неизвестно, являются ли определенные «дефекты», «фальсификации», «локальные вторжения в сеть» еще диверсией, еще «генеральной репетицией» или уже нарастающим военным конфликтом. Следует осознать появляющуюся здесь возможность градации: в то время, когда или наносится атомный удар, или он не наносится, возникает ситуация «серой» или «мутной» зоны очередных шагов, распознанных сразу или после многократных ошибок (блужданий в сети). Вся область связи — любой — подвержена втягиванию в сферу кодов и шифров, которые могут быть «явными шифрами» или «пустыми», то есть бессмысленными «макетами», камуфляжем, могут быть многоуровневыми, потому что сломанный шифр (я писал об этом в «Рукописи, найденной в ванне») может скрывать другой шифр, «более глубокий»; сеть в развитии позволяет также отказаться от линеарности (линейной одноразмерности) передач в пользу данных, скрытых в «пространствах» двухмерных, неподвижных, как фотография, или подвижных, как картинки Windows, читаемые с CD-ROM, а дальше идут лазерные голограммы, образы или виртуальные фантомы, из которых истинный абонент или перехватчик информации получают больше или меньше (или ничего), в зависимости не от наличия ключа, ломающего передачу, а от того, как они сами будут вести себя в виртуальном пространстве. Если эти по-прежнему элементарные возможности помножить на специализированные силы атаки и обороны штабистов и экспертов, то легче заметить в помещенной в начале этого эссе истории-цитате из моей SFажурное собрание возможных лабиринтоподобных сражений, о которых только одно можно сказать почти наверняка: они будут происходить или в господствующем «мире», или в предсказанной экспертами «войне», но, так или иначе, в тишине и, возможно, в течение долгого времени, без отголоска хоть одного взрыва или выстрела. Информационное поражение противника не должно быть в этом новом виде мини-максовых игр «оптимальным» выигрышем. Речь может идти о «заимствовании» его информационных потенциалов, о внедрении в его резервы, а что из этого может следовать для «обычного поля борьбы», сегодня предвидеть практически невозможно, так как в лабораториях (конечно, компьютеризованных) и на полигонах (не обязательно только имитационных: не все одинаково годится для имитации) появляется бездна изобретательско-производственной информации (обычно тайно). Одним словом, terra ignota informativa [198] как пространство для сражений нового типа подверглась потенциальному открытию. О том, ступит ли на нее кто-нибудь, сегодня сказать ничего нельзя.
197
полномасштабный обмен стратегическими ударами (англ.).
198
неведомая ранее страна информации (лат.).
Artificial Servility [199]
1
Что это такое — artificial servility? Такого словосочетания не было, пока я его не придумал. Это в буквальном переводе «искусственное рабство». Оно касается всего, на что способны в настоящее время широко распространяющиеся во всем мире электронные устройства, предназначенные для преобразования, передачи, хранения и last but not leastотображения информации. Почему «рабство»? Потому, что во всем этом производстве (приносящем разным майкрософтам миллиарды), во всей массе компьютеров, во всех поколениях hardwareи software,модемах, провайдерах, серверах нет ни следа разума. Нет ни капли интеллекта. Работают так, как рабы: по нашему приказу. Способны привести и в рай «сексуального удовлетворения», и в «тарпейский ад». [200] Бредни не отличаются от информации, даже такой важной, как, например, уравнение E = mc 2. Всем этим объектам и субъектам в конце концов «все равно» в такой степени, которая не сравнима с тем послушным рабством, до которого можно было бы при необходимости довести не только человека, но любое животное, наученное реагировать в соответствии с правилами условных рефлексов и даже безусловных (ибо существуют и такие).
199
Artificial Servility, 1997. © Перевод. Язневич В.И., 2002
200
От «Тарпейская скала», с которой в Риме сбрасывали преступников и предателей.
2
Здесь читатель может сказать: ну и что? Разве такое безграничное подчинение нашим потребностям (посещение Кордовы или ознакомление с расшифрованными фрагментами узелкового письма кипу), такое ничем не ограниченное послушание всех компьютеров, их соединений, сетей и модемов, устройств печати, систем электронной почты — это плохо? И разве все это не приносило огромную выгоду, видимую не только и не прежде всего в том, что ПРОМЫШЛЕННОСТЬ ПРЕОБРАЗОВАНИЯ И ПЕРЕДАЧИ КАКОЙ-ЛИБО ИНФОРМАЦИИ дает большую прибыль, но в том, что она помогает нам в сборе, в упорядочивании, в написании, в распечатывании или визуализации всего, что может быть информацией и что надежно, пока какой-нибудь человек, вдохновленный типично человеческой злобой, не начнет насылать на этот всемирный порядок «ядовитые» вирусы в виде микропрограмм, способных разрушать данные до полного уничтожения, «информационной чистки» всего на жестких дисках, — сразу же (как снаряд, попадающий в цель) или с произвольно запланированной и установленной задержкой (как взрывное устройство с детонатором, установленным на «подходящий момент»)? Зло людям делают люди, поэтому они также могут, а часто любят, высылать или подкладывать, адресно или безадресно, не только взрывающиеся, но и «логические бомбы» ( logic bomb). В то же время «сами по себе» электронные преобразователи, электронные разрушители, электронные mediaне могут ничего. Не могут «ничего» до такой степени, что обычная домашняя курица, даже слепая, которой «изредка попадается зерно», является Эйнштейном по сравнению с компьютером последнего поколения. Попробуйте увидеть эту разницу, замахиваясь молотком и на курицу, и на компьютер. Компьютер не дрогнет, пока вы его не искромсаете, а курица попробует хотя бы убежать. Мы же к этому раболепному послушанию так приспособились, так привыкли к компьютерно-сетевой безошибочности (исключая зависания и «пробки», вызванные единственно чрезмерным объемом информации, превышающим пропускную способность электронных соединений), что считаем такое положение вещей нормальным, желаемым и очевидным… с одним, но зато весьма существенным исключением. Именно сейчас мы убеждаемся, что все еще не высечена искра Artificial Intelligence, что уже пятьдесят лет инженерия связи и data processingбьются над проблемой AIи пока ничего полезного не создали. Кроме ужасно примитивных действий программ, которые способны различать, например, геометрические тела и цвета и которые могут (но опять без собственной инициативы) передвигать различные объекты и устанавливать их так, как мы хотим. Очевидно, что это не является каким-либо интеллектом. Это не является не только человеческим интеллектом, но даже собачьим. Кто-то скажет: но ведь у нас есть хранилища знаний, экспертные программы, имеются собрания специальных данных, позволяющих, например, геологам находить места, в которых под землей должна быть нефть, или собрания избранных данных (дополнительных исследований), позволяющих идти дорогой эвристических альтернативных разветвлений, чтобы поставить диагноз больному, чтобы указать оптимальный метод лечения и так далее. Имеются целые системы для управления и дирижирования, например, построением автомобилей или ракет (или бомб…) с помощью «промышленных роботов». Все это развивается дальше, но где в этом поступательном движении может появиться след разумности, интеллектуального внушения, «творческого вдохновения»? Мы уже достаточно научились тому, чтобы замещать интеллект, можем запускать симулирующие и оптимизирующие программы и программы, создающие «виртуальную реальность», но, к сожалению, все это — эффекты наших обходов «интеллектуальности» и творческого «воображения», все это подмены. Это похоже на «интеллектуальность» пищеварительного тракта, который вначале «пожирает пищу», «глотает» ее, «окисляет» и таким «интеллектуальным» способом обеспечивает организм энергией и химическими соединениями, необходимыми для поддержания жизни, а все обесцененные энергетически и химически «остатки» удаляются как экскременты. Да, выполнять что-то подобное неживые устройства мира электроники, подневольные человеческого разума, уже умеют, но ведь никто не считает, что употребление и переваривание котлеты есть доказательство интеллектуальности зубов, слюны, желудка и кишок.
3
Единственное
НЕТ ОДНОГО-ЕДИНСТВЕННОГО РАЗУМА. Нет также единственного вида интеллекта. Если будет создан Artificial Intelligence, а не какой-нибудь заменитель, более или менее удачно имитирующий интеллект, то уже тем самым, хотим мы того или нет, люди как конструкторы AIвступят в царство многообразия. Интеллектуальная система будет послушна — или не захочет быть послушной. А так как она будет понимать приказы, просьбы, воздействия, пожелания, то может послушаться или воспротивиться. Если такая система всегда и во всем будет готова слушаться, то тем самым продемонстрирует, что является безвольной и «не может иметь собственного мнения». То, что одни и те же научные, художественные, литературные и т. д. тексты разные люди, по-разному образованные, талантливые, то есть не конченые идиоты (о них не говорю здесь вообще), способны трактовать по-разному, интерпретировать, по-своему признавать важными или мелкими, взволноваться ими или разозлиться, чувствовать возмущение, безразличие или восторг, — все это, что я перечислил, и то, чего краткости ради приводить не стану, показывает множество реальных проявлений разумности, существование которой мы склонны признать. Если бы это было не так, то не смогли бы возникнуть исторические (или диахронические) и современные (или синхронические) разнообразные стили мышления в религиях, в философии и last but not leastдаже в инженерно-промышленном создании оружия или спасительных лекарств и терапевтических методов. Ибо, например, любая из существующих сейчас экспертных программ не придумает для нас нового метода лечения любого заболевания, так как программы совершенно не мыслят, а если б начали думать, то должны были бы думать разнообразно. Иными словами: создать искусственный интеллект — значит создать и поле свободыдля творчества. Так называемая лингвистическая перформативность означает: любой человек, который способен пользоваться языком (понимая его, а также разговаривая на нем), вообще не должен и даже не может идеально однозначным способом артикулировать мысли, возникающие у него в мозгу. В таких малых масштабах «перформативность» просто означает, что мы говорим в меру свободно, а не только цитируем исключительно то, что выучили наизусть. Наизусть говорит граммофонная пластинка, или магнитофонная лента, или дискета. Мы можем изменять «направление бега мыслей, словами отображаемых». Чем лучше кто-либо знает данный язык, тем большая свобода артикулярного разнообразия преобладает в его разговорах, в иностранном же языке мы сильно ограничены. К чему я клоню этим будто бы развлекательным разговором? Единственно к тому, что, высекая интеллект из неживых устройств, мы окажемся в окружении множества проблем. О некоторых напомню.
201
Бог из машины (лат.).
202
душа из машины (лат.).
4
В настоящее время устройствам передачи данных не хватает самоконтроля. Модемам все равно, что они передают на весь сетевой мир: изображения святых, или изображения голых задов, или формулы производства взрывчатых веществ. Им все равно, и от этого мы сейчас страдаем, так как люди имеют неприятную привычку пробовать фрукты, либо заказанные исключительно из-за их необычности, либо вредные до смерти. Но прошу взвесить: если в сетях возникнет блуждающий «искусственный интеллект», тем самым появится способность фильтрования, сдерживания, отсева и уничтожения информации, так как интеллектуальность, которая единокровна с разумностью, может и даже обязана быть также способной к введению цензуры для установления преград прохождению определенного рода информации. При этом окажется, что есть много различных интеллектов, и тем самым разные государства, разные режимы, разные веры, разные миропонимания, разные точки зрения начнут пользоваться способностью «нейтрализации или уничтожения» такой информации, на которую наложено табу и поступления или доступности которой для тех или иных адресатов они не желают. Сейчас, чтобы оградить детей от возможности просмотра электронно пересылаемых изображений (например, по TV), отец или мать могут установить «электронный намордник» на телевизор, исходя из того, что они (отец с матерью) узнают о программе, которая должна появиться. Если эту «приставку» не установят, то телевизор сам по себе какой-либо «добропорядочной цензуры» не создаст. Таким образом, окончательно «цензурируют» изображения или тексты отец с матерью, или дядя с тетей, или воспитатель, но не электронные устройства. Электроны ничто не шокирует. В то же время искусственный интеллект должен, а не только может, проявлять активностьи избирательность. Его можно развратить, ему можно то или это отсоветовать, можно его дезориентировать, обмануть, отуманить или научить и объяснить ему что-нибудь. Фундаменталисты безмерно бы обрадовались, если б овладели AI!Тогда не надо было бы, как в Иране, запрещать установку спутниковых тарелок и приемников… Не так уж много прошло с того времени, когда Советы признавали запуск глобально вещающих спутниковых ретрансляторов как casus belli. [203] Я не придумал это специально для данного эссе. Уже нет Советов и еще нет искусственного интеллекта, но уверяю читателей, что вместе с его появлением наступит новая эра, насыщенная новыми, неизвестными опасностями. Не всех увлекает идея ГЛОБАЛЬНЫХ ВАРИАНТОВ ЦЕНЗУРЫ. Кроме того, я не говорю, что искусственный интеллект может нас взять за горло, но вводить в заблуждение, обманывать, сбивать с пути сможет. Это во-первых. Во-вторых, как нет одинакового у всех людей разума, так не может быть одинакового до тождественности интеллекта. Как существуют двигатели разной мощности, так же могут быть разной силы искусственные интеллекты. Не сразу же начнется построение машинных Эйнштейнов или — как в моем произведении — големов. Может быть, возникнут разные виды интеллекта, основанные на разных типах «характеров». Я лично считаю, что понятия «разумность» и «личность» потенциально разделены. Но такая потенциальная разделенность тоже не может обратиться добром и только добром.
203
повод к войне (лат.).
5
Хочу заметить, что я все еще очень далек от примитивных мифоподобных сказок об «античеловеческом злобном интеллекте», таком, который будет загружать «роботов» человекоубийственными или бунтарскими намерениями. Не нужно сразу же все видеть в крайностях, которые мы легко умеем себе вообразить. Искусственный интеллект может принести и пользу, и вред. Таковой была и остается перспективная судьба любого технологического новшества, которое люди смогли разработать и пустить в действие.
От себя добавлю на полях (однако в соответствии с главным существом моего вывода), что сегодня в мире наблюдается увеличение количества чисто технологических достижений, которые сильно скоррелированы прогрессом увядания свободного творческого воображения. Это происходит не только на телевидении, но и в пластическом искусстве. Недавно увидел по телевидению (спутниковому) какие-то обугленные останки человеческих тел, но это не были жертвы пожара или человекоубийства, а «произведение современного искусства», как я услышал в динамике. Модной является визуализация science fiction, но, к сожалению, убожество воображения авторов сильно контрастирует с богатством техническо-визуальных приспособлений. С интеллектом внетехнологическим и вненаучным дело обстоит очень и очень плохо. Я сам когда-то писал SFи старался свести к минимуму нарушения основных и хорошо известных нам законов природы. Нельзя писать, что замужняя женщина откладывает яйца, а ее муж их высиживает. Но в фильме «Independence Day»во имя кинематографической кассы растоптано и разрушено колоссальное количество законов природы. Большинство событий в этом фильме противоречит очевидному. Например, огромные корабли extraterrestials [204] не могут зависнуть над Манхэттеном потому, что при таком приближении к Земле окажется пройденной так называемая граница Роше, ниже которой неизбежен разрыв каждого достаточно большого тела гравитационными силами планеты. Не стоит и добавлять, что не может быть речи о какой-либо совместимости компьютеров с другой планеты из далекого созвездия с земными компьютерами. Уж скорее можно признать правдоподобными разговоры с коровой или жирафом без посредничества каких-либо компьютеров. Как говорится, кинематографисты пудрят нам мозги. А вспомнил я об этом потому, что человеческий интеллект возник, дабы мы могли познавать ИСТИНУ, что, впрочем, в конечном счете означает, что он тоже может ошибаться, может ЛГАТЬ либо быть обманут — иначе его не удастся развить. Интеллект является продуктом (сущностью) естественной эволюции, взбирающимся по ступеням «лестницы прогресса» (на Земле) до такого уровня языкотворчества, когда он способен родить математику. Тогда возникают противоречия между истиной и ложью, возникает логика, возникает царство новой, надживотной свободы и надживотных предубеждений, суеверий, мифов, бредней, с астрологией и сайентологией или иным сектантством во главе. С каждым разом высший интеллект можно также наполнить генами и можно от них отказаться — до так называемого умственного кретинизма, до конченных идиотов. Это все побочные эффекты развития интеллекта, и не думаю, что компьютерная безошибочность может как неотъемлемая часть сопутствовать искусственному интеллекту. Мир может существовать вообще без интеллекта, естественного или искусственного. В то же время надо твердо осознать, что огромное разнообразие все более новых рекламируемых и предлагаемых общественности серверно-провайдерно-компьютерно-программно-дисковых приспособлений умножается и развивается в неустанном лавинообразном движении прежде всего ради прибыли, ради продажи того, что сегодня рекламируется как самое совершенное, а завтра уступит место чему-то новому и будто бы лучшему. Отсюда же — прогрессирующая микроминиатюризация и развитие нанотехнологий производства процессоров. Но не хочу углубляться в технику. Конечно, погоня за прибылью вызвана необходимостью получения материальных благ. Но человеческий интеллект все еще не создает внечеловеческий интеллект («нечеловеческий» — звучало бы плохо). Интеллектуализация, интеллект, разум, сообразительность, мудрость — это понятия, потенциально великолепные и одновременно опасные. Именно это и только это я хотел сказать.
204
инопланетяне (англ.).
Заменить разум? [205]
I
1
Все усилия по созданию искусственного интеллекта оказались напрасными, а ведь они предпринимаются уже около полувека. Развитие технологии мышления или понимания несколько «угасло», она оказалась отодвинутой на обочину прогресса, нацеленного на создание интеллектуального помощника человека (не для развлечения и не для того, чтобы нечто, скрытое от глаз, было способно имитировать интеллект и тем самым выдержать тест Тьюринга) посредством развивающейся, до сих пор без серьезных преград, технологии «рабства, перерабатывающего знаки» — то есть посредством компьютеров, способных к работе все более быстрой и все шире охватывающей области традиционно «исключительно человеческой» деятельности. Очередным новейшим течением, усилившим это направление, стала технология связи. Конечно, я имею в виду различного рода сети. Как я, кстати говоря, и надеялся (и не только я), из сети, стремящейся к глобализации (прежде всего англоязычной), начинают выделяться системные части с признаками специализации. Проще говоря, научные учреждения соединяются с другими такими же учреждениями, банки с банками, биржи с биржами, и помимо этого «штатского» множества туманно вырисовываются системы связи, общим знаменателем которых является сфера военная, от штабов до подчиненных им центров. Вместе с тем подобные специализированные направления тоже могут заключать друг с другом сетевые союзы, например медицина с фармакопеей, информационные банки экспертных данных одной области с энциклопедическим хранилищем данных другой области, — в зависимости от того, насколько люди, в чьем ведении находятся сети и их «стрелки», посчитают это потенциально имеющим смысл и информационно (конструкторски, диагностически, анамнестически, экономически и т. д.) плодотворным.
205
Zastapiс rozum? 1997. © Перевод. Язневич В.И., 2002