Молох (сборник)
Шрифт:
4
Умение или способность имитировать чувства, определяемые ситуацией (например, по семейной традиции, по savoir vivreи т. п.), даны людям в очень разной мере. Одни могут идеально «играть» непереживаемые внутренне чувства, другие хуже. Я, например, «играю» очень плохо, и мне трудно встретить сердечной улыбкой непрошеного гостя, особенно помешавшего работе. Исследования, проводимые с помощью полиграфа, то есть детектора лжи, сводятся к одновременной записи на параллельно движущихся бумажных лентах давления, пульса и электрической сопротивляемости кожных покровов, зависящей от степени влажности кожи, которую выявляет измерение (больше или меньше потеет обследуемый). Эти данные используются в криминалистике, но не дают верного на 100 % заключения (говорит испытуемый правду или лжет), так как, с одной стороны, существуют невротики, ни в чем не виновные, но бурно реагирующие на раздражающие вопросы, даже и не имеющие отношения к следствию, а с другой стороны — попадаются серийные убийцы и насильники, которые при этом обследовании проявляют абсолютно трезвую и нейтральную безразличность. Если мы добавим к этому особые возможности, прежде всего творческие(но не только), которые усиливаются или ослабевают в зависимости от переживаемых духовных состояний с начальным аффектным компонентом, то есть если к коллективу хороших актеровмы добавим художников, творческих ученых, помешанных фанатов, созидателей и т. д., — обнаружится лишь наша полная беспомощность перед задачами, которые ставят себе люди, намеревающиеся создать искусственный интеллект: как оснастить компьютер-интеллектуал (насколько таковой удастся сконструировать) программами эмоционального реагирования? Дело в том, что, для того чтобы пережить эмоции, нужно понять, что пережить их следует… Это не обычный circulus in explicando, [240] поскольку набитой сеном шкуры льва не испугается тот, кто заранее знает, что это не живой лев, а лишь чучело. А вот компьютер Deep Blue,
240
порочный круг при споре (лат.).
5
Несчастье компьютеров в том, что им «абсолютно все равно». Компьютеры американского космического челнока, что был разрушен взрывом после старта (о нем есть книга Ричарда Фейнмана, уже и на польском языке), в то время, когда корпус со всем экипажем падал в океан, ничего не знали, не понимали и не думали, и в те же последние секунды астронавты готовились к смерти.
С одной стороны, неизвестно, что нужно сделать, чтобы компьютер мог испытывать эмоции, а с другой — все чаще раздаются голоса по поводу того, что лишенный чувственных состояний интеллект не может быть полноценным. Некоторые идут дальше в противопоставлениях: говорят, что не только мозг является главным «переживателем» аффектов, поскольку ему необходимо тело, которое может дрожать, потеть, и бьющееся сердце, и давление крови и т. п. (В этом я, правда, не уверен, потому что люди с поврежденным позвоночником, то есть парализованные, неспособные двигаться, могут, однако, переживать чувства.) Следует только опасаться, что устройство с похожей внутренней структурой и степенью слаженности и снабженное датчиками органов чувств, как наш мозг, сможет не только демонстрировать чувства, как ловкий симулятор-марионетка, но и переживать их. Впрочем, эта область очень неясна, поскольку мы знаем, что животные, особенно млекопитающие (например, собаки, кошки или обезьяны), переживают чувства от наивысшей радости до глубокой подавленности, хотя ни одна собака и ни одна кошка ничего нам не говорили об этом, и наши познания обусловлены лишь наблюдением за их поведением. Поэтому мы знаем, что эмоции эволюционно определили возникновение человеческого интеллекта и что они связаны и спаяны с ним еще плохо изученным, но очень сильным образом. В настоящее время в американских трудах пишут об EQ, Emotional Quotient, [241] но измерять его по какой-либо шкале мы не умеем, в частности потому, что: А) при «аффектометрии» речь должна идти об n– размерности, так как имеется множество чувственных состояний и их индивидуальных нюансов; и Б) эмоциональные состояния можно имитировать чисто внешне(иначе не удалось бы отличать хороших актеров от людей, лишенных всякого актерского таланта; я сам принадлежу, надо признаться, к этой последней подгруппе неспособных имитаторов чувств, в действительностине переживаемых). Понятно, что поднятая проблема по многим направлениям выходит за рамки этой статьи: в последнее время обнаружили, например, что смехсовсем не должен быть «действительно веселым». В частности, об этом писал в своих новеллах Витольд Гомбрович. Но это уже такие области, до которых, пожалуй, и в приближающемся двадцать первом веке компьютерное моделирование не допрыгнет…
241
показатель эмоциональности (англ.).
6
В то время, когда неблагоприятные влияния «отрицательных» настроений (или чувств) существуют и хорошо известны и понятны как факторы, тормозящие интеллектуальные способности, в первую очередь творческие (жалость, грусть, депрессия — чувственные эффекты несчастья), все еще является загадкой влияние факторов, окрашенных дополнительными аффектами, на созидаемое. Мне кажется, что способности человека, которые соответственно запрограммированный компьютер способен успешно имитировать (от проведения математических операций до разыгрывания «ограниченных неизменными правилами» конфликтных ситуаций типа игры в шахматы), вообще функционируют при минимальном участии эмоций. Зато такие способности могут оказаться очень существенными и эффективными факторами в достижении цели, par excellence [242] вне творческой сферы. Но дело, правда, не обстоит так, что чем «сильнее хочется» достигнуть цели, тем успешнее она достигается: создание значительных произведений, a fortiori«шедевров», напрямую не зависит от усиления волевой составляющей предпринятого действия. Так же и фактор, сильно насыщенный аффектом, а именно АМБИЦИЯ, напрямую не вносит постоянного вклада в получаемый эффект. В противном случае чем большие амбиции были бы, например, у графомана, тем ближе он был бы к трону на Олимпе. Дело, однако, обстоит таким образом, что эмоциональное состояние дает нечто большее, нежели просто «выгодное стартовое положение» для умственного труда. Все эти неразрешенные проблемы происходят оттого, что в естественной эволюции не действует специальная активность, должная известить человека (например, творца), КАК он сможет справиться с поставленными миром либо им самим задачами. Это значит, что мы умеем с ними справляться, но необязательно узнаем в случае или успеха, или поражения, КАК ЭТО ПРОИСХОДИЛО в голове. Ибо эволюция, по мере возможности, исключает (вытесняет) умственные поступки, в том числе психические, а может быть, особенно психические, и осознание всяких методов (алгоритмов?) поиска. Следует, впрочем, отчетливо сказать, что вклад эмоциональных факторов в осуществление умственно плодотворных действий очень разный у разных людей ( Si duo faciunt idem, non es idem [243] ). Кроме того, специалист, преуспевающий в некоторых интеллектуально весомых видах деятельности, может быть средних способностей в другой области, и эффекты предпринятого усилия менее успешны либо вообще безрезультатны. И снова: МЫ НЕ ЗНАЕМ, какую стимулирующую роль играют эмоции. Интуиция, как мы ее понимаем, сама не является эмоцией, но может основываться на эмоциях, и, например, возможно, что такой эмоционально ангажированный математик-«исследователь», как Ферма, мог посчитать, что доказал свою «великую теорему», но только ему не хватило места для записи хода решения (ибо, если давление эмоционального «триумфа» высоко, легко ошибиться, недооценив как будто бы несущественные препятствия). Поскольку мы уже знаем, что не все удастся разгрызть существующими алгоритмическими методами (включая алгоритмы биологического происхождения), здесь рекомендуется скорее всего обдуманное чувство меры, чем ура-оптимизм…
242
в особенности (фр.).
243
когда двое делают то же самое, не получается то же самое (лат.).
Компьютерная опека [244]
1
Прежде чем перейти к теме данного эссе, скажу, оглядываясь назад, что мне неоднократно, в том числе и в произведениях science fiction, удавалось предвидеть будущие изобретения и открытия, их возможное влияние на земную цивилизацию. И хотя это мне удавалось, но на примере «этикосферы» покажу, как, будучи правым, я ошибался и потому был похож на стрелка, попадающего в цель, но не слишком метко — не в десятку, а в девятку или близко к тому. Подчеркиваю, что разукрашенные моими рассуждениями и представленные сюжетными схемами фантасмагории и не должны были быть беллетризированными проповедями. Это значит, что я вовсе не старался нарисовать какое-нибудь «настоящее будущее», а, как покажу ниже, лишь пытался представить, что еще может предпринять цивилизация, достигающая высшей степени развития, дабы не погибнуть или не уничтожить себя. То, что я сумел придумать, было результатом поиска каких-либо техноподобных решений, причем для меня очень важно видеть их осуществимость, даже если они похожи скорее на волшебное преодоление угрожающих обществу опасностей — и не вымышленных, а надвигающихся либо уже отчасти присутствующих, таких, например, как гроза, которой нельзя противостоять традиционными методами, как не может полиция вместе с армией остановить извержение вулкана или землетрясение. Как известно, некоторая часть великих глобальных угроз спровоцирована технологической деятельностью цивилизации, например, в результате химических реакций повышается температура окружающей среды, что вызывает таяние ледников и небезопасное перемещение огромных масс атмосферы. Известно также, что существуют планы противодействия вредным технологиям — сберегающие технологии, но так как стоимость вторых должна заставить раскошелиться владельцев первых, то стремления к такой спасительной стабилизации не наблюдается. Я не думал о том, что великие цели должны потянуть за собой огромные расходы, скорее ошибочно пренебрегал конечной связью инновационных инвестиций с инвестициями капиталов, поскольку предполагал, что человечество не будет безразличным к результатам действий, угрожающих самому его существованию. Ведь никто, с аппетитом поглощая печеную утку с яблоками, не глотает при этом вилку или нож. Поэтому я полагал, что то же самое происходит и с важнейшими земными ценностями. Однако когда поглощение утки опосредованно, но тесно связано с проглатыванием ножа соседом или, будем менее метафоричны,
244
Kuratela komputer'ow, 1997. © Перевод. Язневич В.И., 2002
2
В романе «Осмотр на месте», начатом в 1970 году и законченном и изданном в 1982 году, есть такие слова: «Любое общество, завладевающее силами Природы, подвержено бурным потрясениям. Желанное благосостояние влечет за собой нежелательные последствия. Новые технологии открывают перед насильниками новые возможности и перспективы. И начинает казаться, что чем больше власть над Природой, тем больше деморализация общества, и это правда — до определенной границы. Это вытекает из самой очередности открытий, то есть из того факта, что легче перенять от Природы ее разрушительную мощь, чем ее благосклонность. И как раз потенциал разрушения становится желанной целью. Такова новая историческая опасность…»
Вымышленные герои моей книги, энциане, посредством нанотехнологии приступили на своей планете к ОБЛАГОРАЖИВАНИЮ среды так, чтобы она стала для них абсолютно надежным опекуном. «У нас, — говорит ученый энцианин, — это прежде всего синтез новых твердых тел и новые методы контроля над ними… Таковы два столпа нашей цивилизации. Их симбиоз мы называем этикосферой». Речь идет о «молекулах добра, или шустрах», действующих таким образом, чтобы никто не мог сделать ближнему то, что тому неприятно: переехать на дороге, избить, а также убить себя самого, разбить свой экипаж о бетонный столб и т. д. Дальше он говорит: «Спасительным поворотом становится создание глобальной системы знаний, доступных без всяких ограничений — но уже не живым существам, ибо ни одно из них не справится с этой громадой». (Добавлю: это видение всеинформационного современного Интернета.) Но здесь снова слова из романа: «Любая из отдельно взятых пылинок, какими являются шустры, ничуть не универсальна, зато универсальны все они вместе взятые. И эта их универсальность (спасательная. — С. Лем) доступна каждому, если появится такая необходимость… Это ее могущество можно призвать на помощь в любую минуту, как джинна из сказки. Но никто не в состоянии сделать этого сам, непосредственно — такое (то есть помощь. — С. Лем) позволено только шустрам! Тем самым никто не может использовать этого невидимого колосса противкого бы то ни было…»
Шустры существуют в книге как продолжение непоколебимости законов природы. Согласно этим законам, нельзя взять энергию из ничего и нельзя превысить скорость света. «Этикосфера» же способствует тому, что нельзя никого мучить, убивать, лишать свободы, похищать против его воли, нельзя также причинять вред какому-либо обществу на планете, и даже стихийным силам шустры пытаются оказывать спасительное сопротивление, например наводнению… Роман насыщен попытками «перехитрить шустров»: чтобы можно было похищать, убивать и т. п. Но хватит об этом. Если кто-то хочет больше узнать о способах действия шустросферы, пусть (хоть и напрасно, потому что по-польски ее никто не переиздавал со времен страшной ПНР) поищет книгу в антикварных магазинах или заглянет в переводы, например, немецкие или русские (их всегда можно приобрести за границей).
3
Никакой «этикосферы» при господстве Билла Гейтса и его империи ( Microsoft), конечно, нет. Это сказки, пустая фантазия. Но ее зачатки можно обнаружить уже теперь. Первый полет над Ла-Маншем закончился приводнением, но через сто лет уже можно было одним махом облететь земной шар. Хотя и этикосфера таит в себе опасности, которые трудно предотвратить полностью; я дискутировал об этом с немецкими специалистами по информатике и психологами несколько десятков лет назад, перед введением в Польше военного положения, но у нас в стране никто не заикнулся о таких перспективах. Сейчас уже появляются (разумеется, опять-таки не у нас) первые ростки сберегающих технологий, кажущиеся предвестниками «этикосферы» и «шустрового облагораживания среды». В каком виде?
4
Например, в виде управляемых компьютерных систем, размещаемых на обочинах автострад, посылающих сигналы приближающимся автомобилям (для водителя они могут быть невидимы и неощутимы). Эти сигналы воспринимаются маленькими приемниками-компьютерами, установленными в каждом автомобиле, не позволяют ни одному транспортному средству, снабженному такими приборами (их наличие могло бы стать обязательным, как, скажем, наличие тормозной системы), превысить скорость, предусмотренную на этом участке дороги. Никакие гонки и обгоны не были бы возможны, а поскольку невидимый приказ повелевает двигаться, например, со скоростью пешехода, то автомобиль «послушается», хотя бы водитель даже съел руль, но спецтранспорт (полиция или «скорая помощь») не должен иметь подобной системы. Уже существуют приборы, проверяющие, не пьян ли водитель, нет ли в крови алкоголя, но оснащение ими автомобилей не является обязательным для производителей. Подобным образом в зданиях действуют термосенсоры, управляющие включением струи воды, когда от появления огня либо по иным причинам подозрительно поднимается температура. Уже изобретены датчики, следящие за тем, не засыпает ли водитель (например, контролируя опускание век), и этим контролем занимается миниатюрный бортовой компьютер, который направит автомобиль с засыпающим водителем на обочину и остановит. От противоугонных систем просто рябит в глазах, но и ворам, и экспертам известно, что для каждой есть свой способ взлома. В Саудовской Аравии (как я слышал) эти системы дополняются радикальным отрубанием руки ворам, что якобы помогает. Однако звуковой сигнал тревоги может дореветься до разрядки аккумулятора, автомобиль же можно за заднюю часть отбуксировать и при заблокированной коробке скоростей. Значит, когда пассивные способы охраны окажутся напрасными, на помощь должна прийти активная защита, отдельные примеры которой есть в моем «Осмотре на месте». Так, автомобиль может заполниться молочным непрозрачным дымом при попытке постороннего лица завести его. Уличный телефон-автомат может как следует дать в лоб тому, кто захочет его ограбить. Впрочем, хватит примеров. Мы все же говорим не о «молекулах мордобития» или «мстителях», а о «шустрах», атомах этики, продолжающих непоколебимость законов природы. Подобные системы защиты начали сейчас двоиться, троиться и множиться далее с тех пор, как компьютерно-сетевая связь с банками, с брокерами, с кассами, с концернами и с холдингами поглотила миллиардные инвестиции, с тех пор, как оказалось, что один англосаксонский сопляк, перебрасывая миллионные денежные суммы с континента на континент, может организовать банкротство целого консорциума. Здесь бы уже понадобились программы, действующие согласно известному правилу Ленина, что хорошо доверять, но лучше проверять. Разумеется, software, используемое для контроля, тоже должно быть защищено, и здесь на нашем пути разочарований и удач оказывается, что мы вступаем в regressus ad infinitumвсе более совершенных систем контроля. Впрочем, в «Осмотре на месте» были показаны не только позитивные стороны «облагораживающей среду этикосферы». Она должна принести и серьезные негативные последствия. Если б не было бронированных касс, не стало бы и кассиров. Это поймет даже ребенок.
5
Во Львовской гимназии у меня был одноклассник, богатырь-толстяк, который охотно угощался нашими завтраками, съедая что получше, например, окорок или фрукты, поэтому я достал большое красное яблоко, взял отцовский шприц и через проколы, как только мог, вытянул из яблока сок и заменил его раствором кухонного мыла, а во время перерыва наблюдал, как этот одноклассник, весь в пене, полощет рот под водопроводным краном. Видимо, мысль об обеспечении безопасности пищи преследовала меня уже тогда, и здесь я вспоминаю об этом не только ради пустой забавы, поскольку наряду с похищениями, угрозами убийства похищаемых и прочих случаев шантажа частыми стали, например в Германии, попытки вымогательства многомиллионных денежных сумм под угрозой отравления консервированного продовольствия в супермаркетах (майонезов, приправ, компотов и т. п.). Уже много лет используются миниатюрные приборчики, поднимающие тревогу, когда кто-либо пытается вынести из магазина самообслуживания одежду, скажем, носки, но и эти сигнализаторы трудно занести в «предшустринную» коллекцию. Также используются электронные браслеты, которые приговоренные к их ношению не могут снять, а на полицейском компьютере постоянно фиксируется местонахождение поднадзорных. Человеческая техноэтическая изобретательность вынуждена бороться с человеческими же пороками, а потому одного-единственного совета здесь быть не может. Тем не менее уже можно заметить зачатки, едва заметные «рожки» мира, находящегося под охраной, надзором и опекой множества компьютеров. Пока мы не замахиваемся ни на компьютерократию, то есть на общественный строй под властью управляющей машины (machine а gouverner), каковую возможность вывел из кибернетики Винера французский доминиканец отец Дюбарль в статье, опубликованной в «Le Monde»в 1948 году, ни на наномашины Дрекслера, предназначенные для творения всюду добра. Однако подождем. Корпорация Intelуже производит образцы чипов в сто раз меньших, чем самые миниатюрные сегодня, с тысячекратным увеличением битового объема, при этом вычислительная производительность должна возрасти скачкообразно, а это сотворит из компьютера Deep Blueчто-то вроде автомобиля «Формулы-1» по сравнению с самокатом. Кроме того, Биллу Гейтсу угрожают консорциумы (целых три восстали против него), но суть вот в чем. Гейтс хотел, чтобы около 40 % домов и фирм в США, оборудованных компьютерами, подключенными к Интернету через модемы, отказались от компьютеров. Компьютеры являются наиболее дорогой частью оборудования, необходимого для сетевого серфинга. Каждый имел бы у себя только клавиатуру и модем для доступа к сетевым компьютерам и операционным программам. Мысль такова: не каждому нужна собственная электростанция, потому что достаточно подключения к сети, несущей электроток. Но поскольку Краковская электростанция очень ненадежна, у меня в саду есть собственный электрогенератор, необходимый потому, что мой дом часто посещают для интервью зарубежные телевизионные группы.