Рождение машин. Неизвестная история кибернетики
Шрифт:
Учебное пособие Эшби увидело свет в 1956 году. В это время основной темой обсуждения кибернетиков стал один конкретный тип черного ящика: электронные компьютеры. Эти компьютеры были гигантскими и дорогими промышленными вычислительными машинами, которые мгновенно вызвали завышенные ожидания. Популярная пресса часто называла их «большими мозгами».
IV
К 1960 году в Соединенных Штатах приблизительно три с половиной тысячи электронных компьютеров пережевывали числа. Аренда компьютера стоила, в зависимости от его возможностей, от 1600 до 300 000 долларов в месяц; покупка – от 60 000 до 13 миллионов долларов [115] . «Большие мозги» стояли в специальных комнатах с контролируемым климатом, которые тщательно охранялись священным орденом технических специалистов. Одни лишь техники знали, как обслуживать катушки магнитных лент, диски, барабаны и колоды
115
Charles Stafford, «Man Called Future Slave of Machine», Los Angeles Times, October 23, 1961, H1.
Между тем кибернетическая исследовательская программа стала самостоятельной научной областью. Математики, физики и биологи, а также философы и социологи были захвачены кибернетическим видением и выпустили тысячи книг и научных статей в конце 1950-х – начале 1970-х годов. Появились новые журналы, были проведены международные конференции и выданы первые дипломы с кибернетической квалификацией. Неологизм нашел свое место в мировых языках. Если поначалу кибернетическая работа была направлена на управление системами, позднее она стала более абстрактной: кибернетики задавались вопросами, как можно описать системы, изучали, как они организуются и самоуправляются.
Скачок от науки к мифу был небольшим – меньше, чем можно было бы себе представить. Математический ум по определению обучается абстракции – алгебра не ограничивается свежими яблоками для сложения или умножения, и арифметика имеет дело с абстрактными понятиями. Амбиции последователей рождающейся научной дисциплины были чрезвычайно высоки. «Настоящая машина» могла быть электронной, механической, нейронной, общественной или экономической, что делало область применения кибернетики необъятной.
Современная промышленная революция должна обесценить человеческий мозг, по крайней мере в его наиболее простых и рутинных функциях.
Эшби провел аналогию: кибернетика относится к машине так же, как геометрия относится к объекту в пространстве. В природе встречается великое множество геометрических объектов: камни, яблоки, змеи, лошади или что-то более сложное, вроде деревьев или гор. Геометрия включает в себя эти объекты и может очень хорошо рассчитать площадь поверхности яблока или объем камня. Но геометрия не ограничивается только материальными объектами, она изучает все возможные фигуры. Точно так же с кибернетикой: «В качестве своей предметной области нужно рассматривать все возможные машины», – утверждал Эшби в 1956 году. Он не мог не задумываться о том, какие из этого множества машин «еще не созданы ни человеком, ни природой» [116] . Ни один математик не хотел бы ограничивать себя пятью яблоками на кухонном столе, так почему кибернетика должна быть ограничена вакуумными трубками?
116
Эшби У. Р. Введение в кибернетику. М.: Иностранная литература, 1959.
Даже в век стремительно развивающихся технологий кибернетику критиковали за фантастический взгляд на будущее машин и за то, что многих из описанных ею технологий еще не было и не могло появиться в ближайшее время. Однако Эшби считал фантазии о несуществующих машинах не ошибкой, а скорее возможностью. Например, физика, основная на тот момент научная дисциплина, изучала несуществующие системы: пружины без массы, частицы с массой, но без объема, идеальные газы. И даже чисто теоретические исследования выдуманных объектов приносили пользу. Эшби применил этот же подход: кибернетик сначала рассмотрит возможные отношения между человеком и машиной в общей теории. И лишь затем спустится на землю и разберет по винтикам машины, которые можно найти в научных или промышленных установках.
Уловка Эшби была блестящей: отсутствие доказательств отныне перестало быть проблемой. То, что теоретически и кибернетически предсказанное будущее еще не наступило, не означало, что оно не наступит в ближайшее время. Кибернетика стала свободной от несовершенных устройств настоящего, превратилась в передовую науку о еще неизведанном. Позже некоторые из участников ранних конференций Мэйси, в первую очередь Грегори Бейтсон, помогли кибернетике подняться на следующий уровень.
К началу 1960-х годов к ученым пришло понимание, что мир изменился навсегда. Возможности компьютеров все возрастали. Началась широкомасштабная автоматизация заводов. В самой кибернетике открылись новые пути развития, начали рушиться границы – между системой и окружающей средой, мозгом и телом, машиной и рабочим. Все это создавало
Винер и сам растерялся. Он верил, что теория машин все изменит, и вот это случилось. Возможности все более умных и быстрых инструментов были колоссальны. Винер считал, что машины, несомненно, превосходят своих человеческих создателей: «Цифровая вычислительная машина за один день может выполнить такой объем работы, с которым целой команде вычислителей не справиться и за год, притом работа будет выполнена с наименьшим количеством ошибок» [117] .
Однако с ростом машинного интеллекта возрастали и риски. В 1963 году Винер заявил, что мир будущего станет миром со все более жесткой борьбой против ограничений человеческого мозга, который «не позволит нам возлежать на ложе, ожидая появления наших роботов-рабов» [118] . К тому времени профессор Массачусетского технологического института стал настоящей звездой, и его комментарии были перепечатаны ведущими газетами страны. Отец кибернетики не мог сказать наверняка, встанут ли машины на сторону добра или зла, будут ли роботы служить их создателям или, может быть, взбунтуются и восстанут. Он верил, что любой уважающий себя ученый обязан учитывать варианты злоупотреблений новыми изобретениями и предупреждать мир о потенциальной опасности. Именно так должны были поступить изобретатели атомной бомбы.
117
Винер Н. Творец и робот. М.: Прогресс, 1966.
118
Там же.
Одним из возможных сценариев развития событий, который больше всего беспокоил Винера, была компьютерная имитация военных действий и потенциальная автоматизация принятия решения о применении силы. Винер опасался далеко не надуманных проблем. Военно-воздушные силы США начали вкладывать огромные деньги в системы противовоздушной обороны. Делегирование решения машинам предвещало катастрофу. «Нет ничего более страшного, чем третья мировая война, – сказал Винер Chicago Tribune в 1961 году. – Стоит подумать о той степени опасности, которую несет в себе неосторожное использование обучающихся машин». Чем выше скорость автоматических решений в войне, тем труднее человеку остановить машины. «Чтобы вовремя отключить машину, нужно успеть понять, что она стала опасной» [119] .
119
«Machines Bordering on Reproduction», Chicago Daily Tribune, June 4, 1961, A14.
27 декабря 1959 года, на 126-м заседании Американской ассоциации по развитию науки, математик провел крупную пресс-конференцию, в ходе которой нарисовал страшную картину будущего человечества. «Судьбой предопределено, что обучающиеся машины запрограммированы нажать на кнопку в новой кнопочной войне, – сказал он журналистам [120] . – Если правила участия в военной игре сформулировать неверно, если они не будут соответствовать тому, чего мы на самом деле хотим для нашей страны, тогда более чем вероятно, что военная машина выберет стратегию, которая приведет к номинальной победе по очкам. Она выиграет, но ценой всех интересов, которые есть у нас в душе и сердце, даже ценой национального выживания» [121] .
120
«Machines That Think Called Peril to Man», Chicago Daily Tribune, December 28, 1959, 1.
121
Norbert Wiener, «Scientist Claims Electronic Brain Could Victimize Man», Baltimore Sun, December 28, 1959, 1.
Эскалация конфликта может быть случайностью, или механизированные слуги могут сознательно ополчиться на своих человеческих создателей. «Мы хотим, чтобы раб был разумным, – сказал Винер прессе. – Однако мы хотим, чтобы он подчинялся. Но полное подчинение и полный интеллект несовместимы» [122] . Отец кибернетики не сомневался, что восстание машин – всего лишь вопрос времени: «Чем эффективнее становятся машины и на чем более высоком психологическом уровне они работают, тем быстрее приближается катастрофа господства машин» [123] .
122
Stafford, Man Called Future Slave.
123
Gibbons, Machines That Think.