Журнал «Если», 1993 № 04
Шрифт:
Сразу оговорюсь: на мой взгляд, ни компьютеры, ни роботы принципиально не отличаются от других видов техники, которые непрерывно появляются в процессе развития человеческого общества. Правда, готов согласиться с тем, что современный человек очень сильно зависит от им же созданной искусственной среды.
Представьте, что произойдет, если, например, в большом городе прекратится подача электроэнергии? Однажды это случилось в Нью-Йорке — и город был на грани катастрофы. В этом, если хотите, парадокс развития цивилизации: с одной стороны, человек придумывал различные технологии, изобретал технические устройства, облегчавшие жизнь, а с другой, появлялись новые потребности, вызванные этими же изобретениями.
Сегодня, скажем, меняется само представление о том, что именно считать интеллектуальной операцией, что в человеке мы должны связывать с разумом, сознанием, а что нет. И сейчас мы обнаруживаем, что целый ряд операций, которые требовали серьезных интеллектуальных усилий, можно подчинить определенным правилам, то есть алгоритмизировать.
Сегодня человек впервые за свою историю обретает возможность отказаться от массы рутинных интеллектуальных операций. И на каждый момент развития вычислительной техники и программирования совершенно неясно, что интеллектуально, а что нет. Придумали сегодня новый алгоритм, и оказывается, что он открывает возможность, чтобы человек ушел и отсюда. Вот по какой причине возникает «тот самый» вопрос: не становится ли человек придатком машины?
Однако компьютеры, несмотря на все свое быстродействие, на растущий объем памяти, на увеличивающуюся сложность программ, появление так называемых когнитивных систем (например, систем когнитивной компьютерной графики), остаются лишь помощниками человека, и увы, далеко не такими «сообразительными», какими бы хотелось их видеть. Впереди еще очень большие возможности для освобождения человека от многих тяжелых, часто неинтересных работ. Уже существуют, например, компьютерные системы эффективной обработки символьной информации, существенно облегчающие труд ученых.
Неосновательность опасений «захвата власти» компьютерами, с моей точки зрения, связана еще и с тем, что компьютеры, несмотря на все большее их совершенство так же далеки от того, чтобы рассматриваться в качестве субъектов, как и их «предки»-арифмометры. Они не приобретают никаких потребностей, не имеют желаний, настроений. В отличие от них даже собака или кошка обладают самостоятельной волей. Но поскольку наука и сегодня не может дать точное и полное описание (и объяснение) причин и механизмов творческой деятельности человека (хотя по многим параметрам он значительно уступает современным ЭВМ), это приводит к необходимости вести исследования в области искусственного интеллекта по самому широкому спектру направлений. И в первую очередь добиваться от компьютера эффективных операций с наглядными образами, а чем человек наиболее силен, а также моделирования эмоциональной и волевой сфер человека, не ограничиваясь рационально-логической моделью. Иначе говоря, чтобы компьютер лучше решал многие задачи, он должен как можно точнее имитировать различные особенности человека. Помимо этого, такие исследования позволят более глубоко понять многие механизмы человеческого сознания, психики. Иначе говоря, они идут в русле задачи, выдвинутой еще в античности: «Познай самого себя».
Что же случится на длительных интервалах времени — другой вопрос. Может быть, человечество просто устанет. Может быть, придет к выводу, что биологические системы недостаточно подходящи для дальнейшей эволюции.
Другой вопрос, что компьютеры сегодня очень сложны; сложна структура их внутренних электронных связей, программного обеспечения, и человек не в состоянии обозреть большие компьютерные программы. Это самые сложные и объемные интеллектуальные продукты, когда-либо создававшиеся человеком. Они сложнее, чем научные теории, занимающие целые тома. Но книги человек может прочесть, здесь же необозримое море. Герман ский ученый В. Циммерли даже сформулировал парадокс, носящий его имя: «Надежность контроля систем обработки информации постоянно снижается, несмотря на использование все более совершенных контролирующих систем». Эта проблема действительно существует: сложные компьютерные системы все больше «отдаляются», «замыкаются» на себе; уменьшается степень контроля над ними. Однако и парадокс Циммерли разрешим: ведь программы, которые нельзя прочесть, функционируют, дают какой-то результат. Этот результат проверяем, человек способен проконтролировать, соответствует ли он целям, которые ставились при программировании. И насколько мне известно, нет случая, чтобы компьютеры выходили в область свободного поиска или проявляли собственную волю. У них не существует побудительных импульсов, потребностей, контактов с окружающей средой, которые могли бы переводить их на какие-то другие области деятельности. Правда, можно предположить, что все больше исследований будет вестись в области вероятностного программирования. Тем самым в программах будет задаваться все больше неопределенностей. Вот тогда, возможно, у компьютера появятся какие-то иные способности. Но пока я даже теоретически не вижу, как эти способности могут вылиться в некую автоэволюцию. Разве в какой-то особой среде, на какой-то изолированной планете будут размещены роботы с открытой программой, способной к эволюции, — хотя и в этом случае нельзя сказать, смогут ли они реально приспособиться к длительной и радикальной эволюции. Возможно, в них могут быть заложены блоки, связанные с усложнением каких-то потребностей и т. п. — и тогда люди, которые посетят эту планету через несколько сот лет, удивятся, увидев изменения, которые не были предусмотрены создателями первоначальных программ. Помните «Непобедимый» Станислава Лема и его «мушек» на планете Регис-3? Кстати, на меня большое впечатление произвел
Лимфатер сокрушает им же созданный сверхразум, уничтожает его как опасность для всего человечества (правда, этим, по мысли автора, он лишь несколько отодвигает неизбежное). А представляет ли общественную опасность сегодняшняя компьютеризация? Не ждет ли нас повторение луддитских движений? Я считаю, что это маловероятно. Во- первых, появление безлюдных, гибких автоматизированных производств — это отнюдь не стремительный процесс. Да и идет он далеко не везде, затрагивая пока лишь немногие страны, проявляясь в основном в Японии и США. Собственно, полностью безлюдное производство — это особый случай, а в большинстве речь идет о частичном замещении человека в производствах, где велика вредность, монотонность, шум и т. д. Или, скажем, там, где требуется особая точность, которую человек не может обеспечить (в качестве примера укажу на процесс изготовления микросхем, где все надо делать на микроуровне). Так что существует множество причин для появления роботизированных или полностью автоматизированных производств, но из-за малой скорости процесса вряд ли высвобождение рабочей силы, которое при этом происходит, вызовет большие социальные потрясения. Японцы, работая над своим проектом создания ЭВМ пятого поколения и строя автоматизированные предприятия, стараются находить социальные амортизаторы, и это не какие-то сложнейшие системы мероприятий, а относительно простые: сокращение продолжительности рабочего дня, внедрение систем переобучения, переквалификации, прогнозирование новых рабочих мест. Дело в том, что сама компьютерная революция не только забирает рабочие места, но и создает новые. Кроме того, все время увеличиваются потребности человека — например в отдыхе, туризме, досуге — и таким образом новые рабочие места в одной отрасли компенсируются их появлением в другой.
Все эти процессы в виде обратной связи будут влиять на систему образования, получение тех или иных специальностей. Будет происходить медленная структурная перестройка в обществе, изменения распределения трудящихся по квалификации и специальностям. К чему это реально приведет, какой станет структура занятости в развитых странах, пока прогнозировать трудно. Часто приходится слышать: все больше людей на Западе занято в сфере обработки информации; называются фантастические цифры: в США якобы чуть ли не 70 процентов работающих занято обработкой информации. Это просто манипуляции со статистикой. Человек торгует пирожками, но он стоит за кассой, считывает цифры с дисплея — и вот он уже «лицо, связанное с обработкой информации».
Если же говорить о нашей стране, о России, то для нас важно в первую очередь преодоление отставания в сфере компьютеризации. Нужно, чтобы эта огромной важности проблема была осознана на всех уровнях власти, управления, в бизнесе, образовании. Без свободной циркуляции информации, без привычки с детских лет работать над ее потоками с помощью современных информационных сетей мы никак не сможем войти в цивилизованный мир. И необходим не только завоз в нашу страну зарубежных компьютеров, но в первую очередь создание сетей информационных систем, усовершенствование систем связи. Мы можем иметь ракетные заводы и тому подобное, но без связи и дорог все равно останемся неразвитой страной.
Американский философ X.Дрейфус в своей книге «Разум превосходит машину» следующим образом аргументирует тезис о принципиальной неспособности компьютеров соперничать с человеком в большинстве видов творческой деятельности: «Мы можем понять, как возникает проблема обыденного сознания (здравого смысла), если вдумаемся в тот факт, что компьютер приходит в наш мир еще более отчужденным, чем если бы на его месте был марсианин. Он не имеет тела, потребностей или эмоций, он не сформировался с помощью естественного языка или других видов социальной практики. Если мы хотим, чтобы компьютер разумно взаимодействовал с нами, он должен быть наделен пониманием человеческой формы жизнедеятельности. То, что мы понимаем просто потому, что являемся людьми, — что обиды печалят нас, что двигаться вперед легче, чем назад, что мы можем пройти мимо предмета, вначале двигаясь к нему, а затем удаляясь от него, что время течет и будущее постоянно превращается в прошлое — все это и еще гораздо большее должно быть запрограммировано в компьютере в качестве фактов и правил»
Гордон Р. Диксон
Врожденная способность
1
Вообще-то его звали Гарри Бреннан. Но всей Галактике он был известен под именем Джон Поль Джонс.
Джон Поль Джонс представлял собой самый совершенный образец того, что могла создать земная наука и техника, и стоил четыре миллиарда долларов. В обычных условиях его тысячи компонентов занимали объем в пятнадцать кубических метров, но он мог растянуться на световые годы или же сгруппироваться в единый магнитный блок, чтобы пронизать пространство и достичь отдаленных уголков Галактики. Словом, он абсолютно подходил для своей роли.