Диалоги
Шрифт:
ГИЛАС. А эта жестокая вивисекция, каковой является сама операция «пересадки»?
ФИЛОНУС. Сегодня предполагается, что количество основных нейронных центров, то есть замкнутых цепей в мозгу, выполняющих самую существенную роль в формировании процессов сознания, не превышает десяти тысяч (в каждый такой центр входит ряд нейронных цепей; речь идет о типе цепей, какие открыл блестящий исследователь Лоренте де Но – а именно, нейроны, создающие замкнутые петли, замкнутые на самих себя цепи обращения импульсов). Очень возможно, что функциональное соединение сетей нейронной с не-нейронной удастся провести безболезненно для того, кто подвергнется подобной процедуре. Но учти, что такие операции станут реально осуществимы не раньше чем через тысячу лет; медицина, нейрофизиология и нейрохирургия тогда будут использовать неизвестные нам сейчас методы. Затем прими во внимание, что наша процедура медленного перемещения комплекса процессов из сети нейронной в электрическую в определенном смысле является аналогом явления, постоянно происходящего в живом мозге, а именно – замены материальных
ГИЛАС. Даже если бы все было так, как ты говоришь, то лично я концепцию «железных мыслящих сундуков» в качестве следующего этапа развития человечества считаю неприемлемой. Правда, мне как раз сейчас пришла в голову мысль о возможности избежать столь ужасающей перспективы. Что, если перемещать психические процессы из одного живого мозга, из одной нейронной сети в другую, тоже нейронную, белковую, живую, только созданную искусственно? Что ты на это скажешь?
ФИЛОНУС. Принципиальной невозможности я не вижу, однако мне кажется, как бы парадоксально это ни звучало, что такой процесс было бы осуществить гораздо сложнее, чем провести пересадку психики на мертвый протез. Дело в том, что сконструировать мертвый протез как произведение, полностью инертное, лишенное каких-либо следов памяти, а также всех «индивидуальных предложений», несомненно, проще, чем синтезировать искусственный, живой, развитый, но одновременно «пустой», «без записи» мозг – а речь ведь идет именно об этом. Кроме того, есть еще одна существенная трудность, состоящая в том, что этот новый, следующий и живой мозг данной личности через очень небольшой промежуток времени после проведения операции ощутил бы разнообразные недомогания, дефекты и быстро закончил бы свое существование.
ГИЛАС. Как это? Почему?
ФИЛОНУС. Любая сеть обладает ограниченной «проводимостью информации»; этот термин обозначает как величину объема памяти, так и общее количество информации, происходящей все равно изнутри или извне, которая способна обращаться в ее пределах. Как на то указывают экспериментальные и клинические факты, человеческий мозг вполне очевидно обнаруживает эту ограниченность, особенно в конце жизни, в старости (между прочим, потому-то старики и не могут запомнить текущие события, прекрасно помня события прошлого). Даже небольшие гормональные проблемы, вызывающие незначительное понижение порога чувствительности нейронов, способны привести к полной блокировке прохождения импульсов в перегруженном мозгу. Так дело может дойти до сумасшествия, до распада личности, вплоть до необратимых изменений. Недавно открыли некую субстанцию, которая, как предполагается, оказывает вредное воздействие на возбудимость нейронных синапсов и – если ее ввести здоровому человеку – вызывает симптомы шизофрении. Эту субстанцию выделили из крови шизофреников. Учитывая эти данные, можно прийти к заключению, что уже в начале первого «пассажа», то есть после перемещения психических процессов старика в рамки нового мозга, этот новый мозг будет с трудом справляться с освоением процессов и лишь относительно короткое время окажется способен четко функционировать, продолжая усваивать информацию из окружающей среды. Рано или поздно неизбежно появляются симптомы достижения предела информационной проводимости.
ГИЛАС. Ну хорошо, а как же в таком случае с электрической сетью, то есть с мозговым протезом?
ФИЛОНУС. Такой протез можно сконструировать с определенным «запасом», с «функциональным резервом». Однако, как ты уже, наверное, сам догадался, даже речи не может быть о каком-то там «бессмертии», ибо его носителем должен был бы быть мозг бесконечно огромный и бесконечно сложный – чтобы вместить хотя бы только сумму бесконечного (или попросту огромного) количества воспоминаний.
ГИЛАС. То есть вся перспектива, вся эта картина «перемещения» психики – не более чем фикция?
ФИЛОНУС. Нет. Это просто маловероятная, но физически, материально неисключаемая возможность. Я тебе уже говорил накануне, что нам неизвестна верхняя граница сложности систем типа сети. Может быть, при использовании электрического тока и более совершенных, чем сейчас, функциональных единиц, тождественных нейронам, можно было бы сконструировать сеть в десять или сто раз более совершенную, чем человеческая.
ГИЛАС. Отлично. Тогда у нас получился бы «синтетический гений»?
ФИЛОНУС. Посуди сам, если мы изучим общую теорию сети, то с ее помощью мы сможем конструировать сети с произвольными признаками (физически возможными, разумеется; мы не можем построить сеть, действие которой противоречило бы законам Природы). Общее доказательство выдающегося английского математика Тьюринга представляет нам теоретическую возможность создания сети, которая «может абсолютно все», то есть, ясное дело, все, что возможно. В этом смысле возможно в будущем предположить создание сети, способной творить симфонии или рассуждать, каковы могут быть отличные от земных варианты эволюции жизни на непохожих на нашу планетах.
ГИЛАС. Филонус, ты надо мной насмехаешься!
ФИЛОНУС. Друг мой, неужели ты почувствовал себя задетым с точки зрения человеческого достоинства? Но почему тогда тебя не трогает вид подъемного крана, который в десять тысяч раз сильнее тебя, и при этом оскорбляет образ машины, в тысячу раз более понятливой,
ГИЛАС. Дело не в этом, дело в том, что такая перспектива, такая картина будущего неотступно создает навязчивое впечатление ненужности человека. Мыслящие машины типа «синтетического гения» не нуждаются в нас, в нашем сотрудничестве, в нашем контроле, как нуждаются в них подъемные краны и паровые молоты.
ФИЛОНУС. Ну и что с того, если они работают на нас?
ГИЛАС. То есть ты считаешь, что машины в будущем станут опережать человека во всех областях?
ФИЛОНУС. Эка хватил! Уже опережают! Любая плохонькая электронная счетная машина справится с заданием, с которым за всю жизнь не справится лучший математик. Существует такой в общем-то смешной и очень наивный миф о заводах будущего как о просторных, заставленных пальмами цехах, полных автоматов, где на центральном пульте стоит человек в белоснежном халате, контролирующий производство... Это (если взять для примера химический завод новой формации) абсолютно невозможно. В новой химической промышленности внимание сосредоточено на реакциях, протекающих с огромной скоростью в раскаленных газах. В этих условиях возникают, именно в области газового пламени, различные ценные химические субстанции, существующие лишь долю секунды. Чтобы их уловить, необходимо поддерживать реакцию, являющуюся их источником, и одновременно непрерывно выводить их из области высокой температуры. Процессы контроля и управления должны происходить за доли секунды, с чем человек не в состоянии справиться, если учесть малые скорости нервных импульсов. А значит, человеку в белом халате нечего делать на этом заводе, пока производство в порядке – под контролем электронного мозга.
ГИЛАС. А если этот мозг сломается, то он его починит.
ФИЛОНУС. Или он, или соответственно настроенный на подобную операцию другой электронный мозг, который выполнит ремонт значительно быстрее и четче.
ГИЛАС. А если и тот сломается?
ФИЛОНУС. А если человек заболеет? Здесь нет никакого regressus ad infinitum, есть только определенная иерархия автоматов, взаимно контролирующих функции, замкнутый круг, который, разумеется, может разомкнуться из-за какой-то неполадки. Сегодня эти дефекты устраняют люди, но завтра?
ГИЛАС. Однако в твоем примере речь в основном идет о проворстве, о быстроте реакции, как, например, в случае со счетной машиной. Получается, что электронные мозги побивают человека только в скорости действий.
ФИЛОНУС. Согласен. Давай возьмем другой пример, где речь идет не о проворстве, а о высшей способности сети как интегрирующей единицы. Как ты прекрасно знаешь из собственного опыта, мыслительный процесс тем труднее, чем больше элементов (понятий) сознание должно охватить одновременно. Поэтому легко производить в уме простейшие арифметические операции, но трудно извлечь корень четвертой степени из десятизначного числа. Однако это всего лишь проблема «временной памяти», то есть фиксации в ней промежуточных результатов, отдельных этапов математического вычисления. В таких вычислениях мы имеем дело с раз и навсегда данными, принципиально неизменными от начала и до конца указаниями к действию (сначала ты должен умножить, потом запомнить полученный результат, потом разделить и т.д.). Когда же речь идет об обобщении большого количества фактов в теорию, по мере самого процесса организации этих фактов в обобщение высшего уровня изменяются и указания к действию, которые не являются окончательными, а следуют из очередных построений. Когда, например, из данных астрономии, физики и математики мы пытаемся создать теорию гравитации более общую, чем ньютоновская, приходится иметь дело с таким огромным количеством факторов, которые необходимо учесть одновременно, что только сеть с чрезвычайно высоким коэффициентом полезного действия может с этим справиться. Такой сетью располагал, да простится мне столь неуклюжее определение, Эйнштейн. Так вот, в будущем не каждый сможет стать Эйнштейном, но каждый будет иметь к своим услугам достаточно оперативную машину для мышления.
ГИЛАС. Но представь, какие губительные перспективы открывает такая возможность! Какое-то время набирающие мощь электронные мозги еще будут выполнять действия, которые люди смогут понять, охватить разумом, оценить хотя бы приблизительно. Однако впоследствии эта раз обнаруженная пропасть начнет расширяться. Мыслящие агрегаты станут представлять нам результаты своих теоретических разработок, которые мы, возможно, и сможем применить, но понять их мы уже окажемся не в состоянии. Будет все увеличиваться область явлений, которыми станут распоряжаться автоматы. В конце концов люди съежатся до размеров безмозглых слуг железных гениев и, может быть, начнут оказывать им божеские почести...