Свинья, которая хотела, чтоб ее съели
Шрифт:
Мысль о том, чтобы разрешить компьютерам управлять нашей жизнью, до сих пор кажется большинству из нас немного пугающей. В то же время на практике мы постоянно доверяемся компьютерам.
Нашими финансами почти полностью заведуют компьютеры, и сегодня многие люди считают, что банкомат справится с банковскими операциями на их счете лучше, чем банкир-человек Кроме того, компьютеры управляют узкоколейными железными дорогами, а если вы будете лететь на самолете, то вы можете и не догадаться о том, что большую часть полета пилоты вообще ничего не делают. На самом деле компьютеры могут с легкостью управлять посадкой и взлетом, просто пассажиры
Поэтому идея о том, что компьютеры могли бы управлять экономикой, не такая и странная. В конце концов, большинство экономистов уже в огромной степени полагаются на компьютерные модели и предсказания. От действий, основанных на информации, предоставляемой машинами, недалеко и до того, чтобы позволить машинам действовать за нас.
А мог бы компьютер заменить всех политиков? Это уже более радикальный пункт президентской кампании «Бентама». Если компьютер может просчитать влияние, оказываемое политиками на благосостояние населения, то почему он не может просто сделать то, что принесет нам наибольшее удовольствие?
Обойтись совсем без людей нелегко. Проблема в том, что для компьютера нужно устанавливать определенные цели. Цель политики — не просто сделать счастливыми как можно больше людей. Например, нам нужно решить, с каким объемом несправедливости мы готовы мириться. В целом какой-то один план может осчастливить много людей, но при этом оставить в ужасающих условиях пять процентов населения. Возможно, нам нужно предпочесть менее счастливое общество, в котором никому не придется жить в нищете.
Компьютер не может определить, какое из этих решений лучше; только мы можем сделать это. Более того, вполне возможно, что желаемый нами исход может измениться в соответствии с обстоятельствами. Например, чем богаче становится общество, тем более нетерпимо оно к тому, чтобы позволить кому-то из его членов обходиться без самого необходимого. Кроме того, чем богаче мы становимся, тем чаще мы начинаем думать о том, что обязаны помогать другим менее процветающим странам.
Даже если бы компьютер знал о том, чего мы хотим, это бы не закончило спор. Должно ли демократическое общество просто следовать воле большинства, или мнение меньшинства тоже должно учитываться? Если так, то в какой степени?
Может настать день (возможно, скорее, чем мы думаем), когда компьютеры смогут управлять экономикой и даже государственными делами лучше людей. Но гораздо труднее представить себе, каким образом они смогут решать, что для нас лучше, и отправить восвояси всех политиков.
Смотрите также
9. Большой Брат
10. Завеса неведения
36. Упреждающее правосудие
87. Справедливое неравенство
93. Зомби
Люсия жила в городе, в домах которого горел свет, но жителей в них не было. Она жила среди зомби.
Это было не так страшно, как кажется. Эти зомби не были вурдалаками-людоедами из фильмов ужасов. Они были похожи на нас с вами и вели себя точно так же. У них была даже такая же физиология, как и у нас. Но они отличались от нас в главном: у них не было разума. Если вы уколете их, они скажут «упс», поморщатся, но не почувствуют никакой боли. Если вы «огорчите» их, они начнут плакать или разозлятся, но у них не будет смятения в душе. Если вы поставите для них успокаивающую музыку, вам покажется, что они наслаждаются ею, но в своем сознании они не будут ничего слышать. Внешне
Благодаря этому Люсии было просто общаться с ними. Было легко забыть, что у них нет такой внутренней жизни, как у нее, поскольку они разговаривали и вели себя как обычные люди, в том смысле, что они тоже говорили о своих чувствах и мыслях. Гостям города тоже не удавалось заметить в них что-либо странное. Даже когда Люсия выводила гостей на улицы, они отказывались ей верить.
«Откуда ты знаешь, что у них нет разума?» — спрашивали они у нее обычно. «А откуда вы знаете, что у других людей он есть?» — отвечала им Люсия. И этот ответ обычно заставлял их замолчать.
«Откуда ты знаешь?» — иногда это очень хороший вопрос. Но и на него, увы, очень трудно ответить убедительно. Мы редко знаем — возможно, и никогда не знаем — что-либо наверняка. Лучшее, на что мы можем надеяться, это иметь веские основания верить в то, во что мы верим. По крайней мере, эти основания должны быть убедительнее доводов против.
Именно поэтому нам кажется, что не нужно беспокоиться о самой вероятности того, что мы живем среди зомби. Даже если предположить, что мы живем среди них, хотя у нас есть больше оснований думать, что это не так, мы можем спокойно избежать беспокойства о существовании неправдоподобных вариантов.
Считать, что другие люди не являются зомби, выгодно чисто экономически. Если они ходят, как мы, говорят, как мы, и имеют такой же, как у нас, мозг и тело, то существует вероятность того, что они похожи на нас и во всех значимых смыслах, в том числе и в своих внутренних ощущениях. Было бы очень странно, если бы нервная система, которая дает мне сознание, не делала того же и для других людей.
Однако именно с этой точки зрения любопытно рассмотреть идею о существовании зомби. Ибо почему мы должны думать, что физическое сходство свидетельствует и об умственном сходстве? Проблема с сознанием как раз и заключается в том, что кажется невозможным объяснить тот факт, что чисто физические субстанции, такие, как мозг, порождают субъективные ощущения. Почему стрельба С-волокном по мозгу должна быть на что-то похожа? Какое отношение это событие в мозге имеет к ощущению боли?
Если эти вопросы кажутся серьезными, но на них нет удовлетворительных ответов, то из этого следуег, что нег ничего логически противоречивого в том, чтобы представить себе, что такие события в мозге, как стрельба волокном, не сопровождаются никакими ощущениями. Другими словами, представление о зомби — людях, похожих на нас во всех физических аспектах, но не имеющих никакой внутренней жизни, — абсолютно логично. И поэтому мысль о том, что другие люди являются такими зомби, какой бы она ни казалась невероятной, реальна.
Как и в фильмах ужасов, убить зомби не так просто. Чтобы устранить возможность их существования, вы должны доказать, почему существо, имеющее такую же физиологию, как мы, должно еще иметь и такую же психологию.
Это значит, что вам нужно доказать, к примеру, почему на боль должна быть похожа именно стрельба С-волокном, а не видение желтого цвета или ничего вообще. Жалко, что еще никому не удалось убедить в этом философов. Если это никому не удастся, то мы не сможем быть уверены в том, что по Земле не ходят зомби.