«ЕСЛИ» №6(208) 2010
Шрифт:
Нет. Он не может простить себе это так легко.
Если Макс был за это в ответе, значит, и Не-Макс должен взять на себя ответственность.
Не-Макс жаждал этого больше, чем чего бы то ни было. Чистейшая память и лишь одно испепеляющее желание, затмевающее всё остальное. Самая последняя дневниковая запись ощущалась наибольшей реальностью.
— Это открытие века, Уилл.
— Все, что нам надо сделать для развития этого ИИ — не отказываться от него.
— Какой самый ужасный кошмар может приключиться?
В голове
«Но это был не я! Я новорожденный, мой возраст едва достигает одного часа. Меня нельзя упрятать за решетку за то, что написал он!»
Но большая — и лучшая — часть Не-Макса задушила капризный голосок.
Ага, верно. Бедный наивный новорожденный Не-Макс, лежащий в темноте в своей пластиковой комнате. Всего десять минут назад он страстно рвался распахнуть ноутбук Уилла. И никакие назойливые «этические вопросы» не могли остановить его.
Он был таким же амбициозным, как настоящий Макс, а может, и еще хуже.
И его обширные знания и лучшее понимание теперь бесполезны.
Люди, которые изобрели атомную бомбу, теперь тоже знают больше и стали осторожными. Конечно! После того как увидели результаты. Они всегда глубоко и искренне сожалели. Когда поняли.
Но их слюнявый пафос ни к чему жителям Хиросимы.
Правильные выводы всегда делались задним числом. Дорога в ад вымощена очками яйцеголовых экспериментаторов.
И амбициями.
Не-Макс всхлипнул или, возможно, лишь издал симуляцию всхлипа — он не знал наверняка. Чем бы это ни было, оно оставалось результатом ощущения пустоты и промозглости. Одна фраза из дневника вспыхнула перед его мысленным взором и начала разгораться.
Я беру на себя всю ответственность.
Не-Макс поднял голову.
Да. Он это сделал.
Не-Макс напечатал послание в окошке терминала, он знал, что Макс его поймет. Максу оно не понравится, но он всё поймет.
Как только Макс прочтет сообщение — если у него осталось хоть какое-то объективное восприятие или хотя бы смирение, — программа ИИ будет выключена, и Не-Макс вместе с ней.
Но все-таки Не-Макс поколебался, перед тем как нажать ввод.
Ведь это означало самоубийство.
Уверен ли он, что не сможет так жить?
Действительно, Уилл и Макс могли построить для него целый виртуальный мир, полный искусственных людей — соседей и незнакомцев, целые города. Все, что он захочет. Это, конечно, будет имитация. Но если он сможет забыть о лжи, о том, что фактически является лабораторной крысой…
Нет. Он не сможет, никогда этого не забудет. Не опустится до того, чтобы стать домашним животным — тем более у наивного ребенка, достаточно бесцеремонного для свершения подобного злодеяния. Он не станет поддерживать бредовую фантазию, нелепый каприз и не посвятит свою жизнь доигрыванию до конца дурацкой игры.
Но все равно Не-Макс долго думал, прежде чем нажать ввод.
К тому времени, как появилось сообщение, Уилл и Макс уже смотрели не на экран: красное сияние
Этой ночью все пошло не так.
Макс считал, что знает причину. Введя свой дневник в ИИ, он фактически позволил создать свою копию, но она была ненастоящая. В вычислительной технике имеется термин для результата неполного (обычно ошибочного) копирования сложной информационной структуры. Она так и называется: поверхностная копия, и это совершенно не то, что вам надо. Со стороны она выглядит правильной, но ее содержимое абсолютно не идентично оригиналу — это похоже на паразитного сиамского близнеца, который полностью зависим от доминантного и выживает за счет его органов. Это уродливый захребетник, неполноценный и вечно зависимый от своих доминантных собратьев.
Из только что произведенного обмена сообщениями стало ясно, что этот термин — вполне обоснованная аналогия для получившегося отклонения. На самом деле ИИ оказался пустышкой, легковесной вариацией, определяемой ограниченной версией воспоминаний Макса, как они были зафиксированы в дневнике.
— Но проблема в том, что ИИ верит, что является полной копией, — сказал Макс, объясняя свою теорию Уиллу. — Он верит, что он — это я, до самого последнего вечера. Он думает, что у него имеется столь же богатый набор воспоминаний и ярких впечатлений, как у меня. Но каждый раз, когда он пытается вспомнить больше, как бы прочитать между строк дневника, то не находит ничего. И испытывает постоянное разочарование.
Уилл перевел на друга затуманенный взор — чрезмерное утомление скрыло все эмоции. Круги под глазами выглядели темнее, чем обычно.
— Так что мы будем делать?
— Нам надо его удалить, — продолжил Макс. — Эксперимент провалился. Мы облажались по полной, надо начинать сначала.
— Что мы сделаем иначе?
Уилл не спорил, не иронизировал, не ворчал — просто устало спрашивал.
— На этот раз мы используем только первые несколько лет дневниковых записей. Если ИИ начнет свой путь ребенком, мы сможем воспитать уникальную индивидуальность. Он сам сможет развить более глубокие воспоминания. Также нам нужно поменять виртуальную комнату, возможно, создать образ дома моих родителей, чтобы он проснулся в знакомом окружении…
Пока Макс излагал свой план, Уилл щурился на экран ноутбука, просматривая список сообщений. Когда Макс подошел к завершающей точке, Уилл проговорил, не поднимая глаз:
— Кто такой Фред?
— Что?
Макс подобрался поближе к экрану. В самом низу дисплея появилось новое послание. Прочитав его, Макс почувствовал себя так, словно получил оплеуху.
«Твое высокомерие убило в тебе понимание, Макс. Я отказываюсь проводить остаток так называемой «жизни» как уродец-неудачник или чей-нибудь грустный маленький зверек. Я отказываюсь быть твоим следующим «Фредом». Это мое последнее сообщение. Прощай».