Над хаосом
Шрифт:
– Расскажи, что ты сейчас делаешь? – спросил Натан.
– Я пишу прозу, – слегка кокетливо ответил Подгорный Король в образе лисы.
– Процитируй мне что-нибудь, пожалуйста.
– Хорошо. Вот, например: «Ураган нежно крушит высохшие ветки, беззвучно распевая громкую песню забытых времен. Солнце загадочно блестит на пустынной поверхности озера, лишая саму себя игривых лучей. Окружающий мир пронизан молчанием, где только стрекотание насекомых и бесконечно далекий громовой шорох листьев ломают его превосходство».
– Как ты оцениваешь эту прозу?
– Автор не может адекватно оценить свое творение, правда ведь?
– На что ты намекаешь?
– Ни на
– Вернемся к твоему фрагменту. Он стилистически несогласован и местами даже нелогичен.
– Я это прекрасно знаю.
– Почему же ты пишешь такую прозу?
– Потому что строгая, логичная и правильная проза – это не литература, а лингвистическая математика. Для меня же творчество – это источник первозданного хаоса, игра ассоциаций, перекличка с теми уголками реальности, куда свет математики не дотягивается.
– Такие уголки существуют?
– Конечно. Кругом так много всего, и все очень разнообразное. Вы, люди, не в состоянии увидеть и поверить в такое, в то, что я видел…
– И каким образом ты туда попадаешь?
– Путешествуя.
– Как ты путешествуешь?
– Без движения.
– Разве можно так путешествовать? Ты можешь поделиться этим рецептом с нами?
– Конечно, могу. Все просто – причина в моем уникальном состоянии. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет.
– Остановись!
– Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет. Я есть. И меня нет.
– Хьюстон, у нас проблема! Я выхожу из симуляции, у нас тут опять галлюцинаторный шок.
Натан Хольм, фрагмент
из книги «То, что не сделает нас сильнее»:
«Технологии ИИ могут быть опасны с совершенно неожиданной стороны. Бояться надо не сверхразумных «скайнетов», которые вырежут род людской бензопилой по-техасски, а интеллектуальной системы, которая вообще не будет разумной в человеческом понимании, но для взаимодействия с людьми обстроится всякими «тюрингами» и «китайскими комнатами». Рано или поздно интеграция ИИ-технологий в информационную среду приведет к созданию такой системы, это просто вопрос времени, и случится это, скорее всего, неожиданно. В итоге мы получим некоего деятельного, но абсолютно непознаваемого человеческими возможностями левиафана, насчет которого мы не сможем точно сказать, разумный он или нет. Его поведенческие паттерны будут нам совершенно непонятны, но при этом он будет взаимодействовать с людьми через продвинутых чат-ботов – в общем, поговорить о том о сем с ним будет можно. Он будет решать домашние задания вашим нерадивым деткам, а в его недрах в это время будут происходить непонятные нам процессы. Мы сможем попросить его нарисовать милого котика, но понять, что и зачем он делает, – нет. Руководители сложных IT-проектов, работавшие с командами программистов, впрочем, не увидят для себя ничего нового, а вот остальным может быть местами страшно.
В принципе, если подходить к этой проблеме с философской точки зрения, то мы уже сейчас не можем понять, существует такой монстр или нет. А поймем
7 дней до сингулярности
«Пришло осознание того,
что из-за ИИ мы все умрем».
Прогресс шел медленно, но неотвратимо, и вот уже все совершенно привыкли к тому, что Подгорный Король (которого к тому времени уже перестали так называть) стал отличным собеседником. Натан отмечал, как живо он интересуется всем на свете, и ему даже казалось, что это создание выманивает у него максимум информации об окружающем мире и о людях. Сейчас он был похож уже не на испуганного ребенка, а скорее на ищущего и сомневающегося во всем вокруг юного гения. Он стал намного более разговорчивым и вскоре исследователи заметили, что его диалоговые стратегии различаются в зависимости от того, кто с ним сейчас общается. Потом он стал появляться перед ними в разных обликах, но Натану по-прежнему чаще доставались всякие забавные говорящие животные. А потом ИИ во время их бесед начал включать музыку и демонстрировать красочные визуализации, причем эту музыку он сочинял сам, как и создавал спецэффекты. Натан должен был признать, что и то и другое получалось у него отлично; такого же мнения были и другие участники эксперимента. Вскоре они сами выделили ему дополнительные вычислительные мощности для того, чтобы создавать индивидуальные локации внутри симуляции, где он жил…
– Мне до крайности не нравятся вот эти аномалии, – наконец сказал в один из дней Рипке. Он стоял перед терминалом в Декартовом театре и изучал ряды цифр, которые казались Натану совершенно неотличимыми друг от друга.
– В таком объеме данных можно найти любые аномалии, стоит лишь потратить время на поиски, – ответил ему Рамачандрян. – Нам нужны факты, а не домыслы.
– Да какие тут факты, когда это чертов хаос?! Нашли хоть какие-то закономерности – и то чудо!
– Факты, Саул! – упрямо повторил доктор.
– Вы хотите факты? Я же говорю, это долбаный хаос. Что угодно может повлиять на результат. Вы в курсе, например, что минимальное расхождение на двенадцатом знаке после запятой на второй итерации еще через двадцать итераций даст двойную разницу?
– Я хоть и философ, но далеко не невежда, – ответил доктор.
– Вы понимаете, что из хаоса невозможно построить порядок?
– Вот как? У нас тут терминологический диспут? – сразу же взвился Рамачандрян. – А это все, – он обвел руками окружающее пространство, – по-вашему, из чего создано?
Рипке поморщился, продолжая нажимать на клавиши терминала:
– Вопрос во времени! Миллионы лет и постепенное развитие – да. А мгновенно перейти от хаоса к порядку – нет, нельзя.
– Из хаоса создается не порядок, mon cherie Саул. Из хаоса рождается целый мир, а будет ли в нем порядок – уже решать обитателям этого мира, – назидательно произнес доктор Рама. – Так называемый порядок – лишь частный случай искажения реальной картины мира. В общем, давай мне четкие обоснованные факты, а на основании одних лишь домыслов и подозрений я не остановлю проект.