Шаг к звездам [= Вспышка]
Шрифт:
— Потому что обе попытки окончились провалами, последствия которых, к счастью, не вышли за пределы лабораторий. В первом случае «ИИ» [16] , настроенный на определенную совокупность моральных норм, попросту «рухнул» под грузом логических ошибок, стоило однажды подключить его к доступу в Интернет. Виртуальная среда, где люди все чаще находят место выражению собственных взглядов, вошла в жесткий конфликт с элементарными нормами поведения, которые мы с Хьюго сформулировали в качестве эквивалента мировоззрения для сложной нейросетевой структуры. Система в буквальном смысле погибла под гнетом несоответствия ожидаемого и действительного.
16
ИИ —
— А чем закончился второй эксперимент?
Герберт, до этого взволнованно расхаживавший вдоль подиума, сел, безнадежно взмахнув рукой.
— Бышло еще хуже. Нейросетевой интеллект, которому мы позволили самому собирать информацию, в конечном итоге действительно выработал собственное мировоззрение. Но машина при этом осталась машиной. У нее нет чувств, а значит, ей не найти логического оправдания большинству человеческих поступков. В результате мы получили отрешенного наблюдателя, который оценивал человечество как некую глобальную ошибку, выпадающую из контекста общих законов природы. По мнению «ИИ», мы не венец эволюции, а неоправданно размножившийся вид млекопитающих, чье существование ведет к необратимой гибели биосферы и как следствие — исчезновению жизни на Земле.
Уилсберг понимающе кивнул. Некоторое время он удрученно размышлял над услышанным, а затем недоверчиво переспросил:
— И ты прекратил попытки?
Герберт искоса посмотрел на генерала.
— Нет, — нехотя признался он. — Я разработал программу, которую назвал «Дарвин».
Уилсберг заинтересованно повернул голову.
— Можешь объяснить, в чем ее суть? — спросил он.
Ричардсон ответил не сразу. Некоторое время капитан сидел, отрешенно глядя на экраны демонстрационной системы, а затем произнес:
— Это была попытка объединения параллельных структур, с тем чтобы одни экспертные нейросети могли «учиться» у других, заимствуя недостающую информацию, при возникновении ультрасложных проблем. Сама по себе программа «Дарвин» не руководит непосредственными действиями машины — она осуществляет связь между отдельными нейрочипами, одновременно инициируя в системе функцию «естественного отбора».
— И что это дает? — воспользовавшись краткой паузой, спросил Уилсберг.
— Смысл данной функции заключен в том, что заранее известная информация, не подтвержденная поступающими извне данными, в конечном итоге признается ложной, и это позволяет избежать роковых логических сбоев. Кроме того, машина должна иметь резервные нейрочипы, структура которых формируется в процессе саморазвития, и если их работа ведет к стабильному результату, то исходные модули очищаются от неверной информации и переходят в состояние «резервных».
— То есть внутри системы нейросети конкурируют друг с другом? — заинтересованно уточнил Альберт.
— Приблизительно так. Выживают и продолжают работать только стабильные участки, машина постоянно достраивает собственную архитектуру, стремясь стать более совершенной.
— И это, по-твоему, еще не решение проблемы?!
— Не знаю… — честно признал Герберт. — Эксперименты с программой «Дарвин» не окончены. Между прочим, именно исчезновение Хьюго затормозило ход работ. Я не в состоянии предсказать, как поведет себя подобная машина на поздних стадиях саморазвития, хотя эволюция программных модулей протекает в миллионы раз быстрее, чем аналогичный природный процесс.
— По-твоему, такой механизм может стать опасным?
— Любое саморазвитие несет в себе определенную степень риска. Я все чаще и чаще задумываюсь: зачем мы должны плодить и доводить до какой-то степени совершенства свои подобия, когда несовершенны мы сами?
— На этот вопрос я
Герберт сразу понял, в какую сторону клонит Уилсберг.
— Вы хотите сделать ставку на человекоподобные машины? — Он покачал головой в ответ собственным мыслям. — Нет, генерал, при всех технических преимуществах, которые обрисовал мне капитан Даллас, существует этическая сторона проблемы, есть общественное мнение, которое нельзя недооценивать…
Уилсберг невесело усмехнулся в ответ.
— Придется проявлять «гибкость мышления», — процитировал он Герберту его же фразу и спросил: — Ты разве не заметил, что в окрестностях базы начаты масштабные строительные работы?
— Да, это бросается в глаза, — согласился Ричардсон, который действительно видел огромные котлованы, где полным ходом шел монтаж металлических каркасов для будущих железобетонных конструкций.
— Сейчас строительные бригады заканчивают формировать фундамент для возведения принципиально нового города, который будет полностью автоматизирован, снабжен замкнутыми циклами жизнеобеспечения и станет первым самодостаточным мегаполисом, обладающим полной автономией. Благодаря конвертеру вещества мы смогли наполнить реальным смыслом проекты, которые годами ждали своего часа. Нужно показать всему миру, что атака фанатиков сорвалась, а новая национальная идея поднимет уровень жизни американского народа на недосягаемые высоты технического прогресса. Только достижения в области высочайших технологий способны возвести неодолимый барьер между законопослушными гражданами нашей страны и разного толка экстремистами…
Герберт покосился в сторону демонстрационных экранов и произнес:
— Боюсь, что человекоподобные машины не будут восприняты как гаранты новой стабилизации. Они скорее способны посеять смятение в умах обывателей, но никак не вернут им утраченный душевный покой.
— Смотря в каком качестве станут выступать созданные нами машины, — веско возразил ему Уилсберг. — Не нужно зацикливаться на частностях. — Он протянул руку, взял пульт управления и выключил демонстрационную систему. — Операция в Афганистане явилась вынужденной мерой. На самом деле широкое внедрение андроидов в ряды вооруженных сил не входит в задачи нашей группы. Ни один из кибернетических механизмов изначально не поступит на вооружение армии. Здесь создаются бытовые механизмы, Герберт, накрепко усвой это. Они призваны созидать, строить, обслуживать и войдут в сознание миллионов людей как продвинутые образчики сложной, принципиально новой бытовой техники.
— Вы постулируете новую «Американскую Мечту», генерал? — с нотками горькой иронии спросил Герберт. — Но вы же сами сказали, что война с терроризмом только начинает набирать обороты. Они будут искать способ повторить атаку, и, предвидя это, несложно предсказать, что «город мечты» еще на стадии строительства незаметно трансформируется в тривиальную вооруженную до зубов крепость. Это, на мой взгляд, совершенно не сочетается с постулатом о всеобщем благоденствии. Такой мегаполис больше похож на убежище испуганной нации…