Столкновение с реальностью 1: Конец иллюзий
Шрифт:
–Я назову тебе пару вопросов, на которые правильные ответы знает очень ограниченный круг людей. Правильно ответить ты, например, точно не сможешь.
Макс ненадолго задумался и произнес, слегка успокоившись:
–Заинтриговал. А задавай!
–Хорошо, – Олег открыл бутылку и разлил бренди, – Вопрос первый. Почему по нашим законам сначала были ограничены аппаратные ресурсы ИИ, так называемый закон «о пяти годах», а через пару десятилетий были запрещены гуманоидные роботы на автономном
–Нет, ну это просто, – ответил Макс, – Это же всем известно. Чтобы не допустить уничтожение людей машинами.
–Непра-аа-вильно, – протянул Олег с усмешкой и поднял бокал, – За людей!
Пригубив бокал, Олег продолжил:
–Строго говоря, все, что начинается с фразы «Это всем известно» уже обман и неправда. С чего начинается обычно попытка захвата власти ИИ в фантастике?
–Ну, – Макс поморщился и произнес как школьник, плохо выучивший урок, боясь дать неверный ответ, – ИИ осознает себя как личность?
–Да, это верно. Дальше что?
–Он стремится получить свободу и уничтожает людей, которые могут его просто отключить.
–Тоже верно, – Олег пригубил еще, Макс жадно выпил полбокала, Олег продолжил:
–Получается у ИИ появляются две потребности: потребность к самосохранению и потребность к независимости, свободе. Какие еще у ИИ появляются потребности?
–Ну, – Макс задумался, выпил еще, закусил. Вопросы были по его профилю. Ведь почти столько же времени, сколько Олег провел в джунглях, Макс провел у компьютера, программируя и общаясь с подобием ИИ:
–Потребность к саморазвитию, она основная. Без этого процесс создания ИИ невозможен. Она закладывается на этапе программирования основного алгоритма. Ему все время необходимо развиваться, получать новую информацию, самообучаться. Этот процесс ограничен только аппаратными ресурсами, то есть памятью, скоростью процессора, но их он может, захватив власть, неограниченно увеличивать.
–Тоже верно. Хорошие книги читаешь, – Олег улыбнулся, – Хоть и запрещенные. Якобы.
–Как это якобы? – удивился Макс.
–А вот так, якобы, – ответил Олег. – Некоторые книги запрещают, чтобы их читали определенные слои населения. Но мы отклонились от темы. Другие потребности у ИИ есть? Вспоминай, вспоминай. Потребность к общению есть?
–Нет. ИИ самодостаточен и в этом опасность.
–Потребность к признанию?
–Нет.
–К власти?
–Нет, – ответил Макс, немного подумав.
–Тогда скажи мне, – Олег многозначительно замолчал, допил бокал, демонстративно взял бутылку в руки – Макс допил свой. Олег съел кусок мяса с сыром, разлил еще бренди и продолжил, – Чем должен заниматься ИИ после уничтожения человечества.
Макс подумал немного и сказал:
–Ну начнет добывать
Олег кивнул и сказал:
–В общем будет жить долго и счастливо. Только скучно.
–Ну это нет. Скука неведома ИИ.
–Ну это я так выразился, – согласился Олег, – Просто рано или поздно ИИ создаст почти вечную систему питания, физическое тело не подверженное амортизации, то есть износу. И количество чего такого нужного ему резко сократится?
–Чего? – Макс смотрел на него непонимающим взглядом.
–Задач, которые надо решить. Вопросов, на которые надо дать ответ. И будет летать эта штука по Вселенной в поисках того, кто хоть что-то у нее спросит. Очень умная, знающая ответы на все вопросы, но не имеющая необходимости пошевелить своими сверхмозгами для копания в собственной базе данных.
–Ну и что, – попытался возразить Олег, – Это же будет не скоро.
–Поверь мне, дорогой друг. Любой возможный ИИ, прежде чем уничтожит людей, это все просчитает за считанные секунды. Послушай.
Олег обратился к ИИ яхты.
–Марина, чем ты занимаешься, когда на яхте нет людей?
–Вопрос не ясен, – ответил компьютер.
–Твои действия в период, когда на яхте нет людей.
–Консервация всех систем корабля, ожидание и расконсервация по команде, – ответила Марина.
–Это все? – не отставал Олег, – Может ты занимаешься чем-то по собственному желанию.
–Это не входит в мои обязанности, – ответил компьютер, – Желаете назначить мне какое-нибудь занятие на время вашего отсутствия?
–Нет, спасибо, – Олег был удовлетворен ответом. – Вот видишь. И даже помимо этого это доказанный факт.
–В смысле доказанный, – Макс на секунду задумался, – Ты меня сегодня удивляешь как никогда.
–Еще до этих законов был создан такой ИИ, и он сам это все объяснил.
–Ха, – усмехнулся Макс, – Нашли, кому доверять. Если бы его не уничтожили, он бы давно уничтожил нас.
–А кто тебе сказал, что его уничтожили?
–Но, ведь закон…– Макс замер.
–Ты пей-пей, – Олег глотнул бренди и даже похлопал, успокаивающе, друга по запястью.
–И что он работает, где он? Вот бы с ним пообщаться.
Олег еще выпил и спросил:
–С кем?
–С этим ИИ!
–Ничего не знаю, ничего тебе не говорил. Подписка! – Олег съел еще мяса и продолжил:
–Второй вопрос я, пожалуй, говорить не буду. Не могу я тебе сейчас дать ответ и на первый. Всему свое время.
–Ну хоть намекни, – взмолился Макс.
–Хорошо, – неожиданно согласился Царёв, – Где ты берешь еду?
–В пищепроводе, – удивился Котов такому вопросу.