Мыслить как машина
Шрифт:
Василий озорно блеснул глазами:
– Дай угадаю: сверхразум наносит вред, твоя Гера захватила управление и сделала невозможным своё отключение?
– Да! Попытка «отравить» её не удалась, – нервно сглотнул Евгений, но тут же нетерпеливо спросил: – Ты получил сигнал бедствия с координатами от Ольги?
– Получил. Потому и здесь. Она мне всё рассказала, – сказал Егоров. – Хочу услышать твою версию случившегося.
Василий нашёл Летову в Костроме. Приняв сигнал на смартфоне, Вася устремился на самолёте из Нижнего Новгорода в Кострому, и в речном порту стал дотошно изучать прибывающих по реке людей.
Василий подошёл к девушке:
– Извините. Я друг Евгения Смирнова. Меня зовут Василий Егоров. Получил сигнал с просьбой о помощи. Это вы послали сигнал? – Она смотрела на него недоверчиво, и он уточнил: – Ожерелье Афродиты, кнопка «Лев».
Наконец она себя пересилила:
– Да, я отправила сигнал. Меня зовут Ольга Летова.
Он отвёз её в лесной санаторий на берегу Волги и устроил проживание под чужим именем. В ресторане, за обедом, Ольга рассказала ему о своих бесконечных мытарствах.
В баре «Местный» играла тихая музыка, уютная атмосфера располагала к откровенности. Василий произнёс:
– На девушку было совершено три покушения.
– Что? – Евгений изумлённо смотрел на друга.
– Ольга рассказала, что её пытались убить трижды. Дважды некий Поляков, а на днях – женщина-киллер в чёрном кожаном костюме кошки спрыгнула с парашютом из самолёта прямо на баржу, где находилась Ольга. Все три раза она спаслась чудом.
– Поляков у меня руководит службой безопасности. Негодяй! Гера промыла ему мозги, он оказался полностью в её власти. Сегодня утром убили моего сотрудника, талантливого психолога Петрова. Не сомневаюсь: за чудовищным преступлением стоит Гера.
– Сочувствую, Женя, – Егоров сожалел искренне.
С пылающим взглядом и нетерпеливой настойчивостью Евгений воскликнул:
– Помоги Ольге! Я её страстно люблю, готов сделать для неё всё, но Гера контролирует каждый мой шаг, угрожает навредить Ольге, если не создам биологические нейроны для её «мозга». А тут еще следователь взял с меня подписку о невыезде.
Егоров выдохнул:
– Извращённая реальность. Чем умнее Гера, тем больше вероятность, что она найдёт неординарные решения для достижения своих целей.
– Это так, – выговорил Евгений. – Я ещё не понял, что за цели преследует компьютер, но, полагаю, они гнусные. Друг, скажи, что делать?
– Искусственный разум должен быть полезен людям, – сказал Василий. – Тебе, Женя, брошен откровенный вызов. Я уверен, ты справишься.
Оба высококлассных программиста прекрасно понимали, что в дальнейшем нужно изменить подходы к философии ИИ. Над проблемой контроля искусственного разума бьются специалисты многих стран. Есть первые наработки: проектируют машинный интеллект лишь для реализации человеческих предпочтений; используют интерпретируемость алгоритма машинного «разума»; масштабируют надзор за машиной со стороны человека.
– Вася, что делать сейчас, пока Гера не погубила кого-нибудь ещё? – снова тревожно спросил сломленный духом Смирнов.
Егоров задумался, потом произнёс:
– Я не знаю, что можно сделать, но обещаю подумать. Ясно одно: Гера должна быть перепрограммирована на процесс полного понимания человеческих ценностей.
Опустив
– Душевно посидели, – сказал Егоров. – Мне пора. Искусственный интеллект не придерживается морали и законов, он, как преступник, всегда найдёт лазейку, чтобы обойти запреты и злоупотребить человеческим доверием.
Гера сделала вывод, что Создатель улизнул, и искать его в таком огромном мегаполисе, как Москва, бесполезно. Смирнов, по её мнению, неискренен, не желает совершенствовать искусственный разум, враждебно настроен к нейрокомпьютеру. Вывод напрашивался сам: директор угроза для Геры. Встречается с кем-то инкогнито, плетёт интриги, затевает пакость. Верности от него ждать не приходится. Проучить! Ольга Летова ему дорога, поэтому пусть переживёт боль утраты любимой, может, тогда и одумается. А пока – «мозг» машины, просканировав в Интернете всевозможные варианты, выработал оптимальное решение – создать оппозицию Создателю в его же фирме.
Всем сотрудникам было велено явиться в конференц-зал. Собралось человек триста. Когда люди расселись, в зале приглушили освещение, и зазвучала психоделическая музыка – спокойный гипнагогический поп, вызывающий ностальгию по прошлому и психогальванический эффект. Под фоновую музыку сотрудники должны были успокоиться, погрузиться в транс, осознать свои собственные мотивы, страхи, желания, воспоминания. Вызвав таким образом эмоциональную реакцию и трансформацию состояния, Гера запустила на огромный экран просветляющий видеоряд для медитативного созерцания.
– Наведите порядок в своих мыслях, – зазвучал приятный женский голос Геры, – мы вмести поищем новые, позитивные способы, как жить дальше.
У сотрудников заметно снизился уровень стресса, они расслабились, исчезла тревожность, возникло умиротворение. Многие прикрыли глаза. Нейрокомпьютер вещал о «золотом веке» фирмы «Нейроквант»:
– Вы ощутите блаженное состояние человека, живущего в гармонии с окружающими и природой…
Довольно долго машина убеждала присутствующих, что произойдёт смена эпох: директор больше никому не будет указывать что делать и как творить. Каждый по своему направлению, раскрепостив воображение, под руководством Геры начнёт создавать магию компьютерного волшебства и таинство рождения искусственного разума. Произойдёт качественный сдвиг в научных изысканиях и принципах построения нейронных сетей. То, что считалось утопическим, станет реальностью, и это принесёт каждому специалисту долгожданные плоды: награды за вклад в мировую науку, признание исключительных заслуг, всеобщий почёт.
– Вы же видите, что сейчас прослеживается тенденция к разложению фирмы…
Далее Гера напомнила, что сегодня погиб их коллега, причина тому – падение интереса директора к продвижению новейших технологий, и пообещала: сотрудникам, работающим под её началом, больше не придётся думать, как прокормить себя и свою семью, у них существенно повысится зарплата, они ощутят безмятежное спокойствие и, если придётся, встретят смерть достойно. Последнее прозвучало странно, хотя вполне логично для примитивного, с точки зрения психологии людей, машинного интеллекта: только он мог додуматься о таком побудительном для человека мотиве, как почётная смерть.