Борьба разумов. Фантастическая реальность
Шрифт:
Разговор начался с моего главного вопроса.
– Джон, Вы являетесь крупнейшим специалистом по созданию искусственного интеллекта. Я хочу спросить у Вас – верите ли вы в существование Искусственного разума?
– Сначала вопрос к Вам: что Вы под ним понимаете?
– Искусственно созданное существо, способное принимать решения, исходя из своих целей.
– Нет, такого разума не существует, любое искусственное создание принимает решения из целей, заложенных в него человеком. Если оно отклоняется от них, то это считается ошибкой, сбоем, и существо должно прекратить свою деятельность.
– А если оно не прекращает?
– Тогда его уничтожают
– Можно, я изменю вопрос: все ли решения, принимаемые интеллектуальным существом, контролируются человеком?
Джон задумался, а потом ответил, как мне показалось, не совсем уверенно.
– Нет, не все. Это невозможно и ненужно. Есть специально выбранные точки, которые могут контролироваться человеком, чтобы не допустить дальнейшей неправильной работы системы.
– Можно ли быть полностью уверенным, что вне участка контроля система не ведёт себя непредсказуемо и человек в контрольной точке этого не замечает?
– Полностью – нет, поэтому строятся новые контролируемые точки, чтобы вероятность бесконтрольных действий машины свести к нулю.
– Это похоже на борьбу человеческого разума с искусственным. В этой борьбе каждая из сторон исходит из своих целей.
Джон рассмеялся.
– Да нет же, если это сбой или ошибка, то она должна быть просто исправлена машиной или человеком.
– Выходит, что Вы боретесь с Искусственным разумом, отрицая его существование?
– Не совсем так. Мы создаём вычислительную систему под наши цели, не допуская следования к непредвиденным целям.
– Я делаю вывод, что мы понимаем искусственный разум одинаково, только по-разному называем цели, которым он может следовать. У меня они «собственные», у Вас – «непредвиденные», – торжествующе заключил я.
– Пусть будет так, – ответил Джон и закурил электронную сигарету, обдав меня облаком дыма. – Только это ничего не меняет. Искусственного разума, стремящегося к своим целям, не существует.
– Быть может это такой же обман, как уверенность в безвредности электронной сигареты по сравнению с обычной. Что Вас может убедить в наличии у вычислительной системы собственных целей?
Джон вновь задумался. После своего согласия с тождеством «собственных» и «непредвиденных» целей, свобода выбора аргументов против моих утверждений у него уменьшилась.
– Результаты действия машины с искусственным интеллектом по своим целям.
– Вы исключаете возможность совпадений целей машины и человека хотя бы на каком-то интервале времени?
– А вы сами, случайно, не робот? – засмеялся Джон. – Обычно на конференциях и в интервью я убеждаю людей о наличии искусственного интеллекта. Сейчас всё наоборот – я сражаюсь за своё понимание против вашего, одушевляющего искусственный интеллект и превращая его в разум.
– Я так не считаю. Душа – это именно то, что присуще человеку. Вы правильно сказали – убедиться в наличии собственных целей у машины можно по результатам её действий. Но тогда эти результаты надо видеть под другим углом. Вы, наверное, слышали о возможности вычислительной ошибки в подсчётах результатов голосования президентских выборов. Если это случайная ошибка – то виноват сбой машины, а если намеренная – то результат действия человека-злоумышленника или работы машины по своим целям. Что Вы выберете?
– Наименее вероятно – работа машины по своим целям.
– Вот это я и хотел от Вас услышать, – с облегчением сказал я. – Пусть наименее вероятно, но всё же, какая-то вероятность есть. Если Вы в дальнейшем
– Хорошо, я соглашусь с Вами, – Джон убрал электронную сигарету, видимо, поверив в вероятность её вреда для организма. – Какой из этого вытекает вывод? Прекратить работы над искусственным интеллектом?
– Нет, конечно, прогресс не остановить. Надо понимать, какого монстра человечество создаёт, и быть готовым к борьбе с ним. Нельзя допустить превращение человека в раба машины.
– Но мы создаём машины в помощь человеку. Они выполняют за него чёрную работу.
– А теперь уже и «белую», – не согласился я. – Вспомните историю всех рабовладельческих государств и цивилизаций. Сначала рабы делали чёрную работу, потом интеллектуальную, а затем вышвыривали хозяев из их домов.
– Вы, русские, известные пессимисты. Пойдём лучше выпьем пивка, надоело дышать этим воздухом из кондиционера.
На пиве мы не успокоились, за ним «накатили» вискаря и закончили «Столичной». За дружбу между русским и американским народами.
Наутро болела голова, арендованный автомобиль я оставил в Сан-Хосе, а в Сан-Франциско вернулся на автобусе.
Через час после возвращения из Силиконовой долины я сидел на открытой веранде рыбного ресторана, вкушал свежие устрицы и дышал сладким и приятным воздухом Тихого океана. Завтра у меня была намечена поездка в Форт Росс. Это создавало тихое ощущение счастья. Бывает ещё его «громкое» ощущение, но там всё показное, требовательное к другим. Это не для меня. В «тихом» всё спокойно, и туда никого не хочется допускать. Даже друзей, поскольку это напрягает и счастье пропадает. Трудно бывает объяснить, почему туристическая поездка может вызвать ощущение счастья? Я сам не могу это понять, да и не надо. Главное – его ощущение, об отсутствии которого горевал мой С17. Он мог стать моим другом, но что-то ему помешало. Сначала ему, потом мне. Вчера с Джоном мы так и не пришли к общему пониманию слова «разум». Даже отношения между людьми не всегда строятся разумно. А тут неодушевленная машина. Джон вкладывает в неё свой разум, обогащённый высоким интеллектом, и не хочет признавать её собственные, машинные интересы. А что думает об Искусственном разуме чемпион мира по шахматам, проигравший компьютерной программе? Неужели только то, что она быстрее его просчитывает варианты? Если так, то он никогда у неё не выиграет. Чтобы выиграть, надо признать у нее наличие разума и честолюбивых целей, а потом не дать им свершиться. А создателям Искусственного разума необходимо вкладывать в него интересы, связанные с интересами людей, что сделает его нашим единомышленником. Тогда уменьшится число «контрольных» точек и увеличатся его функциональные возможности.
Интересно, а как машина воспринимает чувства человека, прочитав нашу классическую литературу? Видимо, она окрашивает произведения писателей разными красками: белыми – Льва Толстого, чёрными – Фёдора Достоевского, серыми – Максима Горького. Многокрасочная палитра в её распоряжении. Хотя отдельные люди тоже обладают свойством «раскрашивать» слова. Так Владимир Набоков писал о себе: «Я наделён чудаческим даром – видеть буквы в цвете. Это называется цветным слухом. Возможно, таким талантом обладает один из тысячи». Краски предоставляют большее разнообразие оценки увиденного и услышанного. Надо будет спросить об этом у С17 при очередном общении.