Философские проблемы развития искусственного интеллекта

Коллектив авторов

• Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

• Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам [1].

Последующие вариации писателей-фантастов на тему, следует ли робот этим законам или нет, разделили машин на «послушных», то есть следующих этим законам, и «непослушных» – нарушающих их. Тогда, в начале пути создания искусственного интеллекта, люди были уверены, что машины просто не могут принести им вред, ну, по крайней мере, если не сломаны.

В последнее время, однако, были сделаны открытия, которые изменили доверчивое отношение человечества к машинам. Клонирование животных, замена органов на копии на 3D-принтере, появление всемирной паутины постепенно начали пробуждать в людях осторожность. Вместе с осторожностью росло недоверие, а захочет ли такое совершенное произведение человеческого гения играть по правилам создателя? Вспоминаются такие персонажи прошлого, как Франкенштейн, многочисленные романы и фильмы о восстании машин.

Один из последних фильмов «Из машины» (Ex Machina) демонстрирует уже совершенно иной тип робота, чем роботы Азимова. Это умный, беспощадный, быстро обучающийся, похожий на человека биомеханизм, который способен переиграть создателя. Он не просто не выполняет законы роботехники, он ставит себя на первое место, борясь за свое существование и используя, в первую очередь, человеческие слабости. У биороботов нет эмоций, но благодаря внешнему сходству с человеком они вполне могут их изображать. Это внушает страх: появилось кто-то или что-то столь похожее на человека и одновременно для него опасное.

Ученые, работающие в области создания и программирования искусственного интеллекта, также забеспокоились. Т.В. Черниговская – специалист в области нейронауки, теории сознания и психолингвистики пишет об искусственном интеллекте: «…Сегодня уже стоит бояться того, что, если у искусственного интеллекта появится сознание, наши планы, скорее всего, с его планами не совпадут» [2, 8].

Посмотрим, в чем человечество уже проиграло машине? Первое – это скорость. Обученная машина играет в шахматы быстрее человека. Соревнования проводили на протяжении долгого времени, и результаты изначально были разные, но вот Deep Blue, наконец, обыграл Гарри Каспарова. Конечно, болельщики Каспарова могут утешиться тем, что машина специально была «заточена» под гроссмейстера и «знала» о нем все: его ходы, стили игры и так далее. К тому же, компьютер не устает и не нервничает. Его не останавливает сложность игры, давление окружения, статуса и ответственности, эмоциональное состояние.

Человек проигрывает и по физиологическим характеристикам. Понятно, что машина гораздо более, чем человек, устойчива к некачественной еде, плохой экологии и отсутствию воздуха.

Черниговская отмечает, что программы побеждают уже не только шахматную логику. В таких «творческих» и спонтанных играх, как го и покер также одержаны победы (AlphaGo и AlphaZero в го и Libratus в покере) [2, 8]. И это происходит как раз не потому, что машины способны распознать «покер фэйс» противника. Им это и не нужно, просто они лучше играют.

«Скоростные лифты» научно-технического прогресса конца ХХ и начала ХХI века, которые подняли нас до уровня мира, объединенного в единое целое, сделали доступным многое, например, как изготовить бомбу «из ничего». Возникает вопрос, а меняется ли так быстро, как технологии, наше сознание, которое может притормозить угрозу изготовления бомбы в кружке «умелые руки»?

Исследователь цивилизационных изменений А.П. Назаретян предостерегает, что сегодняшние темпы технического развития еще не предельны. В недалеком будущем скорость изменения может возрасти до бесконечности. Серия расчетов, проведенных независимо исследователями Австралии, России и США, показала, что прыжок случится около середины ХХI века. Произойдет «беспрецедентная по значению глобальная полифуркация». [3, с. 755]. Этот вывод получен путем перенесения в будущее логарифмического закона ускорения, который характеризует важные этапы в истории биосферы и антропосферы земли на протяжении 4 млрд лет. Такое стремительное ускорение получило название «сингулярность» – бесконечное возрастание мощи техники за бесконечно малое время. Сингулярность может полностью изменить ход жизни на земле. Поэтому, чем выше мощь технологий, тем более совершенные средства внутренней человеческой регуляции необходимы для сохранения общественного равновесия.

А.П. Назаретян анализирует, как человечество преодолевало предыдущие кризисы: «По мере того, как мощь орудий и демографическая плотность возрастали, культура совершенствовала средства сублимации агрессии для адаптации к растущим разрушительным возможностям» [3, с. 758]. То есть человечество старалось различными путями осознавать и контролировать те мощные изобретения, которые оно творило. И главное из них – поддержание мира. Некоторый спад внешней агрессии на политической арене в конце ХХ века, который так порадовал специалистов по исследованию цивилизаций, сменился новым скачком в стремлении развязать «маленькую победоносную войну» в первом десятилетии ХХI века. Во время приближения к точке сингулярности, когда время, за которое происходят научно-технические прорывы, стремится к нулю, а сами изменения – к бесконечности, стремление к любой войне может стать последним моментом перед тем, как во всем мире «выключат свет». В этой ситуации возникает запоздалый, но правомерный вопрос: бесконечна ли способность человеческого сознания к внутренней регуляции? Или по-другому: так же ли она бесконечна, как бесконечна способность «искусственного интеллекта» к обучению самоусложнению?

Еще одним опасным фактором, который может усилить приближение планетарной катастрофы, исследователи считают ослабление генетического отбора. Если сравнить, какое количество детей доживали до взрослого возраста в начале ХХ века и в начале ХХI, получится неутешительная для естественного отбора, хотя и гуманная картина. В Англии начала прошлого века в семьях с тремя-пятью детьми до 28-летнего возраста в среднем доживал один ребенок. А что происходит сейчас? Современная медицина спасает многих, даже рождающихся с тяжелыми наследственными заболеваниями. Природе не позволяют «включить» естественный отбор, и это гуманно, но сам человек считает себя в праве изменять

природу так, как ему удобно. Появляются генномодифицированные продукты. Химическое воздействие на мир возрастает, некоторые виды животных и рыб существуют только в искусственной среде обитания. Овощи и фрукты растут на земле, подвергнувшейся неоднократным химическим атакам пестицидов. Экологические катастрофы, отходы производства меняют климат нашей планеты. Наконец, подходят к концу запасы пресной воды. Кажется, что в таких условиях в будущем человеку трудно будет обойтись без вмешательства генной инженерии, которая вплотную займется усовершенствованием и приспособлением его к новой окружающей среде. А разрешение такого вмешательства сразу разворачивает нас лицом к возможному созданию биороботов и «людей-машин». Придется устанавливать, где в них начинается и заканчивается человеческое. Современная фантастика уже с удовольствием обсуждает такие возможности. Так Ханну Райаниеми, доктор наук в области теории струн, написал фантастический роман «Квантовый вор», где в качестве главного героя показывает человека, способного перемещаться в любом теле, пригодном для помещения его разума. Даже внутри робота или другого человека, если они позволяют подавить собственное сознание [9]. Фактически речь идет уже не о человека как таковом, а о его сознании, путешествующем в скафандре из компьютера или биокомпьютера по космосу. Мир «Квантового вора», в отличие от мира роботов Азимова, перестает быть «человекомерным». А Т.В. Черниговская замечает, что «человекомерность» исчезает уже сейчас. «В научном обороте появились единицы измерения, несопоставимые с человеческим телом физически, например, наносекунды, нанометры» [2, 9].

Совсем недавно мы впервые «познакомились» с маленьким симпатичный летающим аппаратом, который называется «квадрокоптер». И не успели мы к нему привыкнуть, как его запретили к использованию. Ведь эта маленькая «игрушка» способна нанести увечье или даже убить человека. А кто будет виноват? Особенно, если это случайность. Купить квадрокоптер с камерой, «недорогой и хороший», через Интернет возможно и сейчас. Вероятно, нетрудно найти информацию по созданию к нему небольшой пушки. Вопросы о праве, морали и этике в этом случае необходимо не только поднимать, но и дорегулировать, так как внутри мира машин нашей человеческой этики просто не существует. Возможно, следует вспомнить законы роботехники, усовершенствовать их и внедрять в программу создаваемого «искусственного интеллекта». Правда, никто не сможет гарантировать нам, что с помощью новых технологий не будет создан «суперинтеллект», способный обойти все внедренные запреты.

Страх человека перед таким развитием событий можно считать в какой-то мере экзистенциальным, так как мы и машины слишком разные. Но даже, если мы напишем, внедрим и будем всячески контролировать кодекс законов искусственного интеллекта, останется еще один важный вопрос, который не оставит нас как человечество в покое. Если мы доверимся «искусственному интеллекту», полностью «переложим» на него свои дела и обязанности, с чем мы сами останемся? Как продолжим тренировать свои тела и умы?

Уже сейчас есть поколения интернет-зависимых людей, у которых происходят изменения в мозге, сравнимые с изменениями алкоголиков и наркозависимых. Можно приводить много причин, почему современному человеку общение в сети больше нравится, чем живое. Например, очень многие люди в виртуальной коммуникации воплощают свои надежды и мечты, не решаясь реализовать их в реальности. Удовольствие от общения переносится в интернет, где появляются новые виртуальные друзья и целые сообщества. Интернет-коммуникация помогает удовлетворить социальные потребности и одновременно избегать трудностей, которые могли бы возникнуть от реального контакта. Кстати, такой контакт постепенно становится и не нужным, иногда даже опасным. И реальность для таких людей отмирает. Современные «затворники» не выходят из дома вообще или выходят только ночью. В Японии их стало так много, что они получили свое название – «хикикомори». В некоторых городах Японии их число достигло 10 % и более. Ответы на вопрос, почему эти люди не выходят из дома, самые разные. От «ненавижу других», до «мне и так хорошо». Исследователь темы Хироюки Ота пишет о хикикомори: «Они не ищут работы на протяжении многих лет, им не удается установить отношения с другими людьми, обзавестись семьей» [7]. Действительно, хикикомори не только не общаются с чужими людьми на улице, но зачастую не разговаривают даже с родителями. Молодой японец 27 лет заперся на кухне и перестал пускать туда родителей, те построили себе новую кухню и продолжают его кормить. Многие специалисты считают, что таких людей следует лечить. Примерно так же, как и интернет-зависимых, тех, кто полностью перешел в виртуальный мир и остался там.

В компьютерном поле игры, которое так притягивает зависимых от него людей, тоже есть смоделированные «вызовы» и трудности, но они отличаются от реальных. Они также могут требовать ловкости, знания, умения – тех качеств, которых пока еще ожидает от человека реальная жизнь. Но человек, сидящий за компьютером, не рискует своей жизнью, а только, возможно, здоровьем и деньгами, если он играет в компьютерные игры профессионально. А в реальном мире есть опасность быть отвергнутым или умереть. С дальнейшим техническим совершенствованием компьютерных игр виртуальный мир становится разнообразнее и в какой-то мере удивительнее реального. В ММОРПГ – массовой многопользовательской ролевой игре – игроки встречаются с различными персонажами, иногда делают их друзьями или врагами и проживают такие события, которые трудно себе представить в реальности. С другой стороны, многие из тех качеств, которыми участники «блещут» на разных уровнях сложности в игре, применить в жизненной практике невозможно. Однако развивает ли наш разум поле игры? Становимся ли мы лучше, играя в компьютерные игры?