Футурология
Шрифт:
ИИ изменит ситуацию в военном деле, превратив его в интеллектуальную игру непостижимой сложности. В каком-то смысле холодная война тоже была такой позиционной игрой возможностей. Ситуация конфликта нескольких глобальных ИИ на Земле может быть очень опасной. В то же время ИИ сможет обеспечить невиданный ранее уровень безопасности, контролируя любые возможные опасные последствия.
Усиление интеллекта и ИИ
Ключом к идее о технологической сингулярности являются возможности ИИ, а если говорить точнее — резкий рост интеллекта вообще.
Вся история жизни и человечества — это история роста интеллекта, его самооптимизации.
Под интеллектом мы имеем в виду самое общее определение — процесс оптимизации будущего для достижения поставленной цели.
Возьмем, например, игру в шахматы — оптимизация будет состоять в выборе из всего множества ходов той комбинации, которая ведет к выигрышу.
Определение интеллекта через оптимизацию позволяет уйти от разговоров о природе сознания. Кроме того, мы определяем интеллект через результат его работы, но способы оптимизации могут быть разными.
Самый элементарный способ оптимизации — простой перебор, когда все возможные варианты сравниваются с неким заданным заранее критерием. Развитие интеллекта состоит в обнаружении способов сокращения и ускорения перебора.
Первые биологические молекулы возникли путем простого перебора. Затем они стали эволюционировать за счет мутаций. Эффективность мутаций заключалась в том, что в окрестностях одного неплохого решения вероятны еще более удачные решения. А мутации как раз позволяют прощупать соседние решения. Это все происходило еще в РНК-мире, когда эволюционировали отдельные молекулы.
Затем, вероятно, стали выживать наиболее быстро размножающиеся молекулы, что позволило ускорить перебор. Потом молекулы-репликаторы объединились в группы. Так возникли клетки, в которых оптимизация совершенствовалась за счет того, что новое решение искалось через комбинацию нескольких хороших старых решений. И на этом этапе важную роль играл обмен генетическим материалом между клетками.
Очередной этап эволюции привел к росту сотрудничества между клетками. В результате появились эукариоты — клетки со сложными органеллами и ядром, а затем и многоклеточная жизнь.
Следующий этап был связан с появлением пола, который ускорял тестирование разных вариантов. По одной из гипотез, у мужских особей эволюция могла происходить быстрее, поскольку они переживали больше рискованных мутаций. Но это не угрожало выживанию вида, которое зависит от числа выживших самок, а не самцов.
Итак, каждая революция в развитии жизни на Земле состояла в появлении нового способа оптимизации, который был «искусственным интеллектом» по сравнению с предыдущим.
Хотя способы, с помощью которых эволюция оптимизировала сама себя, до сих пор точно неизвестны, сам факт ее самооптимизации налицо — он проявляется во все более быстром эволюционном развитии. Таким образом, можно предположить, что самоусиление является естественным свойством интеллекта, потому что всегда ведет к выигрышу в решении задач.
При этом интеллект эволюции как глобального процесса развития всего живого имеет распределенный характер и является свойством всей биосферы.
И по своим результатам этот интеллект является сверхчеловеческим,
Однако затем стали развиваться способы усиления интеллекта с помощью машин. Появились компьютеры как вычислители, появился Интернет как среда обмена информацией и идеями, появился венчурный капитализм как способ организации деятельности, ведущей к наиболее быстрому отбору наиболее эффективных решений. При этом роль интеллекта отдельного человека стала снижаться. Если бы некая идея не пришла в голову кому-то одному, она пришла бы другому через год.
В результате мы видим естественный процесс перехода основного носителя интеллекта от генетического кода к мозгу, состоящему из нейронов, а от них к человеческим организациям (в том числе научным) и компьютерам. При этом эффективность этого интеллекта как способа решения задач повышается на порядок с каждым таким переходом. Более того, интеллект все более нацеливается на самосовершенствование, поскольку теперь он обладает рефлексией и понимает, что лучше потратить часть времени на обучение, улучшение вычислительной базы, наем более производительных сотрудников или разработку новых алгоритмов, чем сразу браться за решение трудноразрешимой задачи.
Итак, нет ничего удивительного в том, что рано или поздно интеллект окажется на компьютерной базе, и при этом он будет в значительной мере нацелен на самосовершенствование и превосходить современный человеческий интеллект многократно — это продолжение того же эволюционного процесса, который создал самого человека.
Уже сейчас мы видим процесс интеграции отдельных людей в единую «нейронную сеть» через социальные сети и другие приложения Веб 2.0 в духе Википедии. Одновременно этот процесс требует все большей интеграции каждого отдельного человека с компьютером.
Мы можем говорить о суммарном интеллекте человечества как о той способности к оптимизации, которой оно обладает.
Мы видим также, что власть пропорциональна количеству возможных изменений в управляемом субъекте и обратно пропорциональна расходу энергии, необходимой для того, чтобы произвести эти изменения.
Власть пропорциональна доступной энергии и способноcти к оптимизации. Отсюда следует, что больший интеллект в целом обладает большей властью.
Наполеон завоевал пол-Европы только за счет управления, то есть своих речей и команд.
Дальнейший рост глобального интеллекта зависит от открытия и применения новых методов оптимизации.
Другой путь создания «ИИ» состоит в усилении человеческого интеллекта.
Три пути усиления человеческого интеллекта
Путь
Основное содержание
Пример
Подробности
1. Путь наружу
Все более эффективное объединение групп людей для совместной интеллектуальной деятельности