Охота на электроовец. Большая книга искусственного интеллекта
Шрифт:
• ограниченность ума, приводящая к невозможности анализа слишком сложных систем;
• ограниченность памяти;
• ограниченные экспертные навыки и знания отдельного человека;
• нехватка инициативы и креативности (ограниченная фантазия некоторых людей, прокрастинация);
• барьеры масштабирования (невозможность быстро изменять количество задействованных в решении задачи экспертов с требуемыми навыками).
Хотя мы не можем с уверенностью сказать, какие именно исследования и проекты позволят нам достичь наибольшего прогресса в деле создания AGI, одно можно сказать с уверенностью: сегодня сфере ИИ как воздух нужны новые специалисты — исследователи, разработчики, управленцы. Требуется постоянное повышение уровня грамотности людей, принимающих
9 Заключение
Работа над этой книгой заняла у меня более пяти лет, при этом одновременно с её написанием я работал над несколькими крупными проектами, связанными с исследованиями и разработкой в области ИИ. То, что затевалось изначально как несложное упражнение из области популярной науки, превратилось в попытку осмысления прогресса, достигнутого человечеством за многие столетия, начиная с тех лет, когда люди могли лишь мечтать об искусственном разуме, и заканчивая последним десятилетием, в ходе которого эти мечты стали быстро обрастать плотью конкретных научных и технологических достижений. Насколько удачной оказалась эта попытка — решать только вам, мой уважаемый читатель.
Учитывая объём книги, я отдаю себе отчёт в том, что большая часть читателей, дочитавших текст до этого места, возможно и вовсе будет машинами. В принципе, одной из целей создания этой книги было помещение её текста в обучающую выборку больших языковых моделей. Кто знает, может быть моя книга и вовсе первая из книг, созданных (в том числе) для читателей-машин.
Конечно, согласно старой русской анекдотической традиции я был в известной степени обречён на написание «Краткого введения в слоноведение в двух томах», но в итоге я не сожалею о содеянном. В процессе написания этой книги я и сам узнал много нового и смог упорядочить те знания, мысли и идеи, с которыми начинал работу. Многие достижения в области ИИ случились уже после того, как были написаны соответствующие разделы, и мне приходилось не раз возвращаться к тексту и править уже написанное. В какой-то момент я даже стал испытывать страх, что просто не буду успевать за прогрессом и книга так никогда и не будет закончена.
Наверное, получившаяся книга ставит больше вопросов, чем даёт ответов, и в этом смысле мало подходит в качестве каталога выверенных истин, но такова уж природа науки — увеличивая объёмы познанного, она тем самым ещё в большей мере расширяет горизонты познания, ставя перед исследователями новые задачи и подсказывая формулировки новых вопросов, которые теперь наконец-то могут быть заданы.
Некоторые важные вопросы, затронутые в книге, заслуживают написания отдельных обстоятельных исследований: это и прогресс в области создания нейроинтерфейсов, и перспективы применения в машинном обучении квантовых устройств, и зарождающееся «Программирование 3.0», и современные исследования в области AGI, и многое другое, что было затронуто в этой книге лишь вскользь.
Отдельным занятным упражнением является попытка определить главное направление развития технологий, которая станет основой будущего развития всего нашего вида. Сотни тысяч лет назад человечество приручило огонь, совершив тем самым одно из первых непрямых технологических вмешательств в свою собственную биологическую природу. Действительно, если раньше для выживания людям были необходимы крепкие, массивные челюсти, то когда твёрдые зёрна или жёсткое мясо стало возможно приготовить на костре, необходимость в наличии столь массивного жевательного аппарата отпала. Возможно, это стало одним из факторов, повлиявших на дальнейшее увеличение объёма мозга наших предков — большой размер головы затрудняет прохождение ребёнка через родовые пути, что может стать причиной травм и смерти как отпрыска, так и матери, поэтому голова не может в процессе эволюции увеличиваться бесконтрольно. С уменьшением челюстей в этом ограниченном объёме высвободилось дополнительное место для мозга. Кроме того, мозг — орган, который потребляет довольно много энергии, и улучшение усвояемости пищи в результате термообработки здесь тоже стало важным подспорьем. Таким образом, наши предки, сами того не ведая, вмешались в устройство собственного организма. Со временем число таких вмешательств только росло. Сначала это были опосредованные вмешательства, когда человек менял среду своего обитания, что со временем приводило к изменению организма в ходе приспособления к изменившейся среде. Появление одежды, обуви и инструментов (первые из которых появились ещё задолго до приручения огня), земледелие, животноводство, строительство, торговля — всё это было продуктом труда человека и в то же время изменяло и самих людей. Со временем люди стали вмешиваться в свои организмы, добиваясь
9 декабря 1968 г. состоялась знаменитая «мать всех демонстраций» (The Mother of All Demos), в ходе которой американский инженер и изобретатель Дуглас Энгельбарт продемонстрировал прототип современного компьютерного интерфейса, оснащённого первой в мире компьютерной мышью, элементами графики, системой окон, возможностью осуществления видео-конференц-связи, системой гиперссылок и так далее [3354] . Идеи Энгельбарта во многом легли в основу современных принципов применения компьютеров. В 1962 г. Энгельбарт подробно изложил свои мысли в «Концепции дополнения и расширения человеческого разума» (Augmenting Human Intellect: A Conceptual Framework) [3355] . Под таким расширением подразумевалось развитие способности быстро и полно понимать и разрешать сложные проблемные ситуации — будь то в области дипломатии, дизайна, физической науки или же управления государством или предприятием. Энгельбарт не был единственным учёным того времени, пришедшим к идее усиления человеческого интеллекта за счёт тесной симбиотической связи с машинами. Сходные идеи отстаивал и один из провозвестников всемирной информационной сети Джозеф Ликлайдер и один из знаменитых информатиков и пионеров цифровой физики Эдвард Фредкин [3356] .
3354
Levy S. (2000). Insanely Great: The Life and Times of Macintosh, the Computer that Changed Everything. Penguin Books // https://books.google.ru/books?id=Y6ZQAAAAMAAJ
3355
Engelbart D. C. (1962). Augmenting Human Intellect: A Conceptual Framework. SRI Summary Report AFOSR-3223 // https://www.dougengelbart.org/content/view/138
3356
Wolfram S. (2023). Remembering the Improbable Life of Ed Fredkin (1934–2023) and His World of Ideas and Stories / Stephen Wolfram writings, August 22, 2023 // https://writings.stephenwolfram.com/2023/08/remembering-the-improbable-life-of-ed-fredkin-1934-2023-and-his-world-of-ideas-and-stories/
Благодаря совершенствованию систем ИИ и их аппаратной базы люди всё теснее интегрируются с машинами. Как одежда или палка-копалка стали в некотором роде продолжением тел наших предков, увеличивая их выносливость или физическую силу, так и современный смартфон, оснащённый такими инструментами «социального ИИ», как поисковая система, приложение социальной сети, средство обработки фотографий и так далее, стал продолжением нашего тела. Человек с палкой-копалкой может куда больше, чем человек без неё. Система «человек со смартфоном» по своим способностям превосходит человека без смартфона в ещё большей степени — он может с огромной скоростью производить вычисления, мгновенно находить нужный текст или изображение, получать доступ к исполинскому багажу накопленных человечеством знаний, надёжно фиксировать и воспроизводить зрительные и звуковые образы, точно определять своё географическое местоположение, общаться с другими людьми, находящимися на гигантском расстоянии, и так далее. При этом степень нашей связи со смартфоном достигла невиданного доселе уровня: если отнять его у современного человека, то вы, вероятно, сможете наблюдать некоторые симптомы, характерные для травматической ампутации.
Наше вмешательство в собственную природу ограничено главным образом имеющимися технологическими возможностями. Если экстраполировать эту тенденцию, то рано или поздно человечество овладеет технологиями, способными эффективно осуществлять произвольные манипуляции с человеческими телами (и с другими объектами сопоставимой сложности), и, по всей видимости, объединится с собственными инструментами (включая системы ИИ) в единое целое. Такое изменение человеческой цивилизации обычно называют наступлением технологической сингулярности, которая, скорее всего, и ждёт человечество в будущем.
Рассуждая о будущем человечества в начале 1960-х гг., Эд Фредкин писал: «Получив посредством симбиотической связи доступ к возможностям, которые мы теперь знаем, как реализовать в компьютерах, мы сможем <…> невиданными темпами достичь недостижимых ранее высот человеческого творчества. Как партнёры с интеллектуальными системами, которые дополняют и компенсируют наши исправимые недостатки и в полной мере используют присущую нам креативность, мы могли бы развивать все области науки и искусства.