Охота на электроовец. Большая книга искусственного интеллекта
Шрифт:
Голем был не единственным огромным боевым человекоподобным роботом в человеческой мифологии. За тысячи лет до него воображение древних греков будоражили сказания о гигантском бронзовом роботе Талосе, искусственной женщине Пандоре и их создателе боге Гефесте.
«Наша способность представлять искусственный интеллект восходит к древним временам, — говорит историк античной науки Адриенна Майор. — Задолго до того, как технический прогресс сделал возможными самодвижущиеся устройства, идеи о создании искусственной жизни и роботов были исследованы в древних мифах».
Впервые темы искусственного интеллекта, роботов и самодвижущихся объектов появляются в работах древнегреческих поэтов Гесиода и Гомера, которые жили где-то между 750 и 650 гг. до н. э. История Талоса, которую Гесиод впервые упомянул около 700 г. до н. э., представляет собой одну из самых ранних концепций робота.
Миф описывает Талоса как гигантского
Сквозь тело гиганта — от головы до одной из ног — проходила вена, несущая таинственный божественный источник жизни, который греки называли ихором. Другой древний текст, поэма «Аргонавтика» (???????????), датируемый III в. до н. э., описывает, как колдунья Медея победила Талоса, вынув медный гвоздь на его лодыжке, в результате чего ихор вытек из вены — и жизнь оставила гиганта.
Ещё один пример мифического искусственного существа — Пандора, первое упоминание о которой встречается в «Теогонии» Гесиода. Хотя более поздние версии мифа изображают Пандору невинной женщиной, которая неосознанно открыла ящик со злом, у Гесиода Пандора — это злая искусственная женщина, созданная Гефестом и посланная по приказанию Зевса на землю, чтобы наказать людей за похищение огня.
По словам Майор, «можно утверждать, что Пандора была своего рода ИИ-агентом. Её единственная миссия заключалась в том, чтобы проникнуть в человеческий мир и открыть сосуд с несчастьями».
Помимо Талоса и Пандоры, Гефест создал и другие человекоподобные машины. Например, автоматических слуг, которые выглядели как женщины, но были сделаны из золота. Согласно Гомеру Гефест дал этим искусственным женщинам знания богов.
Майор отмечает, что ни в одном из этих мифов отправка искусственных существ на землю не заканчивается добром. Можно сказать, что лейтмотивом античных сказаний об искусственных существах является мысль о том, что неплохо, когда такие существа используются богами, но как только эти продукты божественной технологии взаимодействуют с людьми, мы получаем хаос и разрушение [3053] , [3054] .
Развитие механических вычислительных машин в XIX в. с новой силой пробудило страхи людей перед развитием технологий. Вот, к примеру, что писал в 1847 г. преподобный Ричард Торнтон, редактор религиозного журнала Primitive Expounder [Простой Толкователь]: «Ум… опережает сам себя и расправляется с необходимостью собственного существования, изобретая машины, которые должны вместо него мыслить… Как знать, однако, не замыслят ли таковые машины, будучи доведены до большого совершенства, устранить все свои недостатки, а затем напечь идеи, недоступные разуму простого смертного!» [3055] , [3056]
3053
Shashkevich A. (2019). Greek myths have some scary ideas about robots and A.I / Futurity, March 5th, 2019 // https://www.futurity.org/artificial-intelligence-greek-myths-1999792/
3054
Mayor A. (2020). Gods and Robots: Myths, Machines, and Ancient Dreams of Technology. Princeton University Press // https://books.google.ru/books?id=2cy4DwAAQBAJ
3055
Thornton R. (1847). The Age of Machinery / Primitive Expounder, Devoted to Theoretical and Practical Religion, Expounded in Its Primitive Purity, Excellence and Loveliness by R. Thornton & J. Billings, Vol. 4 // https://books.google.ru/books?id=ZM_hAAAAMAAJ
3056
Рассел С. (2021). Совместимость: как контролировать искусственный интеллект. — М.: Альпина нон-фикшн // https://www.google.ru/books?id=OacEEAAAQBAJ
В 1863 г., через четыре года после того, как Чарльз Дарвин опубликовал «Происхождение видов», писатель Сэмюэл Батлер под псевдонимом Cellarius в статье «Дарвин среди машин» (Darwin among the Machines) [3057] высказал идею о том, что эволюционирующие машины рано или поздно вытеснят человечество как доминирующий вид. Батлер предлагал немедленно уничтожить все машины, чтобы избежать этого печального исхода. Он писал:
Мы имеем в виду вопрос: какими скорее всего будут существа, которые станут доминирующим видом на Земле после людей. Мы часто слышали об этом споре; но нам кажется, что мы сами создаём собственных преемников; мы ежедневно добавляем красоту и тонкость их физической организации; мы ежедневно наделяем их большим могуществом и с помощью всевозможных изобретательных приспособлений снабжаем их той саморегулирующейся, самодействующей силой, которая будет для них тем же, чем стал интеллект для человеческого рода. С течением времени мы обнаружим себя в роли низшей расы. <…> День ото дня машины набирают силу; день ото дня мы становимся более подчинёнными им; всё больше людей
3057
Cellarius (1863). Darwin Among the Machines[To the Editor of the Press, Christchurch, New Zealand, 13 June, 1863.] // http://nzetc.victoria.ac.nz/tm/scholarly/tei-ButFir-t1-g1-t1-g1-t4-body.html
Статья заканчивается пламенным призывом: «Против них должна быть немедленно объявлена смертельная война. Каждую машину любого рода должен уничтожить тот, кто желает добра своему виду. Пусть не будет никаких исключений, ни на йоту; давайте же немедленно вернёмся к первобытному состоянию нашей расы».
В 1872 г. Батлер (вновь анонимно) публикует сатирический роман-антиутопию под названием «Егдин, или За пределом» (Erewhon: or, Over the Range) [3058] (слово Erewhon, обозначающее вымышленную страну, в которой происходят действия романа, это анаграмма слова nowhere, т. е. «нигде», поэтому по-русски её иногда передают как «Егдин»). В этом романе машиноненавистнические идеи Батлера получают дальнейшее развитие. В 1901 г. выходит продолжение романа под названием «Спустя двадцать лет первооткрыватель страны и его сын возвращаются в Егдин» (Erewhon Revisited Twenty Years Later, Both by the Original Discoverer of the Country and by His Son) [3059] . Именно в честь Батлера автор вселенной «Дюны» писатель Фрэнк Герберт назвал крестовый поход человечества против компьютеров, мыслящих машин и наделённых разумом роботов Батлерианским джихадом [3060] .
3058
Butler S. (2017). Erewhon, Or Over the Range. CreateSpace Independent Publishing Platform // https://books.google.ru/books?id=d6x9tAEACAAJ
3059
Butler S. (2019). Erewhon Revisited Twenty Years Later, Both by the Original Discoverer of the Country and by His Son. Good Press // https://books.google.ru/books?id=8sPCDwAAQBAJ
3060
Hsu S. (2016). The Butlerian Jihad and Darwin among the Machines / Michigan State University, Spartan Ideas, March 29, 2016 // https://spartanideas.msu.edu/2016/03/29/8624/
7.1.2 Текущая оценка опасности развития ИИ
Воззрения Батлера можно было бы счесть курьёзом и отнести к страху перед машинами, появившемуся в период стремительного индустриального прогресса XIX в. Но поскольку развитие науки и техники не останавливалось, то идеи восстания машин ещё не раз возникали в искусстве. Однако ранее они носили теоретический характер, относясь к обсуждению рисков далёкого будущего. Сейчас же, ввиду прогресса в области ИИ, этот вопрос всё более волнует широкую публику.
Что же говорят об опасности развития ИИ учёные и IT-специалисты?
Роман «Егдин» был знаком Тьюрингу, который упоминал его в лекции 1951 г., посвящённой долгосрочным прогнозам развития машинного интеллекта: «Представляется возможным, что, когда методы машинного рассуждения заработают, не потребуется много времени, чтобы превзойти наши слабые силы. Перед машинами не будет стоять проблема умирания, и они смогут общаться друг с другом, изощряя свой ум. Таким образом, на каком-то этапе нам следует ожидать, что машины возьмут власть, как это описывается в „Егдине“ Сэмюэла Батлера» [3061] .
3061
Turing A. (1951). Intelligent Machinery, A Heretical Theory // http://www.turingarchive.org/browse.php/B/4
В том же году Тьюринг вернулся к этому вопросу в выступлении на радио Би-би-си: «Если машина умеет мыслить, то может мыслить разумнее нас, и что тогда ждёт нас? Даже если мы сумели бы удержать машины в подчинённом положении, например отключив питание в критический момент, мы как биологический вид чувствовали бы себя совершенно униженными… Эта новая опасность… безусловно, заслуживает того, чтобы из-за неё тревожиться» [3062] , [3063] , [3064] .
3062
Russell S. (2019). Human Compatible: AI and the Problem of Control. Penguin UK // https://books.google.ru/books?id=Gg-TDwAAQBAJ
3063
Turing A. (1951). Intelligent Machinery, A Heretical Theory / Copeland J. B. (2004). The Essential Turing: The ideas that gave birth to the computer age. Clarendon Press // https://books.google.ru/books?id=VlC5MkVIwqkC
3064
Рассел С. (2021). Совместимость: как контролировать искусственный интеллект. — М.: Альпина нон-фикшн // https://www.google.ru/books?id=OacEEAAAQBAJ