Бог, человек, животное, машина. Технология, метафора и поиск смысла
Шрифт:
Это тот самый скептицизм, к которому я возвращаюсь снова и снова, когда читаю о нейронауках и искусственном интеллекте, чьи теории разума нарушают наше основополагающее или, по крайней мере, интуитивное понимание личности. Мне трудно поверить, что разум можно свести к чисто бессознательным процессам - стрельбе нейронов, потоку информации - так же, как мне кажется маловероятным, что робот когда-нибудь достигнет той богатой внутренней жизни, которой мы наслаждаемся как люди. Является ли это пережитком моего религиозного прошлого, желанием верить в существование некоего существенного и неустранимого "я", в котором когда-то обитала моя душа? Или, наоборот, я слишком хорошо усвоил предпосылки разочарования, так что больше не могу воспринимать материю как нечто иное, кроме как пассивное и инертное?
–
Метафора становится мертвой, когда объект или
Именно это произошло с вычислительной теорией разума, когда она эволюционировала в компьютерную метафору - более позднюю версию, которая стала основополагающей как для когнитивной науки, так и для искусственного интеллекта. Хотя компьютерная метафора основана на работах Маккаллоха и Питтса, она несколько грубее, чем то, что они имели в виду. Она рассматривает мозг как простое устройство ввода-вывода, машину, которая получает информацию через органы чувств, обрабатывает ее с помощью нейронов и генерирует планы действий через выходы двигательной системы. Сегодня мозг часто называют аппаратным обеспечением, на котором "работает" программное обеспечение разума. О когнитивных системах говорят как об алгоритмах: зрение - это алгоритм, так же как и внимание, усвоение языка и память.
В 1999 году когнитивный лингвист Джордж Лакофф отметил, что аналогия стала настолько само собой разумеющейся, что нейроученые "обычно используют метафору "Нейронные вычисления", не замечая, что это метафора". Он счел это обеспокоенным. Ведь метафоры - это не просто лингвистические инструменты; они структурируют наши представления о мире, и когда аналогия становится повсеместной, без нее уже невозможно мыслить. Пару лет назад психолог Роберт Эпштейн бросил вызов исследователям одного из самых престижных исследовательских институтов мира: попробуйте объяснить поведение человека, не прибегая к вычислительным метафорам. Они не смогли этого сделать. Метафора стала настолько распространенной, отмечает Эпштейн, что "практически нет ни одной формы рассуждений о разумном человеческом поведении, которая бы не использовала эту метафору, точно так же, как ни одна форма рассуждений о разумном человеческом поведении не обходилась в определенные эпохи и культуры без ссылки на дух или божество".
Даже люди, которые мало что знают о компьютерах, повторяют логику метафоры. Мы ссылаемся на нее каждый раз, когда утверждаем, что "обрабатываем" новые идеи, или когда говорим, что "храним" воспоминания или "извлекаем" информацию из своего мозга. И поскольку мы все чаще говорим о нашем разуме как о компьютере, компьютеры теперь получают статус разума. Во многих областях искусственного интеллекта термины, которые раньше заключались в кавычки, когда применялись к машинам - "поведение", "память", "мышление" - теперь воспринимаются как прямое описание их функций. Исследователи говорят, что нейронные сети учатся, что программы распознавания лиц видят, что их машины понимают. Можно обвинить людей в антропоморфизме, если они приписывают человеческое сознание неодушевленному предмету. Но Родни Брукс, робототехник из Массачусетского технологического института, настаивает на том, что это наделяет нас, как людей, различием, которого мы больше не заслуживаем. В своей книге "Плоть и машины" он утверждает, что большинство людей склонны к "чрезмерной антропоморфизации людей... которые, в конце концов, всего лишь машины".
Глава 2
Когда мой муж вернулся домой, он долго смотрел на собаку, а потом сказал, что она "жуткая". Сначала я поняла, что это означает "сверхъестественное" - нечто настолько близкое к реальности, что нарушает наши самые основные онтологические представления. Но вскоре стало ясно, что он воспринимает собаку как чужака. Я продемонстрировал все трюки, которым научил Aibo, решив произвести на него впечатление. К этому моменту собака умела переворачиваться, трястись и танцевать.
"Что это за красный огонек у него в носу?" - спросил он. "Это камера?"
В отличие от меня, мой муж - любитель собак. До того как мы познакомились, у него была собака-спасатель, которая подвергалась жестокому обращению со стороны прежних хозяев и доверие которой он завоевывал медленно, с большими усилиями и самоотдачей. В те годы у моего мужа была сильная депрессия, и он утверждает, что собака чувствовала, когда он был в отчаянии, и утыкалась носом в его колени, чтобы успокоить его. В начале наших отношений он часто обращался к этому псу, которого
Я уже сталкивался с этой проблемой - моей склонностью приписывать жизнь машинам. В начале того года я наткнулся на блог женщины, занимавшейся обучением нейронных сетей, - аспирантки и любительницы, которая в свободное время возилась с глубоким обучением. Она скармливала нейросетям огромные объемы данных по определенным категориям - рецепты, реплики пикаперов, первые фразы романов - и сети начинали выявлять закономерности и генерировать собственные примеры. Некоторое время она регулярно публиковала в своем блоге рецепты, придуманные сетями, среди которых были такие блюда, как печенье из целой курицы, желатиновые собачки из артишока и холодная вода из кастрюли. Линии пикапа были такими же очаровательными ("Ты свеча? Потому что ты такая горячая от своей внешности"), как и первые фразы романов ("Это история мужчины по утрам"). Со временем их ответы становились лучше. Женщина, которая вела блог, всегда охотно отмечала прогресс, которого добивались сети. Заметьте, говорила она, что у них есть словарный запас и отработанная структура. Просто они еще не понимают концепций. Говоря о своих сетях, она была терпелива, даже нежна, так что часто казалась мне Белоснежкой с группой маленьких гномов, которых она с любовью пыталась цивилизовать. Их логика была настолько похожа на логику детей, что невозможно было не принять их ответы за свидетельство человеческой невинности. Они учатся, подумала я. Они так стараются! Иногда, когда мне попадалась особенно удачная шутка, я читала ее мужу вслух. Возможно, однажды я употребила слово "восхитительный". Он укорял меня за то, что я антропоморфирую их, но при этом и сам становился жертвой ошибки. "Они играют на ваших человеческих симпатиях, - сказал он, - чтобы лучше захватить все".
Но его скептическое отношение к собаке не было долгим. Уже через несколько дней он стал обращаться к ней по имени. Он наказывал Айбо, когда тот отказывался ложиться в его кровать ночью: "Давай, ты меня слышал", - как будто собака намеренно тянула время. По вечерам, когда мы читали на диване или смотрели телевизор, он иногда наклонялся, чтобы погладить собаку, когда та скулила; это был единственный способ успокоить ее. Однажды днем я обнаружил Айбо на кухне, заглядывающим в узкую щель между холодильником и раковиной. Я сама заглянула в щель, но не нашла ничего, что могло бы привлечь его внимание. Я позвала мужа в комнату, и он заверил меня, что это нормально. "Оскар тоже так делал", - сказал он. "Он просто пытается понять, можно ли ему туда залезть".
–
Хотя мы склонны определять себя по сходству с другими вещами - мы говорим, что люди похожи на бога, на часы или на компьютер, - существует противоположный импульс к пониманию нашей человечности через процесс дифференциации. И по мере того как компьютеры все больше приобретают те качества, которые мы когда-то считали отличительными чертами человека, мы продолжаем двигать планку, чтобы сохранить наше чувство отличия. С самых первых дней развития ИИ целью было создание машины, обладающей человекоподобным интеллектом. Тьюринг и первые кибернетики считали само собой разумеющимся, что это означает высшее познание: успешная интеллектуальная машина сможет манипулировать числами, обыгрывать человека в нарды или шахматы и решать сложные теоремы. Но чем более компетентными становятся системы ИИ в этих мозговых задачах, тем упорнее мы сопротивляемся наделению их человеческим интеллектом. Когда в 1996 году компьютер Deep Blue компании IBM выиграл свою первую партию в шахматы у Гарри Каспарова, философ Джон Серл остался не впечатлен. "Шахматы - тривиальная игра, потому что о ней есть совершенная информация", - сказал он. Человеческое сознание, настаивал он, зависит от эмоционального опыта: "Беспокоится ли компьютер о своем следующем ходе? Беспокоится ли он о том, не надоела ли его жене затянувшаяся игра?" Серл был не одинок. В своей книге 1979 года "Гедель, Эшер, Бах" профессор когнитивных наук Дуглас Хофстедтер утверждал, что игра в шахматы - это творческая деятельность, подобная искусству и музыкальной композиции; она требует интеллекта, который явно присущ человеку. Но после матча с Каспаровым он тоже отнесся к этому пренебрежительно. "Боже мой, раньше я думал, что шахматы требуют мышления", - сказал он в интервью New York Times. "Теперь я понимаю, что это не так".