Охота на электроовец. Большая книга искусственного интеллекта

Марков Сергей Николаевич

Французский священник и поэт Готье де Мец в своём произведении «Образ мира», или «Зеркало мира» (L’Image du monde, ок. 1245), приписывает римскому поэту Вергилию, которого в Средние века считали колдуном, создание собственной головы-оракула. В начале XIV в. в одном из популярных анонимных романов о Лисе Ренаре «Ренар Обманщик» (Renard le Contrefait) эта история пересказывается с новыми подробностями. В частности, упоминается, что голова была сделана из латуни.

Впрочем, реальные успехи в деле создания чат-ботов в Средние века были весьма

скромными: вплоть до 60-х гг. XX в. их было создано всего ноль штук. Конечно, искусные механики смогли создать некоторое количество устройств, способных имитировать звуки человеческой речи (о них мы поговорим немного позже), но первой системой, способной вести хоть сколь-нибудь внятный диалог, стала ELIZA, созданная в 1964–1966 гг. в лаборатории искусственного интеллекта MIT Джозефом Вейценбаумом.

6.3.1.1 ELIZA

ELIZA, получившая своё имя в честь Элизы Дулитл, героини пьесы Бернарда Шоу «Пигмалион», была основана на сопоставлении реплик собеседника с набором шаблонов. При совпадении слов собеседника с шаблоном программа отвечала репликой, сопоставленной данному шаблону, при этом в ответ могли подставляться фрагменты реплики человека. Таким образом, «интеллект» бота состоял из большого набора правил [rule], составляющих в совокупности так называемый сценарий или скрипт [script], написанный на языке SLIP (реализованном в виде расширения языка MAD).

Самый известный сценарий ELIZA под названием DOCTOR в слегка карикатурной форме имитировал работу психотерапевта, использующего метод клиент-центрированной («роджерсовской») психотерапии. Изобретатель этого метода, Карл Роджерс, был известен тем, что в своих ответах пациентам нередко повторял их собственные слова.

Забавно, что имя, данное чат-боту, оказалось в некоторой степени пророческим (дальше — спойлеры!). В пьесе Шоу лондонский профессор фонетики Генри Хигинс берётся на спор сделать из простой цветочницы Элизы Дулитл настоящую леди, обучив её великосветскому произношению. В процессе обучения девушка приобретает чувство собственного достоинства и покоряет высшее общество. Создатели нескольких экранизаций пьесы, а также Алан Лернер — автор сценария мюзикла «Моя прекрасная леди», написанного по мотивам пьесы, — вопреки желанию самого Шоу, добавили в историю романтический финал, в котором Элиза (после ссоры, которая присутствует и в оригинальном произведении) воссоединяется с профессором. Конечно, Вейценбаум не стал вторым Пигмалионом, влюбившимся в свою Галатею, но многие пользователи программы начали очеловечивать её, приписывая ей наличие человеческих чувств и воспринимая её как живого собеседника.

Человек: Все мужчины одинаковы.

ELIZA: В каком смысле?

Человек: Они постоянно достают нас по разному поводу.

ELIZA: Вы можете вспомнить конкретный пример?

Человек: Ну, мой парень заставил меня прийти сюда.

ELIZA: Ваш парень заставил вас прийти сюда?

Человек: Он говорит, что я подавлена большую часть времени.

ELIZA: Мне жаль слышать, что вы в депрессии.

Человек: Это так.

В этот момент секретарша Вейценбаума, которая и была собеседницей Элизы, попросила его выйти из кабинета, поскольку разговор стал слишком личным [2019] .

Многие учёные полагали, что программа сможет оказать положительное влияние на жизнь многих людей, особенно тех, кто страдает от психологических проблем, и что она способна помочь врачам, работающим с такими пациентами. Хотя ELIZA лишь имитировала

наличие у неё разума, некоторые пользователи настаивали на том, что она разумна, даже когда Вейценбаум пытался убедить их в обратном.

2019

Gardner W. D. (2008). Remembering Joe Weizenbaum, ELIZA Creator / InformationWeek // https://www.informationweek.com/remembering-joe-weizenbaum-eliza-creator-/d/d-id/1065648

В 2000 г. в ходе шуточного эксперимента AOLiza программист Кевин Фокс, воспользовавшись находящейся в свободном доступе версией ELIZA, организовал беседы с ботом для пользователей интернет-мессенджера AOL Instant Messenger. Некоторые люди, решившие, что общаются с родственниками или друзьями, раскрыли боту весьма личную информацию. Из более чем трёх десятков разговоров только в паре случаев пользователи заподозрили, что разговаривают с компьютерной программой, впрочем, из контекста разговоров неясно, были ли собеседники серьёзны в своих подозрениях или просто ругались [2020] .

2020

LordOmar (2000). AOLiza / everything2 // https://everything2.com/title/AOLiza

6.3.1.2 PARRY

В 1972 г. в качестве шуточного ответа на создание бота ELIZA психиатр из Стэнфорда Кеннет Колби создал программу «Перри» (PARRY). Если ELIZA пыталась выдать себя за врача, то бот PARRY старался сойти за пациента — он считал себя параноидным шизофреником.

Алгоритм, лежащий в основе PARRY, базировался на собственных теориях Колби о паранойе. Колби считал паранойю вырожденным видом семиозиса (процесса интерпретации знаков человеком), при котором реплики пациента «основываются на структурированных правилах, а не на различных случайных и не связанных друг с другом механических сбоях [в работе мозга]». Ответы PARRY зависели от его внутренних (аффективных) состояний, возникающих в результате изменения значений трёх параметров (FEAR — страх, ANGER — раздражение и MISTRUST — недоверие) под влиянием слов собеседника. При создании бота Колби преследовал как теоретические, так и практические цели. Он замышлял PARRY как обучающую систему для студентов, которые должны были использовать её для тренировки до получения допуска к настоящим пациентам.

В 1972 г. Колби провёл интересный эксперимент, нередко упоминающийся в популярной литературе. Часто описание этого эксперимента сводят к тому, что Колби попросил профессиональных психиатров в ходе процедуры, напоминающей тест Тьюринга, отличить PARRY от людей-пациентов с диагностированной параноидной шизофренией и что только 48% психиатров справилось с задачей. В действительности всё было несколько иначе. Здесь мы имеем дело со случаем, в котором проработки и детали эксперимента имеют большое значение, о чём пойдёт речь ниже.

В основу теста была положена техника машинно-опосредованного интервью — участники диалога передавали друг другу реплики при помощи телетайпа, оснащённого системой буферизации, накапливающей символы сообщения до момента его отправки. Это было сделано для того, чтобы исключить в ходе эксперимента использование любой посторонней информации (например, манеры речи или темпа набора символов), кроме собственно текста. Также осуществлялось исправление орфографических ошибок в репликах психотерапевта, поскольку из-за них PARRY мог просто не распознать (или распознать неверно) те или иные слова.