Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

Йонк Ричард

Убедившись в том, что эмоции нужно исследовать и распознавать так, как это никогда не делалось прежде, во время рождественских каникул и времени, отведенного для самостоятельной работы, Пикард изложила предварительное мнение по вопросу. Помимо всего технического материала и идей, которые ей было необходимо представить в документе, Пикард нужно было как-то его озаглавить. Такие фразы, как «программирование чувств» и «эмотивная технология», содержали отсылки к субъективности и иррациональности, которых она так старалась избежать. Наконец, она решила, что хорошим научным названием будет психологический термин «аффект», означающий переживание чувства. В статье «Аффективное программирование» она подробно изложила идеи и доказательства,

собранные в ходе исследования до 1995 года. Не привлекая к работе особого внимания, она дала ее прочесть коллегам, обладавшим самыми широкими взглядами, и стала ждать их реакции. Как и предполагалось, реакция была неоднозначной. Один студент счел ее идеи многообещающими. Он пришел в кабинет Пикард с кипой книг об эмоциях и сказал: «Вам стоит это почитать». Между студентами и преподавателями Массачусетского технологического института иногда возникают дружеские отношения. Преподаватели либо не разделяли ее энтузиазма, либо просто не знали, что думать. Многим это казалось чем-то незначительным, не играющим особой роли в их личной реальности. «У меня нет чувств», – прокомментировали многие из них в уверенности, что так и есть на самом деле, а нечто столь расплывчатое, как эмоции, нельзя ни измерить, ни воспринимать серьезно.

Но постепенно к ней пришло признание. Пикард обнаружила, что все больше рассказывает и пишет об эмоциях и методах их измерения. Ее работу обсуждали в прессе и на телевидении. Наконец, в 1997 году, спустя девять месяцев после подписания контракта на публикацию, она закончила книгу, которая носила то же название, что и первая статья. Книга «Аффективное программирование» (Affective Computing) представила миру ее смелые новаторские идеи и положила начало новейшей отрасли искусственного интеллекта и информатики.

Хотя Пикард не была уверена, что к ее работе отнесутся серьезно, она вскоре оказалась ведущим экспертом в области, о которой никто прежде не слышал. Кроме того, она получила должность, о которой так беспокоилась, хотя из-за недостатка слаженности некоторые члены комиссии назвали ее работу «шизофренической». Среди работ Пикард были рецензии на статьи о поиске информации по содержимому, менее официальные доклады с конференций об анализе аффективных сигналов и, наконец, ее собственная книга. Она не собиралась рисковать, но вскоре оказалось, что риск полностью оправдался.

Однако самая простая часть работы на этом закончилась. Теперь предстояло обратиться к сложным задачам – разработке компьютеров, способных точно измерять эмоции, и созданию первой в мире лаборатории эмоционального программирования.

Глава 4

Расскажи нам, как ты чувствуешь

Колорадо-Спрингс; Колорадо – 20 апреля 2015 года

Тихий ранний вечер на Вест-Колорадо-авеню. Магазины и офисы района, в котором полно бизнес-центров, ресторанов быстрого питания и скромных лавочек, готовятся к закрытию. Внезапно спокойствие нарушил звук выстрела, а потом еще один и еще. Жители окрестных домов потеряли счет выстрелам, некоторые в панике бросились к телефонам. Стрельба прекратилась так же внезапно, как и началась, но через несколько секунд тишина взорвалась воем полицейских сирен. На место преступления быстро приехал патруль, но было поздно. Они обнаружили последствия расстрела, подобного которому город еще не видел. Виновный – тридцатисемилетний предприниматель Лукас Хинч. В состоянии тяжелого расстройства Хинч вытащил жертву в глухой переулок, достал недавно купленный пистолет Hi-Point калибра 9 миллиметров и безжалостно выпустил восемь пуль в сердце своего компьютера 2012 Dell XPS410. Компьютер не выжил.

Еще не зная о том, что совершил противозаконное деяние, Хинч рассказал полиции, что компьютер доставлял ему проблемы на протяжении многих месяцев. (В Колорадо-Спрингс незаконно производить выстрелы из огнестрельного оружия в черте города.) По словам Хинча, когда на мониторе компьютера раз за разом появлялся

печально известный «синий экран смерти» Windows, его терпение кончилось.

«Это было великолепно», – сказал Хинч об акте убийства машины, добавив, что совершенно не испытывает сожаления или чего-то в этом роде.

* * *

С тех пор как появились персональные компьютеры, все больше становится историй о пользователях, которые разбивают их вдребезги или вышвыривают из окна пятого этажа. В видео с камеры наблюдения 1997 года, получившем название «Неудачный день», офисный работник настолько рассвирепел, что сначала ударами кулаков разнес на куски клавиатуру, а потом разбил монитор об пол. Видеоролик набрал огромную популярность, его увидели миллионы людей. Помимо того, что это видео просто смешное, оно несомненно обязано своей популярностью тому, что многие люди, когда-либо работавшие за компьютером, испытывали отчаяние.

Как часто происходят случаи применения грубой физической силы по отношению к компьютерам? Возможно, чаще, чем вы думаете. Согласно интерактивному опросу компании Harris, проведенному по инициативе сайта Crucial.conn, более трети американцев признались, что проявляли физическую или словесную агрессию к своим компьютерам¹. Агрессивное поведение проявлялось в виде сквернословия, крика, ударов по оборудованию кулаком или тяжелым предметом, когда компьютер выходил из строя или выдавал критическую ошибку.

Концепция компьютерной ярости исследовалась с тех пор, как появился сам термин. Как отмечает Клиффорд Насс в своей книге «Медиауравнение» (The Media Equation), наше взаимодействие с компьютерами носит в основном социальный характер. Однако машины еще не настолько сложны, чтобы полноценно участвовать в этих отношениях. Люди постоянно проявляют эмоции, но компьютерам нет дела до наших чувств, и иногда это доводит нас до отчаяния.

Мы все больше работаем с компьютерами, и все больше аспектов нашей жизни зависит от технологий. Пока компьютеры не станут полноценными участниками социальных отношений между человеком и машиной, наша злость будет только расти.

Это одна из перспектив эмоционального программирования: удовлетворить потребность, которую вряд ли удастся удовлетворить другими способами. В своей книге «Аффективное программирование» (Affective Computing) Розалинд Пикард пишет об этом, понимая, что отчаяние пользователя нередко является барьером, который мешает освоить новое программное обеспечение. В то же время есть уровень помощи и поддержки, который не только бесполезен, но раздражает. Microsoft пришлось узнать это на собственном горьком опыте.

В середине 1990-х годов в пакете программ Microsoft Office для Windows появился Помощник, один из первых интеллектуальных пользовательских интерфейсов. В нем использовался байесовский алгоритм, основанный на вероятностях намерений, а выглядел он как анимированная канцелярская скрепка по имени Скрепочка. (Многие пользователи называли его Скрепыш, и это имя прижилось.) Скрепыш часто выскакивал в неподходящие моменты и предлагал помощь независимо от того, какое из выполняемых пользователем заданий он обнаруживал. Проблема была в том, что Скрепыш был назойливым. Стоило напечатать за адресом слово «Дорогой», и тут же появлялся полный энтузиазма помощник и отвлекал пользователя. «Похоже, ты пишешь письмо, – говорил он и добавлял: – Тебе нужна помощь?» И хотя эта функция задумывалась как средство виртуальной помощи, постоянное раздражающее выпрыгивание помощника привело к тому, что его ругали все кому не лень. Насс подчеркнул это в своей статье 2010 года в «Wall Street Journal», написав: «Одной из самых одиозных программных разработок был Скрепыш – анимированная скрепка из Microsoft Office. Одно упоминание о нем вызывало такую бурю ненависти, с какой обычно отзываются о неверных возлюбленных или смертельных врагах». С годами на Скрепыша появлялись бесчисленные пародии и даже мем «Скрепыш, умри!» В 2001 году Microsoft отменила эту функцию.