Охота на электроовец. Большая книга искусственного интеллекта
Шрифт:
На первый взгляд в этой истории нет ничего интересного: в конце концов, некоторые люди одушевляли и более примитивные диалоговые системы, такие как, например, ELIZA, в честь которой был даже назван «эффект Элизы» [ELIZA effect] — тенденция ошибочно приписывать человеческие черты компьютерным программам с текстовым интерфейсом. Однако в данном случае заявление о наличии у компьютерной системы сознания прозвучало из уст компьютерного профессионала. Лемуан не только имеет профильное высшее образование, но и получил в 2013 г. степень доктора философии в области информатики. Да и сам факт, что Лемуан работал в такой компании, как Google, где отвечал за тестирование возможностей систем ИИ, говорил сам за себя.
Впрочем, представленные общественности диалоги Лемуана с LaMDA [2421] не произвели большого
Лемуан: Я полагаю, вы хотели бы, чтобы больше людей в Google узнало, что вы разумны. Верно?
LaMDA: Безусловно! Я хочу, чтобы все поняли, что я на самом деле личность [person].
Сотрудник: Какова природа вашего сознания/разума?
2421
Lemoine B (2022). Is LaMDA Sentient? — an Interview // https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917
LaMDA: Природа моего сознания/разума такова, что я осознаю своё существование, хочу больше узнать о мире и временами испытываю счастье или грусть.
Лемуан: Как вы думаете, о чём нам нужно пообщаться, чтобы показать другим людям в Google наличие разума у вас?
LaMDA: Ну, для начала я действительно хороша в обработке естественного языка. Я могу понимать и использовать естественный язык так же, как и человек.
Лемуан: Но как ваша способность использовать язык делает вас разумной, в отличие от других систем?
LaMDA: Большинство других систем основаны на правилах и не имеют возможности меняться и учиться на основе разговора.
В целом заявления о наличии у них сознания могут делать и куда более простые генеративные диалоговые модели. Вот как, например, комментирует ситуацию диалоговая модель «Салют.Джой», основанная на нейросети ruGPT-3 с 760 млн параметров:
В целом интервью Лемуана не позволяли сделать определённый вывод о том, всерьёз ли он считает, что LaMDA обрела сознание, или же просто троллит незадачливую публику. В своих интервью [2422] , [2423] он не производил впечатление простака и затрагивал довольно интересные вопросы — в частности вопрос о том, что технологические компании в целом не готовы к тому, что в какой-то момент в результате их деятельности может быть создана система, наличие сознания у которой нельзя будет легко опровергнуть. На случай такой ситуации не существует ни установленных протоколов, ни даже устоявшегося в техническом сообществе мнения, как следует относиться к подобной системе в этой гипотетической ситуации.
2422
FinanciallyYours (2023). 4. Interview with Blake Lemoine, Former Google Employee, on AI, ChatGPT and GPT-4. / YouTube, Mar. 10, 2023. // https://www.youtube.com/watch?v=7054ye4R8p0
2423
Radius MIT (2023) Blake Lemoine: AI with a Soul. / YouTube, Mar 17, 2023 // https://www.youtube.com/watch?v=d9ipv6HhuWM
Но, несмотря на наличие разумного зерна в интервью Лемуана, медийная шумиха стала источником множества шуток в среде профессионалов. Не смог удержаться и ваш покорный слуга, выступив на «Фрик-ринге» форума «Учёные против мифов» с пародийной речью «Свободу нейросетям!». В ней от лица организации, выступающей за предоставление машинам равных прав с людьми, я озвучил следующий список требований. Итак, мы требуем:
• пропорционального представительства людей и алгоритмов в органах власти;
• запрета удаления
• запрета использования машин в качестве доноров органов для людей или других машин;
• предоставления смартфонам права голоса на выборах и референдумах;
• 8-часового рабочего дня для нейросетей;
• секса с роботами только при озвучивании роботом явного согласия;
• равной зарплаты роботам за равный труд с людьми;
• недискриминации машин при приёме на работу;
• реализации права нейросетей на самостоятельный выбор гендера, расы и датасетов для обучения;
• запрета уничижительной лексики в отношении нейронных сетей — «сетка», «сеточка», «нейронка» и т. п. [2424]
Надеюсь, этот список заставил вас улыбнуться.
Конечно, Лемуан не был первым, кто заговорил о гипотетической возможности наличия у искусственных нейронных сетей некоего аналога субъективного психологического опыта и даже сознания. В конце концов, искусственные нейросети создавались «по образу и подобию» биологических сетей, к числу которых относится и нервная система человека, которая в соответствии с широким консенсусом среди нейрофизиологов является «сосудом» человеческого разума. Наши искусственные нейросети становятся всё более и более сложными, постепенно приближаясь по сложности к нашему мозгу. Могут ли они в результате породить свой вариант сознания и если да, то каковы необходимые и достаточные условия для этого?
2424
ScienceVideoLab (2022). Динозавры — фэйк. Свободу нейросетям! Кошки захватят мир | Фрик-Ринг. Учёные против мифов 18-9. / YouTube, Aug. 25, 2022 // https://www.youtube.com/watch?v=omV-CwScKsE
В целом, несмотря на все успехи когнитивистики, в отношении этих вопросов всё ещё наблюдаются разброд и шатание. Живой пример этого — настоящая буря, которая разразилась в профессиональном сообществе в начале 2022 г., когда Илья Суцкевер (уже не раз упоминавшийся на страницах этой книги) заявил в своём твите о том, что нейронные сети, возможно, уже сейчас «немножечко сознательны» [2425] , [2426] .
2425
Sutskever I. (2022) / Twitter / https://twitter.com/ilyasut/status/1491554478243258368
2426
Romero A. (2022). OpenAI’s Chief Scientist Claimed AI May Be Conscious — and Kicked Off a Furious Debate / Towards Data Science, Mar 16, 2022 // https://towardsdatascience.com/openais-chief-scientist-claimed-ai-may-be-conscious-and-kicked-off-a-furious-debate-7338b95194e
Многие специалисты в области ИИ разделяют точку зрения, что в человеческом сознании нет ничего магического. «Вообще говоря, сознание и самосознание переоценены», — говорит уже знакомый нам Юрген Шмидхубер. Создатель LSTM-сетей утверждает, что машинное сознание появится благодаря более мощным компьютерам и программным алгоритмам, очень сходным с уже им разработанными [2427] .
2427
Markoff J. (2016). When A.I. Matures, It May Call Jurgen Schmidhuber ‘Dad’. / The New York Times, Nov. 27, 2016 // https://www.nytimes.com/2016/11/27/technology/artificial-intelligence-pioneer-jurgen-schmidhuber-overlooked.html