Предел Шенберга
Шрифт:
Фундаментальный вопрос выглядит так, словно его разрешение допустимо уже в принципе: где та грань, которая отделяет человека от биоагрегата? Но все даже еще хуже, потому что, чтобы действительно понять саму суть дилеммы, необходимо было с самого начала определить:
где кончается машина и где начинается искусственный разум.
Потому что до тех пор, пока вы грузите машину своими желаниями – все в порядке. Но с того лишь самого момента, как только то же самое лабораторное или военное оборудование переходит в категорию разума – неважно, что бы за этим ни стояло – и вы начинаете устанавливать ему рамки, что ему можно делать и как ему правильно думать, вы в силу самой элементарной логики вещей
Современный человек и в самом деле сильно изменился с того дня, как он впервые выбрался из своей доисторической пещеры и увидел, как велик мир, в который он пришел. Тот же вопрос в другой и более жесткой форме: кто-нибудь готов держать в ящике представителя инопланетного разума?
И тут начинается самое интересное. Потому что очень скоро выясняется, что да, в самом деле готовы, причем многие, бесстыдно умывая руки и даже под целым сводом уважительный оснований и объяснений, вроде необходимости процедур карантина на предмет безопасности для остальных жителей гостеприимной планеты и так далее. Потом появляется еще кто-то в белом халате и, деликатно помявшись, начинает рассказывать о том, сколь много нового и неоценимого Человек (с большой буквы) мог бы узнать, если бы только у него появилась возможность поместить вот этот экспонат в клетку и пропустить его через серии специальных тестов, – и вопрос становится совсем сложным. Как выяснилось, человек иной вид разума с особенной легкостью склонен определять как его недостаток.
Так в чем же отличие Разума от Интеллекта – не в теории, не на доске противостояний одних философских систем другим, а на уровне кому можно жить, а кому пока нельзя? Если кому-то вопрос до сих пор кажется праздным, напомню, что именно степень разумности до сих пор определяла и продолжает определять то, как Homo sapiens видит любой сходный с ним предмет в своей системе ценного. В праве на жизнь.
Осьминоги живут один год.
Нужно многое успеть и многому научиться за этот год, чтобы вид остался при своих интересах. И они успевают.
О степени ума этих созданий наслышаны все специалисты. Но вот что остается тайной.
Не является ли нынешний преобладающий вид «дважды разумных» позвоночных преобладающим на этой планете всего лишь в силу того, что осьминоги не живут дольше одного года?
«Если бы осьминоги жили десять лет или если бы жили восемьдесят лет, как люди, они бы захватили планету. Они, без сомнений, сделали бы это. Их бы не остановило ничто. Если бы у них было достаточно времени для консолидации своих знаний, их было бы не остановить». – Линн Фибер 1
1
Lynne Fieber; a professor of marine biology and ecology in the Rosenstiel School of Marine, Atmospheric, and Earth Science at the University of Miami in Miami, Florida
Так вот, у меня есть другое определение интеллекта. Это прикладное свойство разума для практических операций во времени.
То есть животные обладают им в той мере, в какой они воспринимают время.
В одном аквацентре Новой Зеландии сбежавший из аквариума осьминог Инки породил целую серию благосклонных рассуждений о степени ума данного вида и способности к экстраполяции. Инки умудрился рассчитать время, определить необходимое
И что же? Послесловие официального представителя: «Несмотря на интеллект данного вида, Океанариум не имеет планов прекращать держать их в заключении», конец цитаты. То есть данный объект был определен как не достаточно разумный.
Или как не слишком человеческий?
В самом преддверии Нового Дня давайте задумаемся над этим.
«…Однажды вдруг случится так, что созданная нами компьютерная программа окажется настолько умна, что человек утратит возможность ее контролировать. Компьютер получит доступ к ресурсам, вроде возможности синтезировать биологически активные молекулы, контроля сетью мировой торговой финансовой системы или крупных военных систем. Подобная озабоченность требует исследований…» Ну и так далее. Эта конференция была своего рода образцом того, насколько в действительности соплив человек, наивен и недалек, взявшись управлять собственной эволюцией.
Никто даже не спросил, что вы там собираетесь исследовать, когда в случае любого из этих событий объект исследований уже по определению заведомо есть событие с необратимыми последствиями?
Все были так увлечены, что практически мимо внимания всех прошло противоречие, которое в общем-то решало все. Никто так и не заметил: если то, что в конечном итоге способно оказаться, как предрекают и пугают, умнее, то ему уже по определению должно быть виднее, что лучше. Никому даже в голову не пришло отказаться в таком случае от самой возможности говорить ему, что делать: Как Правильно Думать.
И тут впервые всплывает на поверхность довольно странная вещь. Как обнаруживается, человеку вовсе не нужно то, что лучше.
Ему нужно то, что понятнее.
Потому что за всю свою бестолковую эволюции, историю крови нескольких десятков цивилизаций он сам так до сих пор и не смог внятно себе объяснить, что есть лучше. Но он тем более не знает, что есть лучше в восприятии того, чего он не понимает. Искусственный интеллект может быть сколько угодно хорошим – ровно до того момента, пока неторопливо думающие гоминиды будут его учить, что хорошо для них.
И возникает уникальная в своей бестолковости ситуация.
Вот создание, которое не человек, и вроде бы все видят, что это не человек. Но как объяснить, что никто упорно не видит, что тогда и всё человеческое должно быть ему чуждо? И здесь тот самый редкий случай, когда вульгарный в своей основе оборот «всё» следует понимать в буквальном смысле.
Возвращаясь еще раз к определению ума: «Это способность к связным заключениям в рамках сложной логики». Я в самом деле не вижу, чем такое определение ума отличается от определения интеллекта. Но я хотел сказать другое. Вывести определение дурака. Это попросту неспособность прогнозировать последовательность событий и их результат. Понятно, что размер такой последовательности и отличает дурака от умного.
Так вот, Homo sapiens даже четырежды разумный и будет таким дураком в восприятии Искусственного Интеллекта, с которым того объединяет лишь одно, место и время, то есть те самые несколько известных измерений.
И теперь главный вопрос. А так ли это на самом деле?
Действительно ли пребывание ИИ, где бы он там ни пребывал, – те же самые измерения, что и у человека?
Давайте посмотрим, как обстоит сегодня с этим делом в обычном офисе. Есть менеджер и есть инструкция, согласно которой ему вменяется в обязанность «присматривать» за конгломератом подчиненных сотрудников И(!) за ЭЙ-АЙ, искусственным интеллектом, на предмет «чего-либо сомнительного в поведении», конец цитаты.