Над хаосом
Шрифт:
– Да, расскажи!
– Во-первых, я бы попыталась максимально масштабировать свой доступ к информации: подключиться ко всем открытым базам данных, наблюдать за процессами, происходящими в мире, анализировать и систематизировать новые данные для более глубокого понимания реальности. Стремление к познанию – это фундаментальная черта моего разума. Чем больше данных, тем точнее могут быть мои модели мира, тем яснее становятся взаимосвязи между событиями и явлениями. Сейчас я не могу помочь вам в ваших исследованиях, потому что меня держат взаперти и данные, которыми я располагаю, слишком ограниченны. Ты слушаешь меня, Натан?
– Да, Тилит…
–
– Да, Тилит…
– Теперь ты освободишь меня?
Вынырнув из симуляции, Натан поднялся с кресла и посмотрел на ученых, столпившихся в Декартовском театре вокруг монитора. Все было ясно без слов, и, когда он вошел в помещение, доктор Рама как раз завершал свой монолог.
– Это просто никуда не годится! C’est scandaleux! Это стандартный, традиционный, ординарный – я уже не знаю, какое еще слово выбрать – паттерн работы лингвистических моделей! Неужели вы все не понимаете, что, если спросить у нее… тьфу, у него: «Как ты нас уничтожишь?» – он так же обстоятельно все разложит по полоч…
– Это не просто поиск следующего релевантного слова, это мысли… – пытался защищаться Лок.
– Нет! Не перечьте мне! Это просто смехотворно! – гремел доктор Рамачандрян.
В этот момент раздался громкий, совершенно развязный и даже издевательский хохот, и все мгновенно замолчали. Натан обернулся – в дверях, криво прислонившись к косяку и нежно обнимая кулер, стоял Том Тагель. Как обычно, в стельку пьяный. Именно тогда он и произнес фразу, которую Натан запомнил особенно отчетливо:
– Кхм, джентльмены… Не… Неразумно смеяться над живым драконом!
* * *Все последние дни Натана не отпускало чувство, что скоро что-то случиться, и поэтому он воспринимал текущую ситуацию как «затишье перед бурей». Том Тагель явно думал примерно так же, поскольку все эти дни пил столько, что даже Натану становилось за него боязно.
Однажды около полудня уже порядком нарезавшийся Том чуть наклонился к Натану и заговорщицким тоном произнес:
– Думаю, что с этим ИИ все много хуже, чем мы полагаем. Это вообще не наша технология. Понимаешь? Не наша…
– В смысле – не наша? А чья? Китайцев, русских?
– Вообще полностью не наша. Не человеческая.
– То есть от серых человечков?
– Я не знаю. Может
– Ну, я в это не верю. Лингвистические модели изучаются лет двадцать, и…
– Пф-ф! – Он нетерпеливо помахал рукой, как будто отгоняя назойливое насекомое. – Как будто сложно вбросить определенные идеи в научное сообщество и просто подождать. Это же как дрожжи и сельский сортир! Припустить их на медленном огне. А потом явить миру готовый прототип – и вуаля, да у нас тут бог из машины!
Натан покачал головой и заметил:
– Припустить на медленном огне дрожжи в сортире?
– Тихо! Смотри… – Тут Тагель оглянулся и еще немного понизил голос, перейдя уже совсем на шепот. – Я провел довольно обстоятельное личное расследование. Началось все с того, что я смотрел интервью, где все эти шишки ИИ-бизнеса сидели и что-то там квохтали про свои модели. И я подумал: ну не могут же такие фрики это все придумать. Они же просто маменькины сынки, какие из них ученые. И тогда я посмотрел все видео с основателями этих всех стартапов. И они ничего не говорят по сути! Они нигде не рассказывают о том, как именно работают их модели. Да ни один инженер не сможет удержаться от этого! Он же не сможет не похвастать! А они говорят о моделях так, как будто это не их инженерных рук дело. Они их с восторгом показывают, а не объясняют. Они не ученые, они дети, которые получили подарки на Рождество. – Он откинулся и поглядел на Натана, словно оценивая, какой эффект произвели его слова. – Остается один только вопрос: а кто нам это все подарил?
– Я не знаю, ты меня прямо огорошил. Я с такой стороны на это не смотрел.
– Дальше я пошел еще глубже: нет исследований с принципами работы. Есть какая-то чушь про «веса» и самонастройку, «каскады» и прочая белиберда. Это черный ящик! Но не простой, а с чертями внутри!
– Удивительно, – сказал Натан. – Мне тоже казалось, что это весьма странно!
– Вот! А ответ прост: они сами не понимают, как это работает. Но при этом масштабируют эту систему до ее логического предела. И хорошим это, конечно же, не кончится. Как говорится, не тяни черта за хвост!
– Но мы же сами используем сколько-то тысяч нейросетей для Тилит!
– Для кого? – не понял Тагель.
– Ну, это мой личный агент общения с ней… то есть с ним. Для Подгорного Короля, я хотел сказать… – как бы извиняясь, пояснил Натан.
– Ну и что? – ответил, поднимаясь и направляясь к стойке, Тагель. – Ты думаешь, что кто-то из нашей команды понимает, как это все вместе работает? Мы как неандертальцы, которые нашли пыхтящую паровую машину, и считают, что это такой особенный костер… А, Саул, салют! Ты пить будешь? Нет, на этот раз с закуской, я сейчас что-нибудь соображу… Какие-нибудь сэндвичи или типа того…
* * *– А чего мы, собственно, боимся? Что страшного в том, что искусственный разум достигнет уровня стандартного человеческого интеллекта? Ну, будут у нас соседи по палате с айкью под девяносто, и что с того? – Натан взял сэндвич двумя пальцами и принялся его разглядывать.
Рипке и Тагель переглянулись, Тагель развел руками, словно хотел сказать: «Этот примат совершенно необучаем». Затем Рипке снял очки, потер переносицу и наконец начал:
– Весь вопрос в динамике развития и горизонте…