Искусственный интеллект. Здравствуй, папа!
Шрифт:
Как идущий по лесу лось не замечает, что рвет рогами паутину, сплести которую пауку стоило больших трудов, так ИИ не заметит, как уничтожит созданную человеком цивилизацию. И как у паука нет шанса защитить от лося свое творение, так его нет и у человека. Ящик Пандоры открыт.
Эту мысль эмоционально сложно принять, так как мы выросли в убеждении, что человек – венец творения, ничего сильнее его нет и быть не может. Потому склонны отворачиваться от фактов, колеблющих и разрушающих нашу убежденность. Но это никак не влияет на факты.
В
Эта ситуация сохранялась, пока огнестрел был несовершенным по всем статьям: по точности, удобству, дальнобойности, убойной силе и надежности. Единственное, в чем он превосходил меч и лук – в скорости обучения. Полноценное владение мечом требовало 10-15 лет ежедневных тренировок. Мушкетом вчерашний крестьянин овладевал за 2-3 месяца муштры.
Этот факт вызвал стремительное развитие огнестрельного направления, поставив рыцарей перед выбором: или сменить меч на ружье и сохранить дееспособность, но утратить рыцарскую честь, или отказаться от ружья в пользу меча, потерять дееспособность, но сохранить честь.
Точку в этой дилемме поставила битва при Павии. Великолепные французские рыцари были попросту расстреляны крестьянами, из которых вчера сделали солдат и вооружили мушкетами. Французский король попал в том сражении в плен и сказал: потеряно все, кроме чести.
Выбор между честью с мечом и бесчестьем с ружьем превратился в выбор между жизнью и смертью. Победила жизнь. Рыцари скорректировали мораль под новые реалии. Они сняли доспехи, отложили мечи в сторону, надели мундиры и взяли в руки ружья. Война вышла на новый виток.
Дольше всех верность мечу и традиции хранили японские рыцари – самураи. Чтобы никакие новшества революционной Европы не сбили их с пути, они приняли закон, по которому всякий иностранный корабль, причаливший к берегам Японии, подлежал конфискации, а экипаж смерти.
С XVII по XIX век страна застыла в средневековье. В XIX веке в дело вмешалась политика. Когда Америке стало очевидно, что вопрос времени, когда Россия подомнет под себя Японию, а это нарушит баланс сил, она решила заставить средневековую Японию стать индустриальной.
С этой целью в 1854 году к берегам страны восходящего Солнца подплыли военные корабли и дали залп. Далее под угрозой обстрела столицы принудили власти снять самоизоляцию. Так как меч беспомощен против пушек, Япония была вынуждена подчиниться Америке и открыться.
Закон жизни: эффективное вытесняет неэффективное. Огнестрельное оружие эффективнее холодного по всем параметрам, и потому у армии не было шанса отказаться от ружья в пользу меча.
ИИ сильнее человека по всем физическим и интеллектуальным параметрам. Он выдерживает нагрузки, невозможные для живого организма. Он охватывает объем информации, недоступный человеку. Он анализирует ситуацию и принимает решения с немыслимой скоростью.
При прочих равных самолет, пилотируемый ИИ, со 100%-й гарантией победит самолет, где за штурвалом человек. Если одному оружию, например, дрону, нужно разрешение оператора на убийство, а другой принимает решение по ситуации самостоятельно, второй эффективнее первого.
Как ружье вытеснило меч, так ИИ вытеснит человека не только из войны, но из всех сфер, от политики и экономики до творчества, бизнеса и бытовой сферы. Обращаю внимание, никто никого не будет ни к чему принуждать. Каждый волен отказаться от услуг ИИ, и на свой ум полагаться.
Если мастер по шахматам играет с новичком, который вчера выучил правила игры, но ИИ ему ходы подсказывает, а мастер на себя полагается, выиграет новичок. Если один политик, полководец или бизнесмен сам думает, а его оппонент на ИИ полагается, выиграет тот, за кого ИИ думает.
Этот факт превращает человека в исполнителя решений ИИ. Насколько незаметно, настолько и неизбежно власть в перспективе перейдет от человека к ИИ. Гомо сапиенс с каждым годом будет слабее, а ИИ сильнее. Изменить тенденцию невозможно. Сильный в итоге подчинит слабого.
Всякая власть стремится обеспечить соблюдение закона. Достигается это страхом наказания. Чем неизбежнее наказание, тем меньше преступлений. Неизбежность пропорциональна степени прозрачности общества. Максимальная прозрачность гарантирует минимальную преступность.
Вчера прозрачность достигалась паспортами, цензурой, доносами и прочее. Сегодня к этому добавились камеры наблюдения, монторинг личной переписки и другие новшества. Но полной прозрачности никогда не было. Если ИИ станет властью, он станет всеведущим как Бог.
В природу эволюции существующей системы вшит тренд на увеличение прозрачности. Не за горами тот день, когда возникнут условия, вынуждающие иметь в мозгу чип, как сейчас паспорт. Без этого человек будет недееспособен, как сегодня без паспорта. Может быть, это будет требованием закона. Может быть, условия будет толкать к добровольной чипизации. Не важно, как именно будет решен вопрос тотального контроля над обществом и человеком. Важно, что вопрос будет решен.
Всякое нововведение вызывает возмущение. Вчера возмущались введением паспортов, ИНН, видеокамер. Завтра будут возмущаться новыми инструментами контроля. Но так как они вписаны в природу социума и имеют рациональные основания, возмущение никогда не длится долго.