На краю пропасти. Экзистенциальный риск и будущее человечества
Шрифт:
• Углубить наши знания о текущей потере биоразнообразия (как региональной, так и глобальной) и провести сравнение сложившейся ситуации с вымираниями прошлого.
• Создать базу данных существующего биологического разнообразия, чтобы сохранить генетический материал тех видов, которые находятся под угрозой исчезновения.
Пандемии искусственного происхождения
• Привести Конвенцию о биологическом оружии в соответствие с Конвенцией о химическом оружии: увеличить ее бюджет с 1,4
• Укрепить способность ВОЗ реагировать на зарождающиеся пандемии путем эффективного эпидемиологического надзора, быстрой диагностики болезней и контроля заболеваемости. Для этого необходимо увеличить финансирование и расширить полномочия ВОЗ, а также активизировать исследования и разработки нужных технологий.
• Убедиться в том, что все продукты синтеза ДНК проходят скрининг на наличие опасных патогенов. Если компании по синтезу не смогут сами довести этот показатель до 100 %, потребуется международное регулирование.
• Повысить открытость данных о чрезвычайных происшествиях в лабораториях уровней BSL-3 и BSL-4.
• Разработать стандарты работы с информационными опасностями и внедрить их в существующие механизмы контроля.
• Проводить упражнения по анализу сценариев развития пандемий искусственного происхождения.
Неконтролируемый искусственный интеллект
• Стимулировать международное сотрудничество в сфере безопасности и управления рисками.
• Исследовать способы регулирования продвинутого ИИ.
• Проводить технологический анализ приведения продвинутого искусственного интеллекта в соответствие с человеческими ценностями.
• Проводить технологическое исследование других аспектов безопасности ОИИ, таких как стратегия безопасного сдерживания и возможные ловушки.
Общее
• Изучить варианты создания новых международных институтов для разработки как поступательных, так и революционных мер по снижению экзистенциального риска.
• Исследовать возможности признать намеренные или неосторожные действия, вызывающие риск вымирания, международным преступлением.
• Изучить возможности представлять будущие поколения в национальных и международных демократических институтах.
• Каждая крупная мировая держава должна учредить высокую правительственную должность для регистрации экзистенциальных рисков, возникновение которых реально спрогнозировать на ближайшие 20 лет, и работы с ними.
• Выявить основные факторы экзистенциального риска и факторы безопасности, ориентируясь как на абсолютный размер, так и на затратную эффективность незначительных изменений.
• Направить силы на снижение вероятности военных конфликтов между США, Россией и Китаем.
• Научиться лучше выявлять непредвиденные и зарождающиеся риски.
• Изучить заместители продуктов питания на случай чрезвычайного и длительного снижения способности мира производить
• Разработать более эффективные теоретические и практические инструменты для оценки рисков с чрезвычайно высокими ставками, которые либо беспрецедентны, либо считаются крайне маловероятными.
• Углубить наши знания о том, с какой вероятностью цивилизация может восстановиться после глобального коллапса, что может этому помешать и как повысить наши шансы на это.
• Развивать исследования по вопросу об общей стратегии человечества.
• Углубить наше понимание этики экзистенциального риска и ценности долгосрочного будущего.
Приложение G
Расширение шкалы Кардашёва
В 1964 году советский астроном Николай Кардашёв разработал метод классификации потенциальных продвинутых цивилизаций по физическому масштабу и количеству энергии (на единицу времени), которую они могут потреблять. Он рассмотрел три уровня: планета, Солнечная система и Галактика. На каждом делении шкалы количество энергии в распоряжении у цивилизации возрастает более чем в миллиард раз.
Мы можем естественным образом расширить эту шкалу в обоих направлениях[673]. Мы можем добавить более низкий уровень для очень маленьких цивилизаций (таких, например, как цивилизация в Месопотамии в момент зарождения письменности)[674]. Мы также можем добавить высочайший уровень в масштабах нашей влияемой Вселенной: все, чего мы вообще можем надеяться достичь. Как ни удивительно, размеры этих шагов весьма близки к тем, которые выделил Кардашёв, и продолжают в целом логарифмическую шкалу оценки могущества цивилизаций.
Наша глобальная цивилизация в настоящий момент контролирует около 12 трлн Вт энергии. Это примерно в 100 тысяч раз больше, чем в распоряжении у минимальной цивилизации, но в 10 тысяч раз меньше, чем полная емкость нашей планеты. Следовательно, мы находимся на уровне K0[675], – более чем на половине пути к K1 и на одной восьмой пути к K4.
Интернет-ресурсы
Сайт книги
Видео Рассылка FAQ Список опечаток
Дополнительные статьи и очерки Цитаты Списки для чтения
theprecipice.com
Сайт автора
Информация о других моих проектах Мои статьи
Контакты для прессы и организации лекций
tobyord.com
Эффективный альтруизм
Познакомьтесь с людьми, которые хотят сделать как можно больше для человечества
effectivealtruism.org
Карьера
Советы о том, как использовать свою карьеру, чтобы спасти будущее