Могут быть и другие, даже более крупные сюрпризы. Вторжение пришельцев, столь любимое сторонниками теорий заговоров и писателями-фантастами, — это самый маловероятный сценарий[1568]. Космические расстояния кажутся слишком большими. Из внеземных угроз куда более вероятны те, что вызваны флуктуациями солнечной или звездной активности, скажем корональные выбросы массы или вспышка гамма-излучения от сверхновой или «гиперновой»[1569]. Можно представить новый удар астероида, меняющий климат планеты[1570]. Или ее поглощение крошечной черной дырой. Страпельки, или «странглеты» (
Помимо этих экзогенных угроз есть и разнообразные технологии, созданные или создаваемые нами как видом — и способные уничтожить нас как вид. Мир всегда был уязвим, а мы только усилили его уязвимость[1572]. С конца 1950-х годов человеческая раса получила возможность совершить самоубийство — или по меньшей мере причинить себе катастрофический вред — с помощью ядерного оружия. Ядерная война между двумя крупными державами или масштабный теракт с применением ядерной бомбы могли бы за несколько часов унести больше жизней, чем COVID-19 за восемь месяцев, причем без какой-либо скидки на молодость. Вслед за ядерной войной наступит ядерная зима, из-за которой большая часть планеты станет непригодной для жизни[1573]. Биологическое оружие, подобное тому, которое намеревался создать СССР, вызвало бы такие же катастрофические последствия, если бы его намеренно или случайно применили[1574]. Генная инженерия — более современная инновация, но и ее, как и ядерную энергию, можно обратить во зло. Человек совершил революционное открытие, поняв, что гены можно редактировать при помощи белка Cas9 и «коротких палиндромных повторов, регулярно расположенных группами» (CRISPR), которые определяют ДНК[1575]. Но у редактирования генома есть огромный недостаток: в отличие от расщепления атома, он очень дешево обходится. «Домашняя лаборатория генного инженера» в 2020 году стоила всего 1845 долларов[1576]. Нет, не стоит бояться, что кто-то создаст «высшую расу», — просто по ошибке можно произвести нежеланную модификацию, которая будет тут же готова к воспроизводству[1577].
В сфере компьютерных технологий новые опасности тоже или уже возникли, или могут возникнуть в самом ближайшем времени. «Интернет вещей» создал множество уязвимостей, и если вдруг разразится тотальная кибервойна, то важнейшая инфраструктура, объединяющая энергетику, командование, руководство и коммуникации страны, может выйти из строя — полностью или отчасти[1578]. Системы искусственного интеллекта уже свободно учатся обыгрывать чемпионов-людей в шахматы или го. Впрочем, появления общего искусственного интеллекта — компьютера, не уступающего человеку в разумности, — вероятно, не стоит ждать еще лет пятьдесят. Элиезер Юдковский, глава Исследовательского института машинного интеллекта (MIRI) в Беркли, утверждает, что мы можем непреднамеренно создать недружественный или аморальный ИИ, который восстанет против нас: например, мы велим ему остановить изменение климата, а он придет к выводу, что оптимальное решение — это уничтожить