тестовый баннер под заглавное изображение
От смертельной угрозы неконтролируемого искусственного интеллекта или ядерной войны до острого риска создания биологического оружия – самые серьезные риски для нашего собственного выживания создают сами люди, констатирует Daily Mail.
Доктор Томас Мойнихан, исследователь из Центра изучения экзистенциальных рисков Кембриджского университета, рассказал Daily Mail: “Апокалипсис – это старая идея, которая восходит к религии, но вымирание – удивительно современная идея, основанная на научных знаниях о природе. Когда мы говорим о вымирании, мы представляем, что человеческий род исчезнет, а остальная Вселенная будет бесконечно существовать на своих просторах без нас. Это сильно отличается от того, что представляют себе христиане, когда говорят о Восхищении или Судном дне.
* Ядерная война. Ученые, изучающие проблему уничтожения человечества, говорят о том, что они называют “экзистенциальными рисками” – угрозами, которые могут уничтожить человеческий род. С тех пор, как люди научились расщеплять атом, одним из наиболее острых экзистенциальных рисков стала ядерная война. Во время холодной войны страх перед ядерной войной был настолько велик, что правительства по всему миру всерьез планировали жизнь после полного уничтожения общества. Риск, связанный с ядерной войной, снизился после распада Советского Союза, но сейчас эксперты считают, что угроза возросла.
Ранее в этом году Бюллетень ученых-атомщиков передвинул стрелки часов судного дня на одну секунду ближе к полуночи, сославшись на возросший риск обмена ядерными ударами. Девять стран, обладающих ядерным оружием, располагают в общей сложности 12 331 боеголовкой, причем только в России имеется достаточно бомб, чтобы уничтожить семь процентов городских территорий по всему миру. Однако тревожная перспектива заключается в том, что человечество на самом деле может быть уничтожено лишь малой частью этого оружия.
Доктор Мойнихан говорит: “Новые исследования показывают, что даже относительно региональный обмен ядерными ударами может привести к глобальным климатическим последствиям. Обломки, оставшиеся после пожаров в городских центрах, поднимутся в стратосферу, где будут затемнять солнечный свет и вызывать неурожаи. Нечто подобное привело к вымиранию динозавров, хотя это было вызвано ударом астероида”.
Исследования показали, что так называемая “ядерная зима” на самом деле будет намного хуже, чем предполагали прогнозы времен холодной войны. Используя современные климатические модели, исследователи показали, что обмен ядерными ударами ввергнет планету в “малый ядерный ледниковый период”, который продлится тысячи лет.
Уменьшение количества солнечного света приведет к снижению глобальной температуры на 10°C почти на десятилетие, что приведет к разрушению мирового сельскохозяйственного производства.
Моделирование показывает, что небольшой обмен ядерными ударами между Индией и Пакистаном лишил бы 2,5 миллиарда человек продовольствия по меньшей мере на два года.
Между тем, глобальная ядерная война немедленно унесла бы жизни 360 миллионов мирных жителей и привела бы к голодной смерти 5,3 миллиарда человек всего за два года после первого взрыва.
Доктор Мойнихан говорит: “Некоторые утверждают, что трудно провести четкую границу между этим и уничтожением всех людей повсюду, но мы не хотим это выяснять”.
* Разработанное биологическое оружие. Точно так же, как и угроза применения ядерного оружия, еще один вероятный способ покончить с человечеством – это создать искусственное биологическое оружие, пишет Daily Mail. С 1973 года, когда ученые создали первые генетически модифицированные бактерии, человечество неуклонно наращивает свои возможности по созданию смертельных заболеваний.
Эти искусственные заболевания представляют значительно большую угрозу нашему существованию, чем все, что встречается в природе.
Отто Бартен, основатель Обсерватории экзистенциальных рисков, комментирует Daily Mail: “У нас большой опыт борьбы с природными пандемиями, и за последние 300 000 лет они не приводили к вымиранию людей. Таким образом, несмотря на то, что природные пандемии остаются очень серьезной угрозой, они, скорее всего, не приведут к полному исчезновению человечества. “Однако искусственные пандемии могут быть специально созданы для достижения максимальной эффективности, чего не происходит в природе”.
В настоящее время средства для создания таких смертельных заболеваний ограничены горсткой государств, которые не выиграли бы от распространения смертельной чумы.
Однако ученые предупреждают, что совершенствование технологий, таких как искусственный интеллект, означает, что эта способность, вероятно, будет попадать в руки все большего числа людей.
Если террористы получат возможность создавать смертоносное биологическое оружие, они могут выпустить патоген, который будет бесконтрольно распространяться и в конечном итоге приведет к вымиранию человечества.
То, что осталось бы позади, было бы миром, который выглядит так же, как сейчас, но с уничтоженными всеми следами присутствия живых людей.
Доктор Мойнихан добавляет: “Таким образом, вымирание – это полное разрушение любого морального порядка; опять же, во Вселенной, которая безмолвно продолжает существовать без нас”.
* Искусственный интеллект-изгой. В настоящее время эксперты считают, что самую большую опасность, которую человечество создает для себя, представляет искусственный интеллект. Ученые, изучающие экзистенциальный риск, считают, что вероятность того, что человечество не переживет появление сверхразумного искусственного интеллекта, составляет от 10 до 90 процентов.
Большая проблема заключается в том, что достаточно интеллектуальный ИИ станет “несогласованным”, а это означает, что его цели и амбиции перестанут совпадать с интересами человечества.
Доктор Мойнихан говорит: “Если ИИ станет умнее нас, а также станет агентурным, то есть способным ставить перед собой собственные цели и действовать в соответствии с ними”.
Если ИИ становится агентом, ему даже не нужно быть открыто враждебным к людям, чтобы уничтожить нас.
Когда у ИИ-агента есть цель, которая отличается от того, чего хотят люди, ИИ, естественно, видит в том, что люди отключают его, препятствие на пути к этой цели, и делает все возможное, чтобы предотвратить это.
ИИ может быть совершенно безразличен к людям, но просто решает, что ресурсы и системы, которые поддерживают жизнь человечества, лучше использовать для достижения его собственных целей.
Эксперты не знают точно, каковы могут быть эти цели и как ИИ может попытаться их достичь, и именно это делает несогласованный ИИ таким опасным.
“Проблема в том, что невозможно предсказать действия чего-то неизмеримо более умного, чем вы, – говорит доктор Мойнихан. – Трудно представить, как мы могли бы предвидеть, перехватывать или предотвращать планы ИИ по их реализации”.
Другая серьезная проблема заключается в том, что эксперты не знают точно, как ИИ может уничтожить человечество.
Некоторые эксперты предполагают, что ИИ может взять под контроль существующие системы вооружения или ядерные ракеты, манипулировать людьми, заставляя их выполнять свои приказы, или разрабатывать собственное биологическое оружие.
Однако еще более пугающая перспектива заключается в том, что искусственный интеллект может уничтожить нас таким образом, который мы в буквальном смысле слова не можем себе представить.
Доктор Мойнихан говорит: “Общее опасение заключается в том, что искусственный интеллект, который будет умнее человека, сможет манипулировать материей и энергией с гораздо большей точностью, чем мы можем себе представить. Удары беспилотников были бы непостижимы для первых фермеров-людей: законы физики с тех пор не изменились, изменилось только наше понимание их. В любом случае, если нечто подобное возможно и когда-нибудь произойдет, это, вероятно, будет происходить гораздо более странным образом, чем кто-либо в настоящее время может себе представить. В нем не будут задействованы металлические роботы-гуманоиды с оружием и горящими алыми глазами”.
* Изменение климата. Отто Бартен говорит: “Изменение климата также представляет собой экзистенциальный риск, то есть может привести к полному уничтожению человечества, но эксперты полагают, что вероятность этого составляет менее одного шанса из тысячи”.
Однако существует несколько маловероятных сценариев, при которых изменение климата может привести к вымиранию человечества. Например, если на планете станет достаточно жарко, большое количество водяного пара может подняться в верхние слои атмосферы в результате явления, известного как влажный парниковый эффект. Там интенсивное солнечное излучение расщепило бы воду на кислород и водород, которые достаточно легки, чтобы легко улетучиваться в космос. В то же время водяной пар в атмосфере ослабил бы механизмы, которые обычно препятствуют выходу газов. Это привело бы к безудержному циклу, в ходе которого вся вода на Земле улетучилась бы в космос, оставив планету сухой и полностью непригодной для жизни, пишет Daily Mail.
Хорошей новостью является то, что, хотя изменение климата делает наш климат более жарким, влажный парниковый эффект не проявится, если только климат не станет намного жарче, чем прогнозируют ученые в настоящее время.
Плохая новость заключается в том, что влажный парниковый эффект почти наверняка возникнет примерно через 1,5 миллиарда лет, когда солнце начнет расширяться.
