Провожая 2018 год: технологический армагеддон, чёрные шары в уязвимом обществе, глобальная научная инквизиция Ника Бострома
Аналитическая компания Altmetric подготовила рейтинг публикаций в научных журналах, которые вызвали наибольший резонанс, привлекли внимание политиков, журналистов и широкой общественности в 2018 году.
Оказалось, что прошедший год стал самым мрачным за последнее десятилетие. Восемь из десяти самых популярных научных публикаций были посвящены необратимому разрушительному воздействию, которое человек оказывает на природу, различным катаклизмам и катастрофическому ухудшению здоровья общества.
Важно отметить, что этот анализ осуществлен до появления научных статей о рождении первых детей, которые прошли через редактирование генов, будучи эмбрионами. Об этом эксперименте в конце ноября 2018 года рассказал MIT Technology Review. Эксперимент осуществлен в небольшой китайской больнице, в которой семь пар, включая ВИЧ – положительных мужчин, отдали яйцеклетки и семя доктору Хе Цзянкуй и его коллегам из Южного научно – исследовательского института Шеньчжэня на редактирование с применением CRISPR – Cas 9.
Целью учёных было удаление молекулярной «двери», которая позволяла вирусу СПИДа проникать в Т – клетки. В результате две девочки – близняшки стали имунными к ВИЧ. Такой прорыв, казалось бы, должен стать поводом к всемирному ликованию. Вместо этого поднялась волна цунами публикаций о грядущем биотехнологическом армагедоне. Предостерегающее заявление делает ЮНЕСКО, ВОЗ создает специальную группу по изучению этой ситуации. Власти Китая запретили ученым, которые провели описанный эксперимент, продолжать исследования на этом направлении. Одновременно в КНР принято решение, суть которого в том, что китайские ученые, которые совершают научные нарушения, могут лишиться возможности получить банковский кредит, создать компанию или поступить на государственную службу. Что же произошло? Неужели событие, которое известный исследователь Ник Бостром назвал извлечением чёрного шара?
О концепции чёрного шара
Летом и осенью уходящего года по обе стороны Атлантики по инициативе высшей правящей элиты, а также разведывательных сообществ прошел ряд особо не афишируемых в медиа конференций по проблемам хронополитики. Если к сфере геополитики относятся вопросы господства на той или иной территориях, то хронополитика – это борьба за будущее, за завоевание господствующего положения при формировании динамик мирового и регионального развития. На этих конференциях выступили лидеры ведущих «фабрик мысли». Один из докладов сделал шведский философ, создатель Института будущего человечества Оксфордского университета, автор известного бестселлера об искусственном интеллекте Ник Бостром. Он подробно рассказал сильным мира сего о своей «концепции чёрных шаров в уязвимом мире». Несомненно, эта концепция окажет влияние на выбор тех или иных решений в сфере хронополитики, как в Соединенных Штатах и Великобритании, так и, вероятно, в странах ЕС. Несомненно, её будет учитывать в своих практических действиях Китай и примет во внимание Япония. Поскольку только что появившаяся концепция практически не известна в нашей стране, есть смысл рассмотреть ее достаточно подробно.
Бостром заявил, что один из способов взглянуть на человеческую историю – это использовать метафору процесса извлечения шаров из урны, подобно тому, как это происходит при жеребьевке чемпионатов мира. Шары представляют собой всевозможные идеи, технологии, институции, открытия и даже привычки. В течение истории человечество извлекло очень много шаров – в подавляющем большинстве белых, пушистых и полезных. Однако можно вспомнить несколько случаев извлечения серых шаров, которые наряду с благодеяниями принесли проблемы и головные боли.
Если суммировать результаты жеребьевок, которыми является всемирная история, то кумулятивное воздействие этого процесса на состояние человечества до настоящего времени было, несомненно, положительным при некоторых неприятных локальных исключениях. Однако возникает сакраментальный вопрос: где гарантия, что этот праздник жизни продолжится и в будущем? Изучая, что за шары извлекались в процессе всемирной истории, нельзя не заметить, что мы ни разу не извлекли по-настоящему чёрного шара, который содержал бы технологию, безальтернативно и по умолчанию, разрушающую цивилизацию, которая ее создала. Здесь важно обратить внимание на вроде бы неприметное слово – по умолчанию. По логике шар с ядерной энергией дает возможность уничтожить человеческую цивилизацию. Но это не может произойти по умолчанию. Кто-то должен начать глобальную войну. А человеческая история показывает, что даже в самых критических ситуациях политическим лидерами хватало осторожности не запускать машину судного дня. Настоящий чёрный шар – это технология, которая сама по себе, в рамках саморазвития, незаметно, вследствие усилий различных не связанных между собой групп и команд, преследующих свои собственные интересы, способна до основания или в основном разрушить цивилизацию. Технологии чёрного шара – это всегда технологии, каждый шаг развития которых сам по себе воспринимается обществом как достаточно безопасный. Однако, накапливаясь, эти шаги приводят к качественному скачку, переходу на другой уровень, который несет с собой экзистенциональные риски и смертельные угрозы.
Причина того, что нам не попался настоящий чёрный шар, по мнению Бострома, ни в какой-то особой человеческой мудрости или осмотрительности сильных мира сего. Нам пока просто везло. Похоже, что ни одна человеческая цивилизация не была разрушена до основания своими собственными изобретениями. Внимательный анализ краха цивилизаций позволяет выявить другие причины гибели цивилизации.
Остается открытым ключевой вопрос, а есть ли в урне по-настоящему чёрные шары? Поскольку мир устроен симметрично, то не может быть вселенной, где присутствуют только белые шары. Чёрные шары обязательно должны быть. Соответственно, по мнению Бострома, однажды в ходе НИОКР и технологических разработок человечество обязательно вытащит, а возможно, уже вытащило тот самый роковой чёрный шар. Наша цивилизация обладает странной способностью подбирать все шары, которые оказываются под ногами, и не обладает силой воли выбросить хоть один обратно в урну. Мы можем совершить открытие, но совершенно не способны к закрытию. Вся человеческая стратегия – это надеяться, что либо чёрных шаров в корзине нет, либо божье проведение оставит их на самый последок.
Доклад Бострома развивает некоторые концепции, которые могут помочь лицам, принимающим решения, особенно в сообществе спецслужб, признанном распознавать возможности, риски и угрозы, определить настоящий, а не кажущийся цвет шара. И соответственно, когда чёрный шар все-таки вытащат, постараться сделать практические шаги, чтобы минимизировать, насколько это возможно, вред от этого события.
Бостром полагает, что ответом на вызов чёрного шара может быть только создание эшелонированной глобальной системы научного мониторинга и постепенное движение от странового к глобальному торможению, и более того, блокировке тех направлений технологического развития, которые несут в себе угрозу чёрного шара. С глобальными угрозами можно бороться только используя глобальные институты, которым не просто доверяют, а подчинены все локальные структуры. Патриотизм, по его мнению, хорош для века пароходов, бензина и танков. Нынешние угрозы не могут быть блокированы на страновом уровне. Бостром не относит себя к числу оптимистов, полагающих, что у человечества хватит ума в ближайшие 10-15 лет отказаться от национального эгоизма, страновых правительств, и перейти к глобальному управлению. Однако пытается объяснить безальтернативность этого варианта, т.к. в любом другом случае последствия чёрного шара будут либо летальными, либо в лучшем случае, трагическими для человечества.
Для этого Бостром рисует более конкретную картину, как может выглядеть технологический чёрный шар. Наиболее очевидным видом такого чёрного шара является технология, которая позволяет очень быстро раскрыть чрезвычайно мощную разрушительную силу и при этом для своего появления и развития не требует массивных общегосударственных или международных программ, подобно тому, как это было с атомным оружием.
Гипотеза уязвимого мира
Казалось бы, человечество однажды уже вытащило чёрный шар. Но смогло отвести угрозу самоуничтожения. Это – термоядерное оружие. Однако, по мнению Бострома, открытие термоядерной энергии и использование ее в военных целях не являлось настоящим чёрным шаром. Причина в следующем. Создание атомной бомбы потребовало реализации циклопических, непревзойденных до сих пор государственных программ. Эти программы хорошо отслеживались и анализировались всеми конкурирующими сторонами. Таким образом, в 40-е гг. мы к счастью вытащили не чёрный, а серый шар.
Бостром вводит гипотезу, что технологическая урна содержит хотя бы один чёрный шар. Он называет ее «гипотезой уязвимого мира». Суть гипотезы в том, что существует некоторая технология, имеющая тенденцию к саморазвитию, с огромным разрушительным потенциалом, и при этом относительно малозатратная и саморазвивающаяся. Когда мы найдем такую технологию, цивилизация почти наверняка разрушится, если в самые ближайшие годы не будут реализованы весьма экстраординарные и исторически беспрецедентные мероприятия, связанные как с государственным и трансгосударственным управлением, так и превентивным контролем над поведением.
Вполне вероятно, считает Бостром, что мы уже достали, либо вот-вот достанем чёрный шар, и он покончит с нашей цивилизацией, если мы не выйдем из полуанархического состояния, которым характеризуется современный мир.
Под полуанархическим состоянием подразумевается мировой порядок, а точнее беспорядок, описываемый тремя чертами:
1. Законодательно и ценностно ограниченные возможности для превентивного контроля и профилактической полиции. Государства не имеют в настоящее время достаточно надёжных средств сплошного наблюдения за частной и общественной жизнью групп и лиц, несущих обществу особую опасность. Эта опасность не обязательно связана с их идеологическими пристрастиями и политическими убеждениями, а порождена, прежде всего, их научно-технологическим компетенциями и знаниями. В настоящее время в США и странах ЕС такой превентивный контроль совсем не одобряет порядка двух третей населения, а умеренно не одобряет ещё 15-20%. По факту, население планеты, особенно в развитых странах, завороженное гаждетами и социальными сетями, живет в иллюзорном мире, законодательство которого сложилось в середине прошлого века в совершенно иную технологическую эпоху;
2. Крайне ограниченные возможности глобального управления. Международные организации, задуманные как эффективные институты глобального регулирования и сохранения мира после Второй мировой войны, типа ООН, Совета безопасности, Международного валютного фонда, Всемирного банка и т.п. показали , по мнению Бострома, свою полную неэффективность в современном турбулентном мире. Военные блоки, созданные в период Холодной войны, выглядят как пережитки прошлого и способ возложить военные расходы исключительно на Соединенные Штаты. Различного рода консультативные негосударственные органы, типа Трехсторонней комиссии, Римского клуба, Давосского форума были эффективны лишь короткий период времени и в настоящий момент либо прекратили свое существование, либо представляют собой декоративные вывески. При том, что все угрозы цивилизации носят глобальный характер, никаких глобальных эффективных институтов не существует. Глобальным эффективным институтом является институт, на который консенсусно возложена функция поддержания порядка, безопасности и принуждения, в том числе государств, угрожающих глобальной безопасности.
Бостром полагает, что самой большой опасностью для человечества в настоящее время является концепция нерушимости и приоритета национального суверенитета. Фактически она означает, что та или иная страна на своей территории может делать всё, что заблагорассудится её элите, в том числе нанося колоссальный ущерб человечеству, делая и без того мизерными призрачные шансы на выживание. Речь в данном случае не идет о военной агрессии той или иной страны. Гораздо больший ущерб может нанести внутристрановая научно-технологическая, научно-техническая, ресурсная или кибер политика. Человек получил землю без государственных границ. Если государства до конца 20-х гг. останутся основными акторами и регуляторами, то шансов на выживание у нынешней цивилизации не будет;
3. Движущие мотивы. Человеческая мотивация и психология не слишком изменилась за последние 500 лет. Глобальное торжество западной цивилизации привело к тому, что повсеместно на первый план выдвигаются личные мотивы и интересы, включая деньги, власть, статус, комфорт, удобство и стремление достичь их любой ценой, прежде всего за счет победы в конкурентной борьбе над ближним. Человек, как социо-биологическое существо, относится к крайне незначительному числу высших млекопитающих, которые практикуют убийства друг друга и даже каннибализм. В последние 100 лет под воздействием капитализма общественные, коллективистские мотивы и стимулы были не просто оттеснены на периферию, а основательно разрушены. Ждать от общества, где каждый выживает в одиночку, какой-либо солидарности, по меньшей мере, наивно. Бостром полагает, что с учетом того, что чёрный шар либо уже находится в наших руках, либо скоро попадет к нам, у цивилизации нет времени воспитывать альтруизм, коллективизм, солидарность. Если человечество хочет выжить, необходимо переходить к политике принуждения к коллективизму и солидарности, а также к ограничению потребительства.
Одновременно Бостром вводит термин «опустошение цивилизации». Он предполагает, что при бесконтрольном развитии технологий неизбежно произойдет экзистенциональная катастрофа, связанная в предельном варианте с уничтожением хомо сапиенс, а в оптимистическом – с откатом нынешней цивилизации примерно в период раннего средневековья.
Формулируя приведенные выше три порока современной цивилизации, установлена планка ниже, чем в случае полноценного чёрного шара. При сохранении указанных выше трех пороков цивилизационного устройства, уже применяющиеся биотехнологии могут привести к катастрофическим последствиям с отбрасыванием цивилизации на десятилетия, а то и столетия назад.
Подлинная проблема состоит в том, что никто - ни правящие элиты, ни правительственные чиновники, олицетворяющие институции, ни население – не готовы отказаться от того беспорядочного, неэффективного устройства, которое по недоразумению называют новым мировым порядком. Бостром его называет цивилизационной разрухой. Он полагает, что преодолеть её можно только в том случае, если в мире буквально в ближайшие годы произойдет какая-то крупная локальная катастрофа, жертвы которой будут исчисляться сотнями тысяч человек, которая заставит задуматься о том пути, по которому человечество движется. Если этого не случится, то расчеты, проведенные по обе стороны океана, на мощных имитационных моделях показывают, что наиболее вероятным сценарием мировой динамики с шансами до 70% является смерть 25% населения мира и сокращение мирового ВВП более чем на 50% в течение ближайших 15-25 лет.
Технологиями Бостром считает не только машины и физические устройства, но и программные продукты, программно-аппаратные решения, психопрактики, организационные методы, идеологии и т.п. Каждый из этих видов технологий может стать чёрным шаром. Он говорит об уязвимостях открытия и закрытия. В сценарии «легкого ядерного оружия» период уязвимости начинается, когда находится легкий способ производства ядерных зарядов. Период уязвимости закрывается или закрывается, когда изобретается технология или технологический пакет, которые делают возможным превентивное предупреждение ядерных взрывов, в том числе принуждение обладателей ядерным оружием к ядерному разоружению.
Если защитная технология невозможна и технологический регресс не происходит, то мир становится постоянно уязвимым. Ещё один эмпирический факт, который Бостром предлагает постоянно держать в уме политикам, представителям разведывательного сообщества и чиновникам – это асимметрия мира. Для того, чтобы довести научную идею до технологического воплощения, могут потребоваться даже не годы, а десятилетия, а для того, чтобы применить в разрушительных целях ту или иную технологию, может хватить и одного дня. К сожалению, вселенная устроена асимметрично. Созидание трудно, затратно и требует длительного времени. А разрушение, как правило, дешево и мгновенно. Соответственно путь от первых приматов до нынешней цивилизации потребовал десятков тысяч лет упорного труда. А вот поездка в обратный конец может занять всего несколько лет.
Типология уязвимостей
Бостром выделяет несколько типов цивилизационных уязвимостей.
Тип 1 (вариант «легкого ядерного оружия»). При этом типе также как в гипотетическом сценарии «легкого ядерного оружия» отдельные люди или небольшие группы получают в руки оружие массового уничтожения. Еще в 60-е гг. прошлого века польский мыслитель и фантаст С.Лем сформулировал закон возрастания летального потенциала малых групп по мере технологического прогресса. Суть закона в следующем. Наш привычный технологический прогресс как сумма белых шаров, тем не менее, чем дальше, тем больше предоставляет одиночками и малым группам возможности нанести ущерб или лишить жизни не единицы и десятки, а тысячи, десятки и сотни тысяч людей. Этот закон действует, согласно анализу Лема, с XVI века и имеет тенденцию к экспоненциальному наращиванию летальных возможностей одиночек и малых групп. Свою гипотезу Лем впервые изложил в 1967 г. в книге «Сумма технологий». За истекшие полвека интуиция Лема превратилась в эмпирически подтвержденную закономерность. В мире всеобщей связанности, интернета вещей и тотальной информатизации малые группы, вооруженные биотехнологическим или кибероружием, могут поставить на грань выживания мегаполисы с населением в миллионы и миллионы человек.
При этом типе не предполагается появления некоего артефакта в виде чёрного шара. Глобальная разруха и анархия, а также несоответствие личного и общественного сознания цивилизационным вызовам ведут к тому, что уже сегодня малые группы, вооруженные кибероружием и разрушительными биотехнологическими разработками, вполне могут устроить апокалипсис как минимум в масштабе мегаполиса.
С учётом высокой связанности мира, уже сегодня, без всяких чёрных шаров, в течение последующего десятилетия велика вероятность цивилизационного опустошения за счет первоначального катастрофического события, связанного с терактом и вызванной им последующей, распространяющейся по миру эпидемией технологических отказов и аварий.
При данном типе уязвимостей существует обратная зависимость между легкостью, с которой становится возможным вызвать инцидент и деструктивностью его последствий. Бостром считает, что при уязвимостях первого типа верным будет следующее утверждение: чем более легким является осуществление подобного инцидента, тем большие разрушительные последствия он может иметь. Он рассматривает сценарий очень легкого ядерного оружия, при котором любая квалифицированная инженерная группа может создать переносимое термоядерное оружие, что называется «в гараже» в течение пары недель и не быть обнаруженной правоохранителями. Этот вариант полностью подходит под ситуацию уязвимости цивилизации.
В конечном счете, уязвимость появляется тогда, когда технологией легко воспользоваться, не прикладывая к этому особых инженерных, финансовых и иных усилий, которые могут быть обнаружены разведывательными сообществами или правоохранителями. Таким образом, уязвимость первого типа существует, если она может чрезвычайно легко причинить умеренное количество вреда, либо умеренно легко причинить чрезвычайное количество вреда. Причина, по которой, полагаю, нет смысла излишне концентрироваться на уязвимостях первого типа, к которым привлечено основное внимание общественности и спецслужб, состоит в следующем. Еще в 80-е гг. прошлого века в рамках засекреченных учений ФБР группа выпускников MIT, используя лишь продаваемые без каких-либо документов и ограничений устройства, материалы и компоненты, смогла в Бруклине в течение двух недель изготовить незаметно для ничего не подозревающих правоохранителей, а также агентов ФБР, так называемую «грязную атомную бомбу». Тот факт, что за последние 25 лет эта возможность не реализована в реальности, говорит о внутренних, встроенных, хотя и не вполне известных нам механизмах, не позволяющих реализовать на практике идею частного ядерного оружия. Соответственно пока статус открытия ядерных технологий может быть охарактеризован серым, но не чёрным, шаром.
Тип – 2А. Безопасный первый удар. Технологии, которые демократизируют оружие массового уничтожения, это не единственный вид чёрного шара, который можно вытащить из урны. Другим видом будут технологии, которые стимулируют влиятельных игроков использовать свое преимущество обладания оружием массового уничтожения.
Тип 2А – это уязвимость непреодолимого искушения нанести удар по врагу пока он не имеет возможности нанести ответный удар. Уязвимость типа 2А характеризует появление технологий, располагаемых одним из влиятельных субъектов, который стремится использовать ее для того, чтобы покончить с нынешним миропорядком. Здесь важно отметить следующее обстоятельство. Военная история фиксирует два твердо установленных факта монопольного обладания смертоносным оружием влиятельными субъектами в течение относительно продолжительного времени: в одном случае примерно 25 лет, в другом – пяти. Речь идёт соответственно о ядерном потенциале США в 40-50-е гг. и уникальном японском бактериологическом потенциале, которым страна располагала в 30-40-е гг. прошлого века. Можно предположить, что при всех недостатках и негативах, свойственных политическим элитам, у них даже в экстремальных случаях хватает ума, ответственности или просто страха не использовать своего решающего преимущества. Поэтому и данные технологические пакеты справедливо маркировать не чёрными, а серыми шарами.
Тип 2Б («Хуже глобального потепления»). Ещё один способ опустошения мира связан с изменением климата.
Согласно последним расчётам Министерства энергетики США в том случае, если до 2025 г. не удастся ограничить прирост годовой температуры примерно до 1,5-2 градусов, то при сохранении тенденций нарастающей турбулентности погоды и роста сейсмической активности в 2030-2035 гг. наступит точка невозврата. Проблема даже не в том, что в середине столетия неизбежно, если не предпринять никаких срочных мер, под воду уйдут Нью-Йорк, Лондон, Санкт-Петербург, Сингапур и Гонконг, а в том, что при таком росте температуры произойдет полное исчезновение большинства видов насекомых и пчёл. Их численность за последние 25 лет уже сократилась на 70-80%. Уничтожение насекомых приведет к глобальному краху пищевых цепочек и сложившихся биоценозов по всей планете. Соответственно человечество окажется перед смертельной угрозой, которой совершенно непонятно, что можно будет противопоставить.
Уязвимость «худшего глобального потепления» принципиально отличается от уязвимости «первого безопасного удара». В случае уязвимости первого удара всегда есть конкретный субъект, который должен преодолеть страх немыслимого и осуществить действия, невиданные в истории человечества. Как показывает история, у элит есть внутренний встроенных контур, блокирующий уничтожение человечества одним ударом. В сценарии «худшего глобального потепления» ситуация принципиально иная. Нет одного единственного субъекта, от которого все зависит. Вместо этого существует большое количество значимых группировок элитных образований, каждая из которых надеется перехитрить другие и что называется «заработать на кризисе».
В теории игр и институциональной экономике хорошо известен термин «трагедия общин». Он характеризует ситуацию, когда определенная, зачастую, немалая часть участников сообщества сознательно бесплатно потребляет коллективные ресурсы, полагая, что другие в силу различных причин будут продолжать брать на себя бремя сохранения общины. Даже в обыденной жизни хорошо известно, что в каждом коллективе есть халявщики и захребетники.
Уязвимость этого варианта состоит в том, что опустошение земли может наступить в силу недостатков и несогласованностей в коллективной деятельности множества участников. Главное, что каждый из участников, хотя и входит в сообщество, действует самостоятельно и независимо.
Тип 0 (Удивительные странники). В 1942 г. один из руководителей Манхэттенского проекта поделился с руководством опасением, что ядерный взрыв создаст температуру беспрецедентную в истории Земли и это может вызвать самопроизвольное распространение термоядерной реакции в окружающем воздухе или в воде. Проверочные расчёты показали, что особого риска нет. После этого решились на проведение эксперимента с расщеплением ядерного ядра. Эксперимент подтвердил правильность расчетов.
Однако кошмар истории в том, что резюме заключения о возможности проведения эксперимента по расщеплению ядерного ядра содержало такие строки. Недавно они найдены в архивах: «Риск гибели планеты крайне маловероятен, поэтому целесообразно проверить это экспериментально…» Спустя 12 лет в секретном ядерном эксперименте Castle Bravo планировалось испытать опытный экземпляр термоядерной бомбы не на основе урана или плутона, а на основе лития. Поскольку точно никто не знал, насколько мощным будет ядерный взрыв и каковы будут последствия, повторилась ситуация Манхэттенского проекта. Провели расчеты и выяснилось, что рванет на 6 мегатонн с диапазоном неопределенности 4-8 мегатонн. В Тихом океане был произведен взрыв. Взрыв получился в 15 мегатонн или 1 тыс хиросим и разрушил большую часть испытательного полигона вместе со всем оборудованием. Короче, ученые ошиблись в расчетах. Когда тогдашний президент США Эйзенхауэр призвал военных к ответу, они сообщили: «Всякое бывает с новой техникой». Называя вещи своими именами, миру просто сильно повезло.
Исследователи любят именовать себя очарованными странниками в неведомое. Когда неведомое – кости мамонтов, новые сплавы, либо наблюдения за бабуинами, любопытство исследователей и тяга к прогрессу даже в худшем случае дешево обойдутся человечеству. Но сегодня никто не знает, чем закончится эпопея с попытками экспериментально выяснить, что такое на самом деле «темная энергия», как в реальности работает наследственная система человека, каковы пределы взаимодействия человека и компьютера и т.п. Вполне вероятно, что опыт в этих и других сходных областях может стать последним опытом человечества.
Самое худшее в этой истории связано не с наукой и технологией, а с политикой и лидерством. Бостром полагает, что американский президент не может отказать своим физикам в создании новой сверхмощной установки для проникновения в тайны мироздания с неясными последствиями просто потому, что аналогичную установку уже строят китайцы. Британцы не могут запретить практических работ по скрещиванию человека с искусственно полученными эмбрионами. Эти работы не планируются, а уже ведутся в некоторых странах Юго-Восточной Азии. Осторожность и осмотрительность в высококонкурентном и враждебном мире просто невозможны. Это – главный урок, который необходимо извлечь.
Достижение стабильности
Плохая новость в том, полагает Бостром, что человечество однажды неизбежно достанет чёрный шар. Хорошая – в том, что это не означает, что цивилизация будет непременно опустошена. Есть, по крайней мере, несколько возможностей стабилизации мира даже уязвимого мира. Бостром рассматривает следующие возможности достижения стабилизации:
- Блокировка отдельных направлений технологического развития.
- Выстраивание иерархического мирового порядка, когда доминат частично передаст свои функции региональным и отраслевым по направлениям развития науки, техники и технологий субдоминатам. Конечно, это будет смахивать на феодализм в масштабах планеты и закрепит несправедливость. Однако такая система позволит оперативно выявлять и пресекать опасности.
- Установление эффективного глобального управления во главе с доминатом и справедливым участием субдоминатов.
- Решительное изменение норм международного права, а также создание глобального органа власти, осуществляющего быстрые превентивные меры в отношении нарушителей глобального договора о торможении технологического развития.
Ограничения в развитии технологий : от сдерживания технологических разработок – к глобальной научной инквизиции
В общем виде идея технологического регресса выглядит предельно бесперспективной. Технологическая блокировка в наиболее явном и последовательном виде требует прекращения изобретательской деятельности по всему миру. Это невозможно. Однако невозможность общего отказа от научных и технологических исследований не означает целесообразности ограничения научно-исследовательской и особенно технологической деятельности по определенным направлениям и технопакетам. Бостром предлагает отказаться от особенно опасных направлений развития, связанных в первую очередь с проникновением в глубины материи, выяснением реальной, а не упрощенной, картины с наследственностью, созданием саморазвивающихся программно-аппаратных средств и т.п.
Он считает, что целесообразно на основе согласованной работы ведущих фабрик мысли в самой ближайшей перспективе сформировать перечень сдерживаемых исследовательских тем и блокируемых технопакетов, и вынести его на обсуждение домината и субдоминатов. Должен быть сформирован перечень запрещенных направлений научных исследований и разработок, а также установлены оборудование и другие компоненты, требуемые для подобной работы. Также необходимо создать на основе усилий разведывательных сообществ полные и постоянно пополняемые списки всех компаний, творческих коллективов и отдельных исследователей и разработчиков, теоретически способных на свой страх и риск, либо при сторонней поддержке вести запрещенные исследования и разрабатывать технопакеты.
В этих целях Бостром предлагает реализовать принцип дифференцированного научно-технологического торможения. Реализация этого принципа потребует создания (внимание – дословно) наднациональной разведывательной и контрразведывательно - карающей структуры, способной к ежедневным практическим действиям. Это должно стать своего рода глобальной научной инквизицией. Однако в отличие от инквизиции, эта структура должна определять не научность или ненаучность тех или иных разработок, а их опасность для человечества.
Бостром замечает, что не следует переоценивать возможности такого рода политики. Бесспорно, научно-технологический прогресс имеет собственную, лишь частично зависимую от социально-экономической динамики, траекторию. Вероятно, никакие политические, правовые и даже карательные меры не могут остановить технологическое развитие в силу внутренней логики этого процесса. Однако такого рода структуры могут оказать серьезное влияние на время, когда будут разработаны и запущены те или иные технологии. Он говорит, что надо быть реалистами и понимать, что цель такой структуры, в конечном счете, это – не вечная блокировка научных открытий и технопакетов, а лишь регулирование времени воплощения научных открытий в технологические разработки. Это достаточно релевантная и реализуемая задача. В основу деятельности своеобразной новой научной инквизиции должен быть положен принцип: разрушительные технологии должны появляться, как факт повседневной жизни лишь тогда когда уже созданы защитные технологии. Т.е. щит всегда должен опережать меч.
Время изобретения также влияет на социально-политический контекст использования технологий. Коль скоро человеческая цивилизация будет время от времени доставать чёрные шары, возможно отложить самые рискованные технологические разработки или, по крайней мере, сдерживать их на стадии научных открытий, а не инструментальных технологий. Даже если мы предположим, говорит Бостром, что цивилизационные разрушения неизбежны, а скорее всего дело обстоит именно так, то любой нормальный человек предпочтет, чтобы это произошло как можно в более отдаленном будущем, когда он сам и его близкие уже уйдут из жизни. Психологические опыты показывают, что люди воспринимают время, простирающееся не более чем на жизнь их внуков. Поэтому, коль скоро однажды предстоит достать из урны чёрный шар, который опустошит цивилизацию, лучше, чтобы это произошло к концу текущего столетия, а не в его первой половине.
Бостром признает, что реализация технологической блокировки является сложнейшей стратегической задачей. Тем не менее, рекомендует «ответственным» политикам, предпринимателям, исследователям, которые заботятся о том, чтобы их дети и внуки жили, попробовать взяться за эту задачу. Некоторые направления, такие как синтетическая биология, физика темной энергии, лазерное разделение изотопов, геоинженерия уже сегодня вызывают большую тревогу не только у разведывательного сообщества, политиков, но и у широкой общественности. Поэтому дальновидно было бы в ходе подготовки глобального соглашения о торможении технологий, начать с малого, и лишь затем, пользуясь общественным мнением, стремительно запретить то, что можно запретить.
Бостром предлагает и другой теоретически возможный способ достижения цивилизационной стабильности – это резкое уменьшение количества конкурирующих акторов, принимающих самостоятельные решения в области развития науки и техники, и применения технологий. Наиболее мягкий и одновременно сложный и малоэффективный способ – это установление различных форм координации между ними. Степень, в которой этот подход может быть эффективным, в решающей степени зависит от того, с каким типом уязвимостей придется столкнуться человечеству. В случае уязвимости ?