Аналитическая компания Altmetric подготовила рейтинг публикаций в научных журналах, которые вызвали наибольший резонанс, привлекли внимание политиков, журналистов и широкой общественности в 2018 году.
Оказалось, что прошедший год стал самым мрачным за последнее десятилетие.
Восемь из десяти самых популярных научных публикаций были посвящены необратимому разрушительному воздействию, которое человек оказывает на природу, различным катаклизмам и катастрофическому ухудшению здоровья общества.
Важно отметить, что этот анализ осуществлен до появления научных статей о рождении первых детей, которые прошли через редактирование генов, будучи эмбрионами. Об этом эксперименте в конце ноября 2018 года рассказал MIT Technology Review.
Эксперимент осуществлен в небольшой китайской больнице, в которой семь пар, включая ВИЧ – положительных мужчин, отдали яйцеклетки и семя доктору Хе Цзянкуй и его коллегам из Южного научно – исследовательского института Шеньчжэня на редактирование с применением CRISPR – Cas 9.
Целью учёных было удаление молекулярной «двери», которая позволяла вирусу СПИДа проникать в Т – клетки. В результате две девочки – близняшки стали имунными к ВИЧ. Такой прорыв, казалось бы, должен стать поводом к всемирному ликованию.
Вместо этого поднялась волна цунами публикаций о грядущем биотехнологическом армагедоне. Предостерегающее заявление делает ЮНЕСКО, ВОЗ создает специальную группу по изучению этой ситуации. Власти Китая запретили ученым, которые провели описанный эксперимент, продолжать исследования на этом направлении.
Одновременно в КНР принято решение, суть которого в том, что китайские ученые, которые совершают научные нарушения, могут лишиться возможности получить банковский кредит, создать компанию или поступить на государственную службу. Что же произошло? Неужели событие, которое известный исследователь Ник Бостром назвал извлечением чёрного шара?
О концепции чёрного шара
Летом и осенью уходящего года по обе стороны Атлантики по инициативе высшей правящей элиты, а также разведывательных сообществ прошел ряд особо не афишируемых в медиа конференций по проблемам хронополитики.
Если к сфере геополитики относятся вопросы господства на той или иной территориях, то хронополитика – это борьба за будущее, за завоевание господствующего положения при формировании динамик мирового и регионального развития. На этих конференциях выступили лидеры ведущих «фабрик мысли».
Один из докладов сделал шведский философ, создатель Института будущего человечества Оксфордского университета,автор известного бестселлера об искусственном интеллекте Ник Бостром. Он подробно рассказал сильным мира сего о своей «концепции чёрных шаров в уязвимом мире».
Несомненно, эта концепция окажет влияние на выбор тех или иных решений в сфере хронополитики, как в Соединенных Штатах и Великобритании, так и, вероятно, в странах ЕС. Несомненно, её будет учитывать в своих практических действиях Китай и примет во внимание Япония.
Поскольку только что появившаяся концепция практически не известна в нашей стране, есть смысл рассмотреть ее достаточно подробно.
Бостром заявил, что один из способов взглянуть на человеческую историю – это использовать метафору процесса извлечения шаров из урны, подобно тому, как это происходит при жеребьевке чемпионатов мира. Шары представляют собой всевозможные идеи, технологии, институции, открытия и даже привычки.
В течение истории человечество извлекло очень много шаров – в подавляющем большинстве белых, пушистых и полезных. Однако можно вспомнить несколько случаев извлечения серых шаров, которые наряду с благодеяниями принесли проблемы и головные боли.
Если суммировать результаты жеребьевок, которыми является всемирная история, то кумулятивное воздействие этого процесса на состояние человечества до настоящего времени было, несомненно, положительным при некоторых неприятных локальных исключениях.
Однако возникает сакраментальный вопрос: где гарантия, что этот праздник жизни продолжится и в будущем? Изучая, что за шары извлекались в процессе всемирной истории, нельзя не заметить, что мы ни разу не извлекли по-настоящему чёрного шара, который содержал бы технологию, безальтернативно и по умолчанию, разрушающую цивилизацию, которая ее создала.
Здесь важно обратить внимание на вроде бы неприметное слово – по умолчанию. По логике шар с ядерной энергией дает возможность уничтожить человеческую цивилизацию. Но это не может произойти по умолчанию. Кто-то должен начать глобальную войну. А человеческая история показывает, что даже в самых критических ситуациях политическим лидерами хватало осторожности не запускать машину судного дня.
Настоящий чёрный шар – это технология, которая сама по себе, в рамках саморазвития, незаметно, вследствие усилий различных не связанных между собой групп и команд, преследующих свои собственные интересы, способна до основания или в основном разрушить цивилизацию.
Технологии чёрного шара – это всегда технологии, каждый шаг развития которых сам по себе воспринимается обществом как достаточно безопасный. Однако, накапливаясь, эти шаги приводят к качественному скачку, переходу на другой уровень, который несет с собой экзистенциональные риски и смертельные угрозы.
Причина того, что нам не попался настоящий чёрный шар, по мнению Бострома, ни в какой-то особой человеческой мудрости или осмотрительности сильных мира сего. Нам пока просто везло. Похоже, что ни одна человеческая цивилизация не была разрушена до основания своими собственными изобретениями. Внимательный анализ краха цивилизаций позволяет выявить другие причины гибели цивилизации.
Остается открытым ключевой вопрос, а есть ли в урне по-настоящему чёрные шары? Поскольку мир устроен симметрично, то не может быть вселенной, где присутствуют только белые шары. Чёрные шары обязательно должны быть.
Соответственно, по мнению Бострома, однажды в ходе НИОКР и технологических разработок человечество обязательно вытащит, а возможно, уже вытащило тот самый роковой чёрный шар. Наша цивилизация обладает странной способностью подбирать все шары, которые оказываются под ногами, и не обладает силой воли выбросить хоть один обратно в урну.
Мы можем совершить открытие, но совершенно не способны к закрытию. Вся человеческая стратегия – это надеяться, что либо чёрных шаров в корзине нет, либо божье проведение оставит их на самый последок.
Доклад Бострома развивает некоторые концепции, которые могут помочь лицам, принимающим решения, особенно в сообществе спецслужб, признанном распознавать возможности, риски и угрозы, определить настоящий, а не кажущийся цвет шара. И соответственно, когда чёрный шар все-таки вытащат, постараться сделать практические шаги, чтобы минимизировать, насколько это возможно, вред от этого события.
Бостром полагает, что ответом на вызов чёрного шара может быть только создание эшелонированной глобальной системы научного мониторинга и постепенное движение от странового к глобальному торможению, и более того, блокировке тех направлений технологического развития, которые несут в себе угрозу чёрного шара.
С глобальными угрозами можно бороться только используя глобальные институты, которым не просто доверяют, а подчинены все локальные структуры. Патриотизм, по его мнению, хорош для века пароходов, бензина и танков.
Нынешние угрозы не могут быть блокированы на страновом уровне. Бостром не относит себя к числу оптимистов, полагающих, что у человечества хватит ума в ближайшие 10-15 лет отказаться от национального эгоизма, страновых правительств, и перейти к глобальному управлению.
Однако пытается объяснить безальтернативность этого варианта, т.к. в любом другом случае последствия чёрного шара будут либо летальными, либо в лучшем случае, трагическими для человечества.
Для этого Бостром рисует более конкретную картину, как может выглядеть технологический чёрный шар. Наиболее очевидным видом такого чёрного шара является технология, которая позволяет очень быстро раскрыть чрезвычайно мощную разрушительную силу и при этом для своего появления и развития не требует массивных общегосударственных или международных программ, подобно тому, как это было с атомным оружием.
Гипотеза уязвимого мира
Казалось бы, человечество однажды уже вытащило чёрный шар. Но смогло отвести угрозу самоуничтожения. Это – термоядерное оружие. Однако, по мнению Бострома, открытие термоядерной энергии и использование ее в военных целях не являлось настоящим чёрным шаром.
Причина в следующем. Создание атомной бомбы потребовало реализации циклопических, непревзойденных до сих пор государственных программ. Эти программы хорошо отслеживались и анализировались всеми конкурирующими сторонами. Таким образом, в 40-е гг. мы к счастью вытащили не чёрный, а серый шар.
Бостром вводит гипотезу, что технологическая урна содержит хотя бы один чёрный шар. Он называет ее «гипотезой уязвимого мира». Суть гипотезы в том, что существует некоторая технология, имеющая тенденцию к саморазвитию, с огромным разрушительным потенциалом, и при этом относительно малозатратная и саморазвивающаяся.
Когда мы найдем такую технологию, цивилизация почти наверняка разрушится, если в самые ближайшие годы не будут реализованы весьма экстраординарные и исторически беспрецедентные мероприятия, связанные как с государственным и трансгосударственным управлением, так и превентивным контролем над поведением.
Вполне вероятно, считает Бостром, что мы уже достали, либо вот-вот достанем чёрный шар, и он покончит с нашей цивилизацией, если мы не выйдем из полуанархического состояния, которым характеризуется современный мир.
Под полуанархическим состоянием подразумевается мировой порядок, а точнее беспорядок, описываемый тремя чертами:
1. Законодательно и ценностно ограниченные возможности для превентивного контроля и профилактической полиции. Государства не имеют в настоящее время достаточно надёжных средств сплошного наблюдения за частной и общественной жизнью групп и лиц, несущих обществу особую опасность.
Эта опасность не обязательно связана с их идеологическими пристрастиями и политическими убеждениями, а порождена, прежде всего, их научно-технологическим компетенциями и знаниями. В настоящее время в США и странах ЕС такой превентивный контроль совсем не одобряет порядка двух третей населения, а умеренно не одобряет ещё 15-20%.
По факту, население планеты, особенно в развитых странах, завороженное гаждетами и социальными сетями, живет в иллюзорном мире, законодательство которого сложилось в середине прошлого века в совершенно иную технологическую эпоху;
2. Крайне ограниченные возможности глобального управления. Международные организации, задуманные как эффективные институты глобального регулирования и сохранения мира после Второй мировой войны, типа ООН, Совета безопасности, Международного валютного фонда, Всемирного банка и т.п. показали, по мнению Бострома, свою полную неэффективность в современном турбулентном мире. Военные блоки, созданные в период Холодной войны, выглядят как пережитки прошлого и способ возложить военные расходы исключительно на Соединенные Штаты.
Различного рода консультативные негосударственные органы, типа Трехсторонней комиссии, Римского клуба, Давосского форума были эффективны лишь короткий период времени и в настоящий момент либо прекратили свое существование, либо представляют собой декоративные вывески.
При том, что все угрозы цивилизации носят глобальный характер, никаких глобальных эффективных институтов не существует. Глобальным эффективным институтом является институт, на который консенсусно возложена функция поддержания порядка, безопасности и принуждения, в том числе государств, угрожающих глобальной безопасности.
Бостром полагает, что самой большой опасностью для человечества в настоящее время является концепция нерушимости и приоритета национального суверенитета.
Фактически она означает, что та или иная страна на своей территории может делать всё, что заблагорассудится её элите, в том числе нанося колоссальный ущерб человечеству, делая и без того мизерными призрачные шансы на выживание. Речь в данном случае не идет о военной агрессии той или иной страны.
Гораздо больший ущерб может нанести внутристрановая научно-технологическая, научно-техническая, ресурсная или кибер политика. Человек получил землю без государственных границ. Если государства до конца 20-х гг. останутся основными акторами и регуляторами, то шансов на выживание у нынешней цивилизации не будет;
3. Движущие мотивы. Человеческая мотивация и психология не слишком изменилась за последние 500 лет.
Глобальное торжество западной цивилизации привело к тому, что повсеместно на первый план выдвигаются личные мотивы и интересы, включая деньги, власть, статус, комфорт, удобство и стремление достичь их любой ценой, прежде всего за счет победы в конкурентной борьбе над ближним.
Человек, как социо-биологическое существо, относится к крайне незначительному числу высших млекопитающих, которые практикуют убийства друг друга и даже каннибализм. В последние 100 лет под воздействием капитализма общественные, коллективистские мотивы и стимулы были не просто оттеснены на периферию, а основательно разрушены.
Ждать от общества, где каждый выживает в одиночку, какой-либо солидарности, по меньшей мере, наивно. Бостром полагает, что с учетом того, что чёрный шар либо уже находится в наших руках, либо скоро попадет к нам, у цивилизации нет времени воспитывать альтруизм, коллективизм, солидарность.
Если человечество хочет выжить, необходимо переходить к политике принуждения к коллективизму и солидарности, а также к ограничению потребительства.
Одновременно Бостром вводит термин «опустошение цивилизации». Он предполагает, что при бесконтрольном развитии технологий неизбежно произойдет экзистенциональная катастрофа, связанная в предельном варианте с уничтожением хомо сапиенс, а в оптимистическом – с откатом нынешней цивилизации примерно в период раннего средневековья.
Формулируя приведенные выше три порока современной цивилизации, установлена планка ниже, чем в случае полноценного чёрного шара. При сохранении указанных выше трех пороков цивилизационного устройства, уже применяющиеся биотехнологии могут привести к катастрофическим последствиям с отбрасыванием цивилизации на десятилетия, а то и столетия назад.
Подлинная проблема состоит в том, что никто – ни правящие элиты, ни правительственные чиновники, олицетворяющие институции, ни население – не готовы отказаться от того беспорядочного, неэффективного устройства, которое по недоразумению называют новым мировым порядком. Бостром его называет цивилизационной разрухой.
Он полагает, что преодолеть её можно только в том случае, если в мире буквально в ближайшие годы произойдет какая-то крупная локальная катастрофа, жертвы которой будут исчисляться сотнями тысяч человек, которая заставит задуматься о том пути, по которому человечество движется.
Если этого не случится, то расчеты, проведенные по обе стороны океана, на мощных имитационных моделях показывают, что наиболее вероятным сценарием мировой динамики с шансами до 70% является смерть 25% населения мира и сокращение мирового ВВП более чем на 50% в течение ближайших 15-25 лет.
Технологиями Бостром считает не только машины и физические устройства, но и программные продукты, программно-аппаратные решения, психопрактики, организационные методы, идеологии и т.п. Каждый из этих видов технологий может стать чёрным шаром.
Он говорит об уязвимостях открытия и закрытия.
В сценарии «легкого ядерного оружия» период уязвимости начинается, когда находится легкий способ производства ядерных зарядов. Период уязвимости закрывается или закрывается, когда изобретается технология или технологический пакет, которые делают возможным превентивное предупреждение ядерных взрывов, в том числе принуждение обладателей ядерным оружием к ядерному разоружению.
Если защитная технология невозможна и технологический регресс не происходит, то мир становится постоянно уязвимым.
Ещё один эмпирический факт, который Бостром предлагает постоянно держать в уме политикам, представителям разведывательного сообщества и чиновникам – это асимметрия мира. Для того, чтобы довести научную идею до технологического воплощения, могут потребоваться даже не годы, а десятилетия, а для того, чтобы применить в разрушительных целях ту или иную технологию, может хватить и одного дня. К сожалению, вселенная устроена асимметрично.
Созидание трудно, затратно и требует длительного времени. А разрушение, как правило, дешево и мгновенно. Соответственно путь от первых приматов до нынешней цивилизации потребовал десятков тысяч лет упорного труда. А вот поездка в обратный конец может занять всего несколько лет.
Типология уязвимостей
Бостром выделяет несколько типов цивилизационных уязвимостей.
Тип 1 (вариант «легкого ядерного оружия»). При этом типе также как в гипотетическом сценарии «легкого ядерного оружия» отдельные люди или небольшие группы получают в руки оружие массового уничтожения.
Еще в 60-е гг. прошлого века польский мыслитель и фантаст С. Лем сформулировал закон возрастания летального потенциала малых групп по мере технологического прогресса. Суть закона в следующем. Наш привычный технологический прогресс как сумма белых шаров, тем не менее, чем дальше, тем больше предоставляет одиночками и малым группам возможности нанести ущерб или лишить жизни не единицы и десятки, а тысячи, десятки и сотни тысяч людей.
Этот закон действует, согласно анализу Лема, с XVI века и имеет тенденцию к экспоненциальному наращиванию летальных возможностей одиночек и малых групп. Свою гипотезу Лем впервые изложил в 1967 г. в книге «Сумма технологий».
За истекшие полвека интуиция Лема превратилась в эмпирически подтвержденную закономерность. В мире всеобщей связанности, интернета вещей и тотальной информатизации малые группы, вооруженные биотехнологическим или кибероружием, могут поставить на грань выживания мегаполисы с населением в миллионы и миллионы человек.
При этом типе не предполагается появления некоего артефакта в виде чёрного шара. Глобальная разруха и анархия, а также несоответствие личного и общественного сознания цивилизационным вызовам ведут к тому, что уже сегодня малые группы, вооруженные кибероружием и разрушительными биотехнологическими разработками, вполне могут устроить апокалипсис как минимум в масштабе мегаполиса.
С учётом высокой связанности мира, уже сегодня, без всяких чёрных шаров, в течение последующего десятилетия велика вероятность цивилизационного опустошения за счет первоначального катастрофического события, связанного с терактом и вызванной им последующей, распространяющейся по миру эпидемией технологических отказов и аварий.
При данном типе уязвимостей существует обратная зависимость между легкостью, с которой становится возможным вызвать инцидент и деструктивностью его последствий. Бостром считает, что при уязвимостях первого типа верным будет следующее утверждение: чем более легким является осуществление подобного инцидента, тем большие разрушительные последствия он может иметь.
Он рассматривает сценарий очень легкого ядерного оружия, при котором любая квалифицированная инженерная группа может создать переносимое термоядерное оружие, что называется «в гараже» в течение пары недель и не быть обнаруженной правоохранителями. Этот вариант полностью подходит под ситуацию уязвимости цивилизации.
В конечном счете, уязвимость появляется тогда, когда технологией легко воспользоваться, не прикладывая к этому особых инженерных, финансовых и иных усилий, которые могут быть обнаружены разведывательными сообществами или правоохранителями.
Таким образом, уязвимость первого типа существует, если она может чрезвычайно легко причинить умеренное количество вреда, либо умеренно легко причинить чрезвычайное количество вреда. Причина, по которой, полагаю, нет смысла излишне концентрироваться на уязвимостях первого типа, к которым привлечено основное внимание общественности и спецслужб, состоит в следующем.
Еще в 80-е гг. прошлого века в рамках засекреченных учений ФБР группа выпускников MIT, используя лишь продаваемые без каких-либо документов и ограничений устройства, материалы и компоненты, смогла в Бруклине в течение двух недель изготовить незаметно для ничего не подозревающих правоохранителей, а также агентов ФБР, так называемую «грязную атомную бомбу».
Тот факт, что за последние 25 лет эта возможность не реализована в реальности, говорит о внутренних, встроенных, хотя и не вполне известных нам механизмах, не позволяющих реализовать на практике идею частного ядерного оружия.
Соответственно пока статус открытия ядерных технологий может быть охарактеризован серым, но не чёрным, шаром.
Тип – 2А. Безопасный первый удар. Технологии, которые демократизируют оружие массового уничтожения, это не единственный вид чёрного шара, который можно вытащить из урны. Другим видом будут технологии, которые стимулируют влиятельных игроков использовать свое преимущество обладания оружием массового уничтожения.
Тип 2А – это уязвимость непреодолимого искушения нанести удар по врагу пока он не имеет возможности нанести ответный удар. Уязвимость типа 2А характеризует появление технологий, располагаемых одним из влиятельных субъектов, который стремится использовать ее для того, чтобы покончить с нынешним миропорядком.
Здесь важно отметить следующее обстоятельство. Военная история фиксирует два твердо установленных факта монопольного обладания смертоносным оружием влиятельными субъектами в течение относительно продолжительного времени: в одном случае примерно 25 лет, в другом – пяти.
Речь идёт соответственно о ядерном потенциале США в 40-50-е гг. и уникальном японском бактериологическом потенциале, которым страна располагала в 30-40-е гг. прошлого века. Можно предположить, что при всех недостатках и негативах, свойственных политическим элитам, у них даже в экстремальных случаях хватает ума, ответственности или просто страха не использовать своего решающего преимущества.
Поэтому и данные технологические пакеты справедливо маркировать не чёрными, а серыми шарами.
Тип 2Б («Хуже глобального потепления»). Ещё один способ опустошения мира связан с изменением климата.
Согласно последним расчётам Министерства энергетики США в том случае, если до 2025 г. не удастся ограничить прирост годовой температуры примерно до 1,5-2 градусов, то при сохранении тенденций нарастающей турбулентности погоды и роста сейсмической активности в 2030-2035 гг. наступит точка невозврата.
Проблема даже не в том, что в середине столетия неизбежно, если не предпринять никаких срочных мер, под воду уйдут Нью-Йорк, Лондон, Санкт-Петербург, Сингапур и Гонконг, а в том, что при таком росте температуры произойдет полное исчезновение большинства видов насекомых и пчёл. Их численность за последние 25 лет уже сократилась на 70-80%.
Уничтожение насекомых приведет к глобальному краху пищевых цепочек и сложившихся биоценозов по всей планете. Соответственно человечество окажется перед смертельной угрозой, которой совершенно непонятно, что можно будет противопоставить.
Уязвимость «худшего глобального потепления» принципиально отличается от уязвимости «первого безопасного удара». В случае уязвимости первого удара всегда есть конкретный субъект, который должен преодолеть страх немыслимого и осуществить действия, невиданные в истории человечества.
Как показывает история, у элит есть внутренний встроенных контур, блокирующий уничтожение человечества одним ударом.
В сценарии «худшего глобального потепления» ситуация принципиально иная. Нет одного единственного субъекта, от которого все зависит. Вместо этого существует большое количество значимых группировок элитных образований, каждая из которых надеется перехитрить другие и что называется «заработать на кризисе».
В теории игр и институциональной экономике хорошо известен термин «трагедия общин». Он характеризует ситуацию, когда определенная, зачастую, немалая часть участников сообщества сознательно бесплатно потребляет коллективные ресурсы, полагая, что другие в силу различных причин будут продолжать брать на себя бремя сохранения общины. Даже в обыденной жизни хорошо известно, что в каждом коллективе есть халявщики и захребетники.
Уязвимость этого варианта состоит в том, что опустошение земли может наступить в силу недостатков и несогласованностей в коллективной деятельности множества участников. Главное, что каждый из участников, хотя и входит в сообщество, действует самостоятельно и независимо.
Тип 0 (Удивительные странники). В 1942 г. один из руководителей Манхэттенского проекта поделился с руководством опасением, что ядерный взрыв создаст температуру беспрецедентную в истории Земли и это может вызвать самопроизвольное распространение термоядерной реакции в окружающем воздухе или в воде.
Проверочные расчёты показали, что особого риска нет. После этого решились на проведение эксперимента с расщеплением ядерного ядра. Эксперимент подтвердил правильность расчетов.
Однако кошмар истории в том, что резюме заключения о возможности проведения эксперимента по расщеплению ядерного ядра содержало такие строки. Недавно они найдены в архивах: «Риск гибели планеты крайне маловероятен, поэтому целесообразно проверить это экспериментально…»
Спустя 12 лет в секретном ядерном эксперименте Castle pavo планировалось испытать опытный экземпляр термоядерной бомбы не на основе урана или плутона, а на основе лития. Поскольку точно никто не знал, насколько мощным будет ядерный взрыв и каковы будут последствия, повторилась ситуация Манхэттенского проекта.
Провели расчеты и выяснилось, что рванет на 6 мегатонн с диапазоном неопределенности 4-8 мегатонн. В Тихом океане был произведен взрыв.
Взрыв получился в 15 мегатонн или 1 тыс хиросим и разрушил большую часть испытательного полигона вместе со всем оборудованием. Короче, ученые ошиблись в расчетах. Когда тогдашний президент США Эйзенхауэр призвал военных к ответу, они сообщили: «Всякое бывает с новой техникой». Называя вещи своими именами, миру просто сильно повезло.
Исследователи любят именовать себя очарованными странниками в неведомое. Когда неведомое – кости мамонтов, новые сплавы, либо наблюдения за бабуинами, любопытство исследователей и тяга к прогрессу даже в худшем случае дешево обойдутся человечеству.
Но сегодня никто не знает, чем закончится эпопея с попытками экспериментально выяснить, что такое на самом деле «темная энергия», как в реальности работает наследственная система человека, каковы пределы взаимодействия человека и компьютера и т.п. Вполне вероятно, что опыт в этих и других сходных областях может стать последним опытом человечества.
Самое худшее в этой истории связано не с наукой и технологией, а с политикой и лидерством. Бостром полагает, что американский президент не может отказать своим физикам в создании новой сверхмощной установки для проникновения в тайны мироздания с неясными последствиями просто потому, что аналогичную установку уже строят китайцы.
Британцы не могут запретить практических работ по скрещиванию человека с искусственно полученными эмбрионами. Эти работы не планируются, а уже ведутся в некоторых странах Юго-Восточной Азии.
Осторожность и осмотрительность в высококонкурентном и враждебном мире просто невозможны. Это – главный урок, который необходимо извлечь…
…Осторожность и осмотрительность в высококонкурентном и враждебном мире просто невозможны. Это – главный урок, который необходимо извлечь.
Достижение стабильности
Плохая новость в том, полагает Бостром, что человечество однажды неизбежно достанет чёрный шар. Хорошая – в том, что это не означает, что цивилизация будет непременно опустошена. Есть, по крайней мере, несколько возможностей стабилизации мира даже уязвимого мира.
Бостром рассматривает следующие возможности достижения стабилизации:
– Блокировка отдельных направлений технологического развития.
– Выстраивание иерархического мирового порядка, когда доминат частично передаст свои функции региональным и отраслевым по направлениям развития науки, техники и технологий субдоминатам. Конечно, это будет смахивать на феодализм в масштабах планеты и закрепит несправедливость. Однако такая система позволит оперативно выявлять и пресекать опасности.
– Установление эффективного глобального управления во главе с доминатом и справедливым участием субдоминатов.
– Решительное изменение норм международного права, а также создание глобального органа власти, осуществляющего быстрые превентивные меры в отношении нарушителей глобального договора о торможении технологического развития.
Ограничения в развитии технологий : от сдерживания технологических разработок – к глобальной научной инквизиции
В общем виде идея технологического регресса выглядит предельно бесперспективной. Технологическая блокировка в наиболее явном и последовательном виде требует прекращения изобретательской деятельности по всему миру.
Это невозможно. Однако невозможность общего отказа от научных и технологических исследований не означает целесообразности ограничения научно-исследовательской и особенно технологической деятельности по определенным направлениям и технопакетам.
Бостром предлагает отказаться от особенно опасных направлений развития, связанных в первую очередь с проникновением в глубины материи, выяснением реальной, а не упрощенной, картины с наследственностью, созданием саморазвивающихся программно-аппаратных средств и т.п.
Он считает, что целесообразно на основе согласованной работы ведущих фабрик мысли в самой ближайшей перспективе сформировать перечень сдерживаемых исследовательских тем и блокируемых технопакетов, и вынести его на обсуждение домината и субдоминатов.
Должен быть сформирован перечень запрещенных направлений научных исследований и разработок, а также установлены оборудование и другие компоненты, требуемые для подобной работы.
Также необходимо создать на основе усилий разведывательных сообществ полные и постоянно пополняемые списки всех компаний, творческих коллективов и отдельных исследователей и разработчиков, теоретически способных на свой страх и риск, либо при сторонней поддержке вести запрещенные исследования и разрабатывать технопакеты.
В этих целях Бостром предлагает реализовать принцип дифференцированного научно-технологического торможения.
Реализация этого принципа потребует создания (внимание – дословно) наднациональной разведывательной и контрразведывательно – карающей структуры, способной к ежедневным практическим действиям.
Это должно стать своего рода глобальной научной инквизицией. Однако в отличие от инквизиции, эта структура должна определять не научность или ненаучность тех или иных разработок, а их опасность для человечества.
Бостром замечает, что не следует переоценивать возможности такого рода политики. Бесспорно, научно-технологический прогресс имеет собственную, лишь частично зависимую от социально-экономической динамики, траекторию.
Вероятно, никакие политические, правовые и даже карательные меры не могут остановить технологическое развитие в силу внутренней логики этого процесса. Однако такого рода структуры могут оказать серьезное влияние на время, когда будут разработаны и запущены те или иные технологии.
Он говорит, что надо быть реалистами и понимать, что цель такой структуры, в конечном счете, это – не вечная блокировка научных открытий и технопакетов, а лишь регулирование времени воплощения научных открытий в технологические разработки. Это достаточно релевантная и реализуемая задача.
В основу деятельности своеобразной новой научной инквизиции должен быть положен принцип: разрушительные технологии должны появляться, как факт повседневной жизни лишь тогда когда уже созданы защитные технологии. Т.е. щит всегда должен опережать меч.
Время изобретения также влияет на социально-политический контекст использования технологий. Коль скоро человеческая цивилизация будет время от времени доставать чёрные шары, возможно отложить самые рискованные технологические разработки или, по крайней мере, сдерживать их на стадии научных открытий, а не инструментальных технологий.
Даже если мы предположим, говорит Бостром, что цивилизационные разрушения неизбежны, а скорее всего дело обстоит именно так, то любой нормальный человек предпочтет, чтобы это произошло как можно в более отдаленном будущем, когда он сам и его близкие уже уйдут из жизни.
Психологические опыты показывают, что люди воспринимают время, простирающееся не более чем на жизнь их внуков. Поэтому, коль скоро однажды предстоит достать из урны чёрный шар, который опустошит цивилизацию, лучше, чтобы это произошло к концу текущего столетия, а не в его первой половине.
Бостром признает, что реализация технологической блокировки является сложнейшей стратегической задачей. Тем не менее, рекомендует «ответственным» политикам, предпринимателям, исследователям, которые заботятся о том, чтобы их дети и внуки жили, попробовать взяться за эту задачу.
Некоторые направления, такие как синтетическая биология, физика темной энергии, лазерное разделение изотопов, геоинженерия уже сегодня вызывают большую тревогу не только у разведывательного сообщества, политиков, но и у широкой общественности.
Поэтому дальновидно было бы в ходе подготовки глобального соглашения о торможении технологий, начать с малого, и лишь затем, пользуясь общественным мнением, стремительно запретить то, что можно запретить.
Бостром предлагает и другой теоретически возможный способ достижения цивилизационной стабильности – это резкое уменьшение количества конкурирующих акторов, принимающих самостоятельные решения в области развития науки и техники, и применения технологий.
Наиболее мягкий и одновременно сложный и малоэффективный способ – это установление различных форм координации между ними. Степень, в которой этот подход может быть эффективным, в решающей степени зависит от того, с каким типом уязвимостей придется столкнуться человечеству. В случае уязвимости первого типа такого рода координация выглядит многообещающей.
Как уже отмечалось, у политиков и элит в целом, скорее всего, есть некоторые внутренние встроенные паттерны, отвращающие их от принятия необратимых решений по уничтожению.
Следует отметить, что сегодня вся международная политика вертится вокруг уязвимости первого типа и абсолютно игнорирует другие, гораздо более опасные типы уязвимостей.
Что касается второго типа уязвимостей, то здесь координационный подход является наилучшим. Как правило, в ситуациях со вторым типом уязвимостей круг реальных акторов ограничен несколькими государствами и возможно одним-двумя особенно влиятельными негосударственными субъектами. Этот вариант наиболее отработан в истории человечества и позволяет решать проблемы за переговорным столом.
Как показывает жизнь, любой, даже самый отъявленный террорист, либо гибридный военных игрок через семейные, личные и иные приватные связи вовлечен в жизнь других цивилизованных государств.
Соответственно это делает его уязвимым. В западной дипломатии в отличие от разведки хорошим тоном считается неиспользование такого рода уязвимостей.
Однако в рамках принуждения к технологическому торможению, они являются едва ли не наилучшим инструментом: дешевым, простым и действенным.
Некоторые конкретные ограничения
Помимо прямой блокировки отдельных направлений технологического развития и воздействия на институциональных и частных акторов в рамках сдерживания опасных направлений, Бостром называет и другие возможные направления, способные несколько повысить сопротивляемость цивилизации к уязвимостям.
Например, можно попытаться:
– предотвратить распространение потенциально опасной информации о блокированных исследованиях и разработках;
– ограничить доступ к необходимым материалам, инструментам и инфраструктуре, используемым для проведения опытно-конструкторских и технологических работ на базе открытий по блокируемым направлениям;
– установить постоянное наблюдение за лицами по своему интеллектуальному уровню, профессиональной подготовке и квалификации способными осуществить не только научные прорывы, но и обеспечить их технологическую реализацию по блокируемым направлениям;
– усовершенствовать, в том числе с использованием искусственного интеллекта, систему превентивного опережающего мониторинга рисков различного рода научных и технологических разработок;
– создать международный механизм правоприменения, который позволял бы пресекать еще на стадии планирования попытки перевести те или иные открытия по блокируемым темам на уровень технологических разработок.
При всей привлекательности, указанные выше решения имеют различный потенциал практической реализации.
Предотвращение распространения информации вероятно просто невозможно. Даже если реализовать эту меру, то нет гарантии, что кто-то самостоятельно вновь не переоткроет уже открытое и совершит технологический прорыв. Гораздо более эффективным представляется сочетание свободы на уровне публикаций об открытиях, с жесточайшей цензурой на издание технологических документов. Как показывают опыт и здравый смысл, последнее дело –запрещать все и сразу.
Напротив, надо дать возможность исследователям раскрыться, оценить риски открытия и далее превентивно пресечь перевод открытия на уровень конструкций и работающих технологий. Это осуществляется, прежде всего, через ограничение доступа к материалам, инструментам и инфраструктуре, и тотальному превентивному контролю над кадрами.
Такая смешанная политика, сочетающая открытость с пристальным мониторингом и решительным превентивным реагированием попыток перейти от стадии фундаментальных и прикладных открытий и исследований к их конструкционной и технологической реализации, является не только реалистичной, но и способной в сжатые сроки дать ощутимый эффект.
Любопытно, что Бостром полагает, что реализовать предлагаемую смешанную политику можно лишь подкрепив ее превентивной полицейской деятельностью.
Эта деятельность направлена не на изоляцию ученых и разработчиков от общества, как это происходит с преступниками, а на блокировку определенных направлений технологических исследований и разработок в превентивном порядке.
Главная проблема, по мнению Бострома, заключается в невозможности развертывания подобной полицейской научно-технологической деятельности не только на национальной, но и на международной, транснациональной основе.
Бостром почему-то считает, что «Европол и Интерпол продемонстрировали удивительную беспомощность в борьбе с высокотехнологичными преступлениями». Поэтому, по его мнению, создавать еще одну международную организацию, учредителями которой являются национальные государства, представляется совершенно бессмысленным.
«Надо прямо и честно сказать себе, – говорит Бостром, – что национальные государства – лидеры сегодняшнего мира – выступают категорически против предлагаемых новаций и успешно ведут человечество к опустошению цивилизации. Они занимаются азартной конкурентной борьбой за овладение любой новой технологией, в том числе той, которая помечена чёрным шаром».
Внимательно проанализировав складывающую глобальную ситуацию, Бостром пришел к выводу, что высокая необходимость не предполагает значительной вероятности осуществления подобных мер. В этой связи он предлагает рассмотреть еще два возможных пути достижения технологической стабилизации и спасения цивилизации от разрушения вследствие технологического открытия, маркированного чёрным шаром:
– ведущим государствам – технологическим лидерам заключить договор о создании внутригосударственной профилактической технологической полиции, которая бы занялась выявлением и блокировкой деятельности любых небольших групп и отдельных лиц, способных реализовать технологический чёрный шар;
– создать потенциал для сильного глобального управления. Принимая во внимание, что государства более не обладают монополией на власть, которая частично переходит к корпорациям и общественным организациям, сделать упор на создание наднациональной упреждающей технологической полиции.
Как показывает опыт, технологические гиганты готовы сотрудничать с правоохранительными органами по выявлению и ограничению тех или иных технологических решений. Это происходит не из-за высокой сознательности руководителей технологических гигантов, а объясняется их экономическими интересами.
Занимаясь торможением технологий – кандидатов на чёрный шар, – технологические гиганты одновременно замораживают достигнутый уровень технологии, т.е. фиксируют мир, где они являются лидерами.
Превентивная технологическая полиция
Бостром подчеркивает: «полагать, что профилактическая технологическая полиция может быть создана в рамках и на основе уже имеющихся полицейских сил, в том числе занимающихся киберпреступностью, это – бесперспективная утопия».
По его мнению, ближе всего к созданию превентивной полиции находится сегодня Китай. Внимание Бострома привлекает апробируемая в настоящее время в Китае так называемая «информационно-коммуникационная система социального кредита».
Если описывать коротко, она предполагает практически сплошное видеонаблюдение за гражданами крупнейших городов и в зонах различного рода напряженности, дополненная тотальной обработкой больших данных из социальных сетей и любых электронных транзакций внутри Китая.
По сути, китайское руководство стремится в 20-е гг. XXI века сделать китайское общество как в онлайне, так и в офлайне прозрачным с точки зрения поведения его членов.
В зависимости от поведения китайцы будут получать различного уровня доступ к большой гамме благ и преимуществ, и напротив, ограничиваться в тех или иных возможностях.
В принципе, китайская система, как об этом практически единодушно пишут СМИ во всем мире, в точности напоминает Большого Брата из романа Оруэла «1984» и Паноптикум, который описал Иеремия Бентам еще в конце XVII века.
Однако, при оценке китайской системы социального кредита надо исходить не из западного или российского менталитета, а из культурных кодов, по которым строят свою жизнь китайцы уже больше двух тысячелетий.
В Китае сменялись династии, технологии, способы производства, но неизменным оставалось мировоззренческий базис китайской цивилизации – конфуцианство, определяющее поведение китайцев снизу доверху в общественной иерархии.
Конфуцианство – это не только и не столько про уважение к традиции и культ старших, это, прежде всего, подчинение интересов и жизни отдельного китайца государству. В этом смысле можно предположить, что система социального кредита является не более чем электронно-коммуникационым оформлением конфуцианских идей.
По этой причине перенос китайского опыта на Северную Америку, Европу и Россию – это утопия. У англосаксонской, романской и российской цивилизаций другие культурные коды и исторические традиции.
При этом нельзя не согласиться с Бостромом, что стремление установить государственный контроль не только онлайн, но и офлайн поведением граждан – это не исключительно китайская, а общемировая тенденция.
Она связана с целым рядом обстоятельств, лишь отчасти связанных с политикой, а в значительной степени обусловленная экономикой и стремлением повысить предсказуемость поведения самого чреватого рисками элемента – социотехнических систем – человека.
В этой связи интересен вывод Бострома: «принципиально в условиях смертельной угрозы гибели цивилизации от чёрного шара можно было бы всерьез рассмотреть возможность глобального развертывания подобной системы».
Вопрос сегодня не в технической и организационной реализации подобной системы. В этом сомнений у Бострома нет. Проблема – в сопротивлении населения в западных странах и политиков традиционного толка развёртыванию подобной системы.
Бостром задает себе вопрос, а есть ли хоть один шанс реализовать эту систему на Западе. Представляется, что к глобальному Паноптикуму ведут два пути.
Первый связан с тем, что общество постепенно осознает, что двигается к полной социальной прозрачности, где больше нет приватности и к алгоритмической экономике и отчасти политике. Фактом является то, что сегодня гораздо проще собирать и анализировать информацию о людях и событиях, чем это было 5-7 лет назад.
Даже в наиболее приверженных личным свободам странах типа Скандинавии, Швейцарии, Соединенных Штатов общество молчаливо соглашается с ликвидацией приватности, как допустимой платы за предотвращение терроризма.
По мнению Бострома, если начать интенсивную информационную кампанию относительно технологической опасности чёрного шара, то есть основания полагать, что позиция основной части населения в западных странах изменится. Ментально оно подготовлено, прежде всего, телевидением и интернетом к грядущим колоссальным проблемам из-за неконтролируемого развития технологий.
Поэтому при достижении внутриэлитного согласия этот путь можно пройти достаточно быстро.
Второй путь, согласно концепции Бострома, предполагает умное и оперативное использование последствий практически неминуемых в ближайшие 3-5 лет крупномасштабных технологических катастроф, от которых могут пострадать десятки, а то и сотни тысяч человек.
Эти катастрофы неминуемо произойдут в развитых странах, поскольку уровень сложности, как обществ, так и технических устройств, а также телекоммуникационных сетей уже сегодня заметно превысил уровень управления.
Грубо говоря, сложность развивается стихийно. Любое стихийное развитие заканчивается катастрофой. Просто эту катастрофу, считает Бостром, надо эффективно использовать также, как в Соединенных Штатах были использованы события 11.09.2001.
«Естественно, – говорит Бостром, – я не только не призываю, но и не намекаю на идею плановой организации катастроф. К сожалению, они произойдут в ближайшее время стихийно. Я предлагаю планировать реакцию на катастрофы.
Эта реакция, наряду со спасательными и восстановительными мероприятиями, должна включать мощнейшую информационную кампанию, которая убедит население в полезности Паноптикума».
Глобальное управление
Бостром рассматривает еще одно направление, связанное с перестройкой государства на предотвращение разрушения цивилизации: «Глядя в будущее, предположим, что чёрный шар уже вытащен, и он связан с развитием синтетической биологии или искусственного интеллекта.
Также предположим, что научно-техническим разведкам ряда стран-лидеров удалось своевременно оценить возникшие технологии именно как чёрный шар, ставящий под угрозу само существование цивилизации.
Естественно, что в данной ситуации государственные субъекты столкнутся с проблемой выработки и скорейшего осуществления коллективных действий».
Единственную альтернативу хаоса, который воцарился в настоящее время в мировом сообществе, Бостром видит в установлении жёсткого глобального управления. Из-за дискредитации термина «мировое правительство» он не называет глобальное управление этим термином.
Он предпочитает использовать термин «специальный комитет». Функции специального комитета должны быть ограничены конкретной проблемой сдерживания научно-технологического прогресса.
В этих рамках он должен иметь право в приказном порядке потребовать от любого правительства, включая правительство Соединенных Штатов, выполнить те или иные действия, либо предоставить выполнение этих действий на территории страны особым силам спецкомитета.
Бостром не предлагает всемирного правительства, но в условиях реальной угрозы цивилизации он предлагает модель ограничения суверенитета всех стран мира в части технологического развития. Ни одна страна не может ссылаться на то, что она суверенна, а соответственно может на своей территории делать все, что ей заблагорассудится.
Бостром ставит вопрос следующим образом. Ответственные мировые элиты должны провозгласить необходимость создания в кратчайшие сроки спецкомитета, имеющего не просто право, а обязанность в определенной, строго установленной области не вести переговоры с государствами, а приказывать им, что они должны сделать, чтобы помочь силам спецкомитета провести успешную операцию на территории государства.
На наш взгляд, главный смысл его выступления состоит в том, чтобы буквально в ближайшие год-два-три отказаться в международном масштабе от концепции неограниченного национального суверенитета и передать безусловные права спецкомитету, как глобальному органу мониторинга, контроля и пресечения попыток осуществлять исследования и разработки, чреватые чёрным шаром.
Когда чёрный шар будет извлечен, будет уже поздно искать пути пресечения развития технологий. Спецкомитет или высокотехнологичный Паноптикум – это, по мнению Бострома, не фашизм, а необходимость.
Н. Бостром, будучи умным и осведомлённым человеком поднял проблему, реально угрожающую существованию человечества.
Соответственно обсуждение этой проблемы по потенциальным рискам превосходящей даже международный терроризм, предполагает пусть негласные, но серьезные многосторонние международные зондажи, обмен мнениями, обсуждение различных вариантов реалистичного решения этой проблемы.
Знатоки советской фантастики, особенно поклонники творчества братьев Стругацких, читая новейшую концепцию одного из интеллектуальных западных лидеров Ника Бострома, не замедлят усмотреть в ней некий, хотя и значительно конкретизированный и развитый, но все равно плагиат.
В романах цикла «Мир Полудня», особенно в «Жук в муравейнике» и «Волны гасят ветер» активно действует организация КОМКОН-2 – комиссия «по контролю за научными исследованиями», имевшая неограниченные права и возможности по мониторингу и пресечению научно-технологических исследований и разработок, угрожающих стабильности земной цивилизации.
Елена Ларина, Владимир Овчински
- 2615 просмотров