Сегодня земля начала казаться маленькой, порождая опасения, что мы можем истощить ее её ресурсы. Однако энергия, которую мы использованиемиспользуем, равняется меньше, чем 1/10 000 солнечной энергии, падающей на Землю; мы беспокоимся не об обеспечении энергией как таковой, а о поставке газа и нефти подходящего качества. Наши шахты просто изрыли поверхность земного шара; мы заботимся не о самом количестве ресурсов, а об их пригодности и стоимости. Когда мы разработаем не создающие загрязнения загрязнений наномашины для сбора солнечной энергии и ресурсов, Земля станет способной поддерживать цивилизацию, намного большую и более богатую, чем когда-либо кто-либо видел до этого, однако и при этом причиняя меньше вреда, чем мы делаем сегодня. Потенциал Земли делает ресурсы, которые мы сейчас используем, в сравнении кажущимися незначительными.

Однако Земля - не более чем маленькое пятнышко. Осколки астероидов, оставшиеся со времен образования планет, обеспечат достаточно материалов, чтобы для того чтобы построить тысячу раз площадь земнойых поверхностиповерхностей. Солнце заливает Солнечную систему в миллиард раз большей энергией, чем доходит до Земли. Ресурсы Солнечной системы действительно обширны, делая ресурсы Земли незначительными в сравнении с нимикажущимися незначительными в сравнении.

Однако и солнечная система - не более чем маленькое пятнышко. Звезды, которых толпы на ночном небе, - это солнца, и человеческий глаз может видеть только ближайшие. Наша галактика содержит сотни миллиардов солнц, и многие, вне сомнения, изливают свой свет на мертвые планеты и астероиды, ожидающие прикосновения жизни. Ресурсы галактики делают даже нашу солнечную систему кажущейся незначительной в сравнении.

Однако и наша галактика - не более чем пятнышко. Свет, возраст которого старше, чем человеческий род, показывает галактики вне нашей. Видимая вселенная содержит сотни миллиардов галактик, и каждая - рой из миллиардов солнц. Ресурсы видимой вселенной делают даже нашу галактику кажущейся незначительной в сравнении с ними.

На этом мы достигаем границ знания, если не ресурсов. Солнечная система кажется ответом достаточным для земных пределов - и если остальная часть вселенной останется невостребованной другими, то наши шансы на экспансию готовы перепугать разум несколько раз подряд. Значит ли это, что воспроизводящиеся ассемблеры и дешевые космические корабли положат конец нашему беспокойству о ресурсах?

В каком-то смысле открытие космоса взорвет наши пределы роступределы роста, так какпоскольку мы не знаем конца вселенной. И тТем не менее, Мальтус был по сути прав.

Мальтус

В своем "Опыте Сочинении о законе народонаселения" 1798 года , как английский священник, представил предшественника всех современных аргументов на тему пределов роступределов роста. Он заметил, что свободно растущее население имеет тенденцию удваиваться периодически, таким образом, увеличиваясь экспоненциально. В этом есть смысл: поскольку все организмы происходят от удачных репликаторов, они имеют тенденцию размножаться, когда у них есть возможность. В целях доказательства Мальтус предположил, что ресурсы - обеспечение пищей - могли бы увеличиваться как фиксированное количество за год (процесс, называемый линейным ростом, так как его точки выстроены в линию на графике). Поскольку математика показывает, что любая фиксированная скорость экспоненциального роста, в конце концов, обгонит любую фиксированную скорость линейного роста, Мальтус утверждал, что рост населения, если не контролируется, в конце концовконцов, обогнал бы производство пищи.

С тех пор авторы повторяли не раз вариации этой идеи, в книге, такой как "Бомба народонаселения и голод", 1975(!) год, однако производство пищи шло в ногу с населением. Вне Африки оно даже вырвалось вперед. Ошибался ли Мальтус?

По сути - нет: он был не прав главным образом насчет времени и деталей. Рост на Земле встречает пределы, так какпоскольку Земля имеет ограниченное место, будь то для возделывания, или чего-то еще. Мальтус не мог предсказать, когда пределы схватят нас за горло главным образом потому, что он не мог ожидать прорывов в сельскохозяйственном оборудовании, сельскохозяйственной генетике и удобрениях.

Некоторые люди сейчас замечают, что экспоненциальный рост обгонит фиксированные запасы ресурсов Земли, т. е. более простой аргумент, чем предлагал Мальтус. Хотя космическая технология эту границу перейдет, она не перейдет все границы. Даже если вселенная была бы бесконечно большой, мы бы все всё равно не могли бы передвигаться бесконечно быстро. Закон природы ограничит скорость роста: земная жизнь будет распространяться не быстрее, чем свет.

Устойчивое расширение будет открывать новые ресурсы со скоростью, которая будет увеличиваться по мере того, как границы уходят вглубь и вширь космоса. Результатом этого будет не линейный рост, а кубический. Однако, по сути, Мальтус был прав: экспоненциальный рост обгонит кубический рост также легко как линейный. Вычисления показывают, что неконтролируемый рост населения, будь то с долгой жизнь или без, обогнал бы доступные ресурсы примерно за одну или две тысячи лет максимум. Неограниченный экспоненциальный рост остается фантазией, даже в космосе.

Остановит ли нас кто-нибудь?

Владеют ли уже другииные цивилизации ресурсами во вселенной? Если так, то они бы оказались бы пределом роступределом роста. Факты относительно эволюции и технологических пределов проливают полезный свет на этот вопрос.

Так какПоскольку многие звезднызвёздные системы, подобные Солнечной, на много сотен миллионов лет старше нашей солнечной системы, некоторые цивилизации (если какое-то существенное их число существует) должны были бы быть на сотни миллионов лет впереди нас. Мы бы ожидали, что, по крайней мере, некоторые из этих цивилизаций сделали бы то, что делала вся известная жизнь: распространяться так широко, насколько она может. Земля зеленая не только в океанах, где жизнь зародилась, а и на берегах, холмах и горах. Зеленые растения сейчас распространились на орбитальные станции; если у нас получится, Земные растения распространятся к звездам. Организмы распространяются так широко, как они могут, а потом еще ещё немного дальше. У некоторых не получается и они умирают, но успешные выживают и распространяются еще ещё дальше. Переселенцы, направлявшиеся в Америку, плыли и тонули, высаживались на берег и умирали с голоду, но некоторые выживали, чтобы основать новые нации. Организмы повсюду будут чувствовать давление факторов, описанных Мальтусом, потому что они в процессе эволюции научатся выживать и распространять гены и мимы, которые толкают в этом направлении. Если внеземные цивилизации существуют, и если даже малая частьдоля была бы похожа на то, какая есть вся жизнь на Земле, то они должны были бы к сегодняшнему моменту распространиться по космосу.

Подобно нам, они бы имели тенденцию разрабатывать технологии, чтобы для того чтобы достичь пределов, установленных естественными законами. Они бы учились, как передвигаться со скоростью, близкой к световой, и конкуренция или чистое любопытство подтолкнуло бы их это делать. Действительно, только высокоорганизованные, высокостабильные общества могли бы ограничить давление конкуренции достаточно хорошо, чтобы избежать взрыва вовне со скоростью, близкой к световой. На сегодня, после сотен миллионов лет, даже широко рассеянные цивилизации распространились бы достаточно далеко, чтобы встретить друг друга, разделив космос между собой.

Если эти цивилизации действительно везде, тогда они оказались очень сдержанными и очень хорошо себя спрятали. Они бы контролировали ресурсы целых галактик на протяжении многих миллионов лет, и встретили пределы роступределы роста в космическом масштабе. Продвинутая цивилизация, упирающаяся в свои экологические пределы, почти по определению, не расходовала бы энергию и материю. Однако мы видим расход во всех направлениях, поскольку мы видим спиральные галактики: их спиральные рукава содержат облака пыли, состоящей из расходуемой впустую материи, подсвеченной бесполезно расходуемым светом звезд.

Если такиеподобные продвинутые цивилизации существовали бы, тогда наша солнечная система лежала бы в царстве одной из них. Если так, тогда бы сейчас был их ход - мы не могли бы ничего сделать, чтобы для того чтобы им угрожать, а они бы могли изучать нас как им нравится, с нашим участием или без.

Чувствительные люди слушались бы, если бы их очень попросили. Но еЕсли они существуют, они, должно быть, прячут себя, и сохраняют все местные законы в секрете.

Идея, что человечество одиноко в видимой вселенной согласуется с тем, что мы видим в небе и с тем, что мы знаем о происхождении жизни. Никаких застенчивых чужестранцев не нужно, чтобы для того чтобы объяснить факты. Некоторые говорят, что поскольку существует так много звезд, обязательно среди них должны быть другииные цивилизации. Но в видимой вселенной имеется меньше звезд, чем молекул в стакане воды. Так же как стакан воды не обязательно содержит все возможные химические вещества (и даже сток химического завода), так же другие звезды не обязательно дают убежище цивилизациям.

Мы знаем, что конкурирующие репликаторы имеют тенденцию расширяться к своим экологическим границам, и что ресурсы, тем не менее, бесполезно расточаются по всей вселенной. Мы не получили ни одного посланца от звезд, и у нас очевидно нет даже приличного сторожа зоопарка. Вполне возможно, что там никого и нет. Если они не существуют, тогда нам нет нужды учитывать их в своих планах. Если они существуют, тогда они переделают наши планы в соответствии со своими непостижимыми желаниями, и, по-видимому, нет способа подготовиться к этой возможности. Таким образом, на данный момент, или возможно, навсегда, мы можем создавать планы на наше будущее, не заботясь об ограничениях, накладываемых другииными цивилизациями.

Рост в пределах границ

Есть кто-то там, или нет, мы стоим на своем пути. Космос ждет нас, бесплодный камень и солнечный свет, подобный бесплодному камню и солнечному свету земных континентов миллиард лет назад, перед тем, как жизнь стала выходить из моря. Наши инженеры разрабатывают мимы, которые помогут нам создать отличные космические корабли и поселения: мы будет осваивать землю солнечной системы в комфорте. За пределами богатства внутри солнечной системы лежит кометное облако - обширная среда для роста, которая становится тоньше на просторах межзвездного пространства и утолщается еще ещё больше вокруг других звезднызвёздных систем, с новыми солнцами и девственными камнями, ожидающих ожидающими прикосновения жизни.

Хотя бесконечный экспоненциальный рост остается фантазией, распространение жизни и цивилизации не встречает жестких границ. Расширение будет продолжаться, если мы выживем, потому что мы - часть живой системы, а жизнь имеет тенденцию распространяться. Пионеры двинутся вперед, в миры без конца. В любых поселениях, время придет, когда граница - будет далеко впереди, а потом еще ещё дальше. На протяжении большей части будущего большинство людей и их потомков будут жить без пределов роступределов роста.

Нам могут нравиться или не нравиться пределы роступределы роста, но их реальность не зависит от наших желаний. Пределы существуют, по направлению к чему бы цели четко ни ставились.

Но на границах, где ограничения изменяются, эта идея становится неуместной. В искусстве или математике ценность работы зависит от сложности стандартов, оспариваемых и изменяемых. Один из этих стандартов - новизна, и она никогда не может быть исчерпана. Там, где цели изменяются, и царит мир сложности, пределы не обязательно нас ограничивают. Для создания симфонии и песни, картины и миров, программ, теорем, фильмов и прекрасных вещей, которые мы еще ещё не можем себе представить, конца не видно. Новые технологии станут основной для новых видов искусства, а новые искусства принесут новые стандарты.

Мир грубой материи предлагает место для грандиозного, но ограниченного роста. Мир разума и структуры, однако, содержит место для бесконечной эволюции и изменения. Возможное кажется достаточным пространством.

Взгляд на пределы

Идея великих продвижений в жестких границах не была разработана так, чтобы давать кому-то удовольствие, а так, чтобы быть правильной. Пределы ограничивают возможности, и некоторые могут быть безобразными или пугающими. Нам нужно подготовиться к прорывам, ожидающим нас впереди, однако многие футуристы старательно делают вид, что никаких прорывов не произойдет.

Эта школа мысли связана с "Пределами ростуПределами роста", опубликованными как отчет Римского клуба. Профессор Месарович позже стал соавтором "Человечества на поворотной точке", опубликованном как второй отчет Римского клуба. Профессор Месарович разработал компьютерную модель, которая имеет целью описать будущие изменения в мировом население, экономике и окружающей среде. Весной 1981 года он посетил MIT, чтобы для того чтобы обратиться к "Ограниченной Земле: мировоззрение для поддерживаемого будущего" - тот же семинар, который сделал главным своим пунктом энтропию Джереми Ривкина. Он описал модель, намереваясь дать грубое описание следующего столетия. Когда ему задали вопрос, допускает ли он или кто-либо из его коллег хотя бы один прорыв в будущем, сравнимый, скажем, с нефтяной промышленностью, самолетами, автомобилями, электрической энергией или компьютерами - возможно самовоспроизводящиеся робототехнические системы или дешевые полеты в космос, он ответил прямо - нет.

Очевидно, что такиеподобные модели будущего несостоятельны. Однако некоторые люди, по-видимому, желают, даже страстно желают, верить, что прорывы вдруг закончатся, что глобальная гонка технологий, которая набирала скорость на протяжении столетий, затормозится и остановится в ближайшем будущем.

Привычка пренебрегать или отрицать возможностью продвижения технологии - это общая проблема. Некоторые люди верят в аккуратно очерченные пределы, потому что они слышали, как уважаемые люди накручивают звучащие правдоподобно аргументы в пользу этого. Однако, по-видимому, некоторые люди больше обращают внимание на желания, чем на факты, после столетия ускоряющегося прогресса. Четкие Чёткие границы упрощают наше будущее, делая его более простым для понимания и более комфортным, чтобы о нем думать. Вера в четкие чёткие пределы также освобождает человека от определенных забот и ответственности. В конце концов, если естественные силы остановят гонку технологий, удобно и автоматически, тогда нам нет нужды пытаться понять ее её и контролировать.

Самое лучшее - это то, что это бегство от реальности не ощущается как бегство. Настрой на глобальный спад должен давать то, что суровые факты будут восприниматься без содрогания. Однако такое будущее не оказалось бы чем-то новым: оно толкнуло бы нас по направлению к подобной нищете прошлого Европы или настоящего стран третьего мира. Настоящая смелость требует встречать реальность лицом к лицу, встречать ускоряющиеся изменения в мире, которые не имеют автоматической остановки. Это ставит огромные и крайне существенные интеллектуальные, моральные и политические задачи.

Предостережения о ложных границах приносит приносят двойной вред. Во-первых, они дискредитируют саму идею ограничений, притупляя остроту интеллектуальный интеллектуального инструмента, который нам необходим, чтобы для того чтобы понять наше будущее. Но что ещё хуже, такиеподобные предостережения отвлекают внимание от настоящих реальных проблем. В западном мире существует живая политическая традиция, которая поощряет подозрительность к технологии. До той степени, пока вначале она дисциплинирует свои подозрения, проверяя их относительно реальности и далее выбирая работоспособные стратегии для управления изменением, эта традиция может вложить многое в выживание жизни и цивилизации. Но люди, озабоченные технологией и будущим - ограниченный ресурс. Мир не может себе позволить расточать их усилия на бесплодные кампании, чтобы остановить глобальный поток технологии узким редким веником западных движений протеста. Грядущие проблемы требуют более тонких стратегий.

Никто не может пока сказать наверняка, какие проблемы окажутся наиболее важными, или какие стратегии окажутся наилучшими для их разрешения. Однако мы уже можем видеть новые, огромной важности, проблемы огромной важности, и мы можем различить стратегии с различной степенью перспективности. Короче говоря, мы можем видеть знать достаточно о будущем, чтобы для того чтобы идентифицировать цели, которые стоят того, чтобы чтобы им следовать.

Часть 3.

Надежды и опасения

Глава 11. МАШИНЫ РАЗРУШЕНИЯ

И я не сомневаюсь, что самыми грозными из всех армий, о которых когда-либо слышали на земле, является тот вид солдат, которые за их малостью не видимы.

Сэр Уильям Перри, о микробах, 1640 год.

Размножающиеся ассемблеры и мыслящие машины создают принципиальные угрозы для людей и жизни на Земле. Сегодняшние организмы имеют способности, далеко далёкие от пределов возможного, и а наши машины эволюционируют быстрее, чем мы сами. В пределах нескольких десятилетий вполне представляется вероятнымо, что они нас превзойдут. Если мы не научимся жить с ними в безопасности, наше будущее, вероятно, будет и восхитительным, и коротким. Мы не можем надеяться предвидеть все проблемы впереди, однако, уделяя внимания большим, принципиальным моментам, мы, возможно, в состоянии предвидеть наиболее значительные задачи и получить некоторое представление о том, как с ними иметь дело.

Без сомнения, будут написаны целые книги о грядущих социальных сдвигах: что случится с глобальным порядком, когда ассемблеры и автоматический инжиниринг исключат исключать необходимость в большей части международной торговли? Как общество изменится, когда отдельные люди смогут жить независимо? Что мы будем делать, когда размножающиеся ассемблеры смогут производить почти все всё что угодно без человеческого труда? Что мы будем делать, когда системы ИИ смогут думать быстрее и лучше, чем людией? (И до того, как они придут к заключению, что люди отчаются что-либо делать или создавать, авторы тоже могут рассмотреть, как бегуны относятся к машинам, или как художники относятся к камерам.)

В действительности авторы уже почти предвидели и проговорили несколько из этих моментов. Каждый из них - дело необычайной важности, но более фундаментальными, чем любой из них, являются выживание жизни и свобода. В конце концов, если жизнь или свобода исчезнут, то наши идеи о социальных проблемах больше не будут иметь значения.

Угроза от машин

В главе 4 я описал кое-что из того, что воспроизводящиеся ассемблеры будут делать для нас, если мы будем с ними правильно обращаться. Приводимые в движение топливом или солнечным светом, они будут способны делать почти все всё что угодно (включая их самих) из широко распространенных материалов.

Живые организмы также приводятся в движение топливом или солнечным светом, и также делают большую часть себя из широко распространенных материалов. Но в отличие от систем, основанных на ассемблерах, они не могут делать "почти все всё что угодно".

Генетическая эволюция ограничила жизнь системами, построенными на ДНК, РНК и рибосомах, но эволюция мимов принесет машины, подобные жизни, построенные на нанокомпьютерах и ассемблерах. Я уже описал, чем построенные из ассемблеров молекулярные машины будут отличаться от построенных на рибосомах машинах жизни. Ассемблеры будут способны строить все всё то, на что способны рибосомы, и более того; репликаторы на базе ассемблеров, следовательно, будут способны делать всёвсе, что может жизнь, и более того. С точки зрения эволюции, это создает очевидную угрозу выдрам, людям, кактусам и папоротникам - всей богатой фабрике биосферы и всему, что мы ценим.

Ранние компьютеры, построенные на транзисторах, вскоре обошли самые лучшие компьютеры на электронных лампах потому, что они были сделаны из устройств более высокого уровня. По той же причине, ранние репликаторы, построенные на ассемблерах, могли бы обойти самые совершенные из современных организмов. Новые "Растения" с новыми "листьями" не болеестоль же эффективными, чем как сегодняшние солнечные элементы, могли бы выиграть конкуренцию у настоящих растений, наводняя биосферу новой несъедобной листвой. Однако, вВсеядные "бактерии" могли бы выиграть конкуренцию у настоящих бактерий: они могли бы распространиться как летящая пыльца, стремительно размножаясь и сведя превратив биосферу в пыль за считанные дни. Опасные репликаторы могли бы легко быть слишком жесткими, маленькими и быстро распространяющимися, чтобы их остановить - по крайней мере если мы не сделаем никаких приготовлений. У нас достаточно проблем с контролем над вирусами и фруктовыми мушками.

Среди знатоков нанотехнологии эта угроза стала известна как проблема "проблема серой липкой массы" (или "серой слизи"). Хотя массы бесконтрольных репликаторов не обязательно должны быть серыми или липкими, термин "серая липкая" подчеркивает, что репликаторов, способных уничтожить жизнь, может быть меньше в шприце, чем одного вида травяных жучков. Они могли бы быть "высшими" в эволюционном смысле, но это не обязательно сделало бы их ценными. Мы научились любить мир богатым живыми тварями, идеями, и разнообразием, так что нет причины ценить серую массу только за то, что она может распространяться. Действительно, если мы предотвратим ее её размножение, тем самым мы докажем наше эволюционное превосходство.

Угроза серой липкой массы делает одну вещь совершенно очевидной: мы не можем себе позволить определенные виды случайностей с размножающимися ассемблерами.

В главе 5 я описал некоторое из того, что будут делать для нас продвинутые системы ИИ, если мы будет будем правильно с ними обращаться. В конечном счете, они будут воплощать структуры мысли и заставлять их течь со скоростью, с которой не может сравняться сравнится ни один мозг млекопитающего. Системы ИИ, которые работают вместе, так же, как это делают люди, будут способны думать не просто как отдельные люди, но как целые общества. Опять же, эЭволюция генов оставила жизнь в определенном состоянии. Эволюция Опять же, эволюция мимов (человеческими существами, и, в конечном счете, машинами), будут будет продвигать наши аппаратные средства далеко за пределы жизни. И снова, с точки зрения эволюции, это создает очевидную угрозу.

Знание может давать власть, а власть может давать знание. В зависимости от своей природы и своих целей, продвинутые системы ИИ могли бы накопить достаточно знания и власти, чтобы для того чтобы сместить нас, если мы не подготовимся должным образом. И, так же, как с репликаторами, простое эволюционное "превосходство" не обязательно сделает победителей лучшими, чем исчезнувшие, по всем стандартам, кроме грубой способности конкурировать.

Эта угроза делает одну вещь совершенно очевидной: нам необходимо найти способы жить с мыслящими машинами - для того чтобы, чтобы сделать их законопослушными гражданами.

Машины власти

Определенные виды репликаторов и систем ИИ могут столкнуть нас с формами технических средств, способных к быстрому эффективному независимому действию. Но новизна этой угрозы, происходящей от самих машин, не должна нас скрывать от нашего взора более традиционную опасность. Репликаторы и системы ИИ могут также служить как великолепные машины власти, если ими свободно завладеют суверенные государства.

На всем протяжении истории, государства разрабатывали технологии, чтобы для того чтобы расширить свою военную мощь, и государства, несомненно, будут играть доминирующую роль в разработке репликаторов и систем ИИ. Государства могли бы использовать воспроизводящиеся ассемблеры, чтобы для того чтобы строить арсеналы совершенного оружия, - быстро, легко и в огромных количествах. Государства могли бы использовать специальные репликаторы, непосредственно, чтобы, чтобы вести род биологической войны - войны, которая становится намного более практичной с программируемыми, управляемыми компьютерами "микробами". В зависимости от своих способностей, системы ИИ могли бы служить как оружие разработчиков, стратегов и бойцов. Военное финансирование уже поддерживает и молекулярные технологии, и искусственный интеллект.

Государства могли бы использовать ассемблеры или продвинутые системы ИИ, чтобы для того чтобы достигать неожиданных, дестабилизирующих прорывов. Ранее я говорил о причинах того, почему нужно ожидать, что приход воспроизводящихся ассемблеров принесет сравнительно неожиданные изменения: способные способность быстро размножаться привела бы к тому, что, их количество их могло могло бы стать огромнымое количество за считанные дни. Способность делать почти всё что угодно привела бы к тому, чтопособные делать почти все что угодно, их можно было бы запрограммировать, чтобы, чтобы копировать имеющееся оружие, но сделанное из более совершенных материалов. Способность Способные работать со стандартными, хорошо понятными компонентами (атомами) привела бы к тому, что, они могли бы неожиданно строить вещи, разработанные в ожидании ассемблерной революции. Эти Такие результаты проектирования с опережением могли бы включать программируемые микробы и другие жуткие новшества. По всем этим причинам, государство, которое сделает ассемблерную революцию, могло бы быстро создать решающую военную силу - если не буквально за ночь, то, по крайней мере, с беспрецедентной скоростью.

Государства могли бы использовать и продвинутые системы ИИ для аналогичных целей. Системы автоматической разработки будут ускорять проектирование с опережением и ускорять разработку ассемблеров. Системы ИИ, способные строить лучшие системы ИИ сделают возможным взрыв способностей с последствиями, которые трудно предвидеть. И системы ИИ, и воспроизводящиеся ассемблеры дадут государствам возможность увеличивать свои военные возможности на порядки за короткое время.

Репликаторы могут быть более действенны, чем ядерное оружие: чтобы опустошить Землю бомбами, потребовались бы массы экзотических технических средств и редких изотопов, но чтобы разрушить всю жизнь с помощью репликаторов, потребовалось бы лишь одно пятнышко, состоящее из обычных элементов. Репликаторы выглядят как технология, составляют родственная ядерной войне – как такая что-то вроде компании как потенциальная причина вымиранию, а занчит у нас есть давая более широкий контекст моральной проблемы вымираниювымирания, как моральной обеспокоенности[A5] .

Вопреки своему потенциалу как м машин ашины разрушения, как нанотехнология так и и системы ИИ будут годиться для более тонких способов использования, чем ядерное оружие. Бомба может только взрывать, но наномашины и системы ИИ могли бы проникать, захватывать, изменять и управлять территорией или миром. Даже самая безжалостная полиция бесполезна против ядерного бесполезна для ядерного оружия, но она может использоваться против она имеет смысл против безумных идей, наркотиков, убийц или других гибких машин власти. С продвинутой технологией государства будут способны консолидировать свою власть над людьми.

Также как гены, мимы, организмы и технические средства, государства эволюционируют. Их возможности распространились Их институты распространились (с вариациями) на рост, деление, подражание и завоевание. Государства в войне дерутся как звери, но используя граждан как свои кости, мозг и мускулы. Грядущие технологические прорывы поставят государства перед новыми видами возможностейвидами давления и возможностей, благоприятствуя резким изменениям в том, как государства себя ведут. Это естественно дает основание для озабоченности. Исторически государства выделялись в кровопролитии и угнетении.

Из за большого объема этот материал размещен на нескольких страницах:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22