Главная Случайная страница


Категории:

ДомЗдоровьеЗоологияИнформатикаИскусствоИскусствоКомпьютерыКулинарияМаркетингМатематикаМедицинаМенеджментОбразованиеПедагогикаПитомцыПрограммированиеПроизводствоПромышленностьПсихологияРазноеРелигияСоциологияСпортСтатистикаТранспортФизикаФилософияФинансыХимияХоббиЭкологияЭкономикаЭлектроника






Глава 18. Многофакторные сценарии




Выше мы составили насколько возможно полный список однофакторных сценариев глобальной катастрофы. Есть и другие варианты этого списка, например, в статье Н. Бострома и в книге Дж. Лесли, с незначительными отличиями. (Однако, представленный мною список является наиболее полным из доступных на сегодняшний день.) Теперь мы должны задаться вопросом, возможны ли сценарии, в которых человечество гибнет не по какой-то одной причине, а от некоторого сочетания факторов, и если да, то какова их вероятность и каковы эти факторы. Скажем, может ли быть так, что один континент истребят супервирусы, другой – нанороботы, а третий вымрет от голода?

18.1 Интеграция различных технологий, создающих ситуации риска

Сам факт быстрого развития сильных технологий создаёт особую зону риска. Технологии имеют тенденцию содействовать друг другу в развитии. Скажем, развитие компьютеров помогает рассчитывать свойства новых материалов, а новые материалы позволяют создавать ещё более производительные процессоры для компьютеров. В современной технологии это известно под названием NBIC-конвергенция, что расшифровывается как nano-bio-info-cogno [Медведев 2008] и означает процесс слияния нанотехнологий, биотехнологий, компьютерных технологий и исследований человеческого мозга. Это слияние происходит за счёт обмена методами и результатами, а также реализации проектов, объединяющих элементы этих технологий, например, когда оболочки вирусов используются в качестве элементов для нанороботов [Olson et al 2007], или с помощью генной инженерии выводятся мыши с флуоресцентными маркерами [Ledford 2007] в нейронах мозга для изучения процессов мышления. Конвергенция технологий нарастает по ходу прогресса и происходит выделение быстро развивающегося ядра технологий (NBIC), которые способны каждая помогать каждой. При этом они могут вносить вклад и в ядерные, и в космические технологии, но не получить от них обратного вклада, а в силу этого не получается кольца положительной обратной связи – и эти технологии отстают от мэйнстрима технологического прогресса. Базой для NBIC технологий является миниатюризация. Конвергенция NBIC технологий ведёт к некому пику, которым, вероятно, является сильный искусственный интеллект.

Подобная интеграция неоднократно имела место в прошлом при создании оружия. Здесь технологии не помогали в развитии друг друга, но создавали принципиально новые агрегаты. Например, самолёт с пулемётом, фотоаппаратом и радиосвязью – в качестве разведчика и истребителя в первую мировую войну. Или межконтинентальная баллистическая ракета, в которой были объединены достижения в области ядерного оружия, ракетной техники и компьютеров, каждое из которых по отдельности было бы в тысячу раз безопаснее. То есть атомная бомба без средств доставки, или ракета с обычной боеголовкой, или ракета без систем наведения. (При этом хочется отметить, что нынешнее сокращение ядерных арсеналов компенсируется ростом их точности, что повышает их поражающую силу.)



Часто имеющиеся прогнозы будущего и фантастика описывают будущее как настоящее плюс одна какая-то новая черта. Тем же грешат и прогнозы глобальных рисков: они описывают появление в мире какой-то одной опасной технологии и затем рассматривают последствия этого события. Например, как изменится мир, если в нём появятся развитые нанотехнологии. Очевидно, что этот подход несостоятелен, так как будущие технологии, за счёт их совместного развития, будут появляться одновременно и вступать друг с другом в сложные взаимодействия.

При этом имеет место и последовательная, и параллельная конвергенция. Параллельная конвергенция имеет место, когда несколько новых технологий объединяются, чтобы создать качественно новый продукт, например, межконтинентальную ракету с ядерным зарядом. Последовательная относится к цепочке событий, в которой одни факторы запускают другие, например: теракт – экономический кризис – война – применение биологического оружия.

18.2 Парные сценарии

Рассмотрим для начала гипотетические парные сценарии глобальной катастрофы, иначе говоря, разные варианты взаимоусиления основных факторов, взятых парами. При этом понятно, что в реальности они будут действовать все вместе, но эти пары могут стать «кирпичиками» (или, скорее, связями в графе) для более сложного прогнозирования. Дадим эскизное описание такого рода взаимодействия, фактически, в порядке мозгового штурма. Здесь каждый парный сценарий не следует воспринимать как окончательный прогноз – но не потому, что он слишком фантастичен, а потому, что он не учитывает влияния ещё ряда факторов.

ИИ и биотехнологии

Последовательная конвергенция (цепочка событий):

1. Генетически модифицированные сверхлюди будут обладать сверхинтеллектом, который позволит им создать настоящий компьютерный ИИ.

2. Ии создаст сверх-вирус как оружие.

3. Люди вымрут от вируса, и придётся вводить вместо них роботов.

Параллельная конвергенция: возникновение новых продуктов на базе обеих технологий:

4. Биологическая сборка сверхплотных чипов резко ускорит рост ИИ.

5. Специальные вирусы будут устанавливать созданные самим Ии программы в мозг людям.

6. ИИ будут создавать непосредственно из биоматериалов – нейронов, ДНК.

Ии и сверхнаркотик

Последовательные сценарии:

1. Например, ИИ захочет обрадовать людей и создаст такой наркотик. Или сам ИИ и будет таким наркотиком (см. виртуальная реальность, интернет, управляемые сны).

2. По мере гибели людей от сверхнаркотика придётся заменять их на роботов.

3. Или наоборот, придётся придумать некое сверх-телевидение, чтобы успокоить людей, которые остались без работы из-за ИИ.

4. Сверхнаркотик будет оружием враждебного ИИ против людей.

Параллельная конвергенция:

5. ИИ придумает сложную комбинацию магнитных полей, создающую точный наркотический эффект в мозгу.

6. Связь ИИ и человеческого мозга через нейрошунт принципиально усилит возможности и того, и другого. ИИ получит доступ к человеческой интуиции, а человек – к неограниченной памяти и скорости мысли.

Сверхнаркотик и биотехнологии

1. производство опасных наркотиков станет таким же простым делом, как выращивание чайного гриба.

2. Потребность людей в наркотиках приведёт к расцвету чёрного рынка биотехнологий, который попутно сделает доступным и изготовление биооружия массового поражения.

3. Чтобы отучить людей от сверхнаркотика, будет распылено особое биооружие, поражающее мозг.

4. Некая заразная болезнь одним из своих симптомов будет иметь эйфорию и стремление распространять эту болезнь.

Сверхнаркотик и нанотехнологии

Ещё более сильный эффект даст прямое раздражение областей мозга микророботами. Нанороботы создадут системы, которые будут выводить информацию из мозга наружу (нейрошунты), что позволит создавать ещё более мощные средства развлечений. (Интересно, что в программе развития нанотехнологий в России утверждается, что рынок таких устройств к 2025 году достигнет миллиардов долларов[114].) Однако в целом здесь действуют те же сценарии, что и с биотехнологиями.

ИИ и нанотехнологии

1. Нанороботы позволят прочесть детали устройства человеческого мозга, что ускорит развитие ИИ.

2. ИИ поможет разработать и выпустить сверхэффективных нанороботов.

3. Прогресс в нанотехнологиях поддержит закон Мура достаточно долго, чтобы компьютеры достигли производительности, многократной превосходящей производительность человеческого мозга при крайне низкой цене.

4. Нанороботы и будут реальными носителями ИИ – получится нечто среднее между разумным океаном в духе лемовского Соляриса и сценарием Серой слизи.

5. Враждебный ИИ использует нанороботов как оружие для установления своей власти на Земле.

ИИ и ядерное оружие

1. Ии придумает, как сделать ядерное оружие (ЯО) проще, быстрее и дешевле.

2. Сценарий, в духе предложенного в фильме «Терминатор»: ИИ использует ЯО, чтобы избавится от людей.

3. Люди используют ЯО, чтобы попытаться остановить вышедший из-под контроля ИИ.

Нано и биотехнологии

1. Живые клетки будут собирать детали нанороботов (синтезировать в особых рибосомах).

2. Появятся «аниматы» – искусственная жизнь, содержащая элементы как живого, так и нанороботов.

3. Только нанороботы дадут окончательную защиту от биологического оружия.

Последнее изменение этой страницы: 2016-06-08; просмотров: 591

lectmania.ru. Все права принадлежат авторам данных материалов. В случае нарушения авторского права напишите нам сюда...