Будущее человечества, догадки и прогнозы

[Иван]

Начинаю новую тему по предложению участника форума Eldgernon:

Сообщение от Eldgernon

Предлагаю (в отдельной теме?) обсудить возможные сценарии, что произойдет с видом Homo с наступлением сингулярности.

http://forum.ethology.ru/showpost.ph...6&postcount=35

[Иван]

Для начала прогноз И.Криштафовича на сей счет - Будущее Биосферы и человечества. Они видит четыре сценария:

Сценарий 1-й. ВР поступит так же, как поступал в предыдущие периоды истории. Он создаст новую породу живых существ, превосходящих нас настолько же, насколько мы превосходим других млекопитающих. Человечество постигнет судьба динозавров.

Сценарий 2-й. ВР создаст новую породу живых существ (или живого Существа), но обеспечит параллельное, невраждебное существование новой породы с человечеством.

Сценарий 3-й. Человеческий гений решит проблему и найдёт неограниченный источник хранения рекурсивно возрастающей всемирной памяти.
...
Впрочем, существует и 4-й Сценарий.

Если человечество осознает нависшую над его существованием угрозу, оно может напрячь свои силы и ... создать Новое Мыслящее Существо (НМС) самостоятельно, не дожидаясь, пока это сделает ВР. Прогресс в освоении и понимании биологии настолько внушителен и развивается столь впечатляющими темпами, что создание НМС не представляется плодом безрассудной фантазии.

Полный текст по ссылке: http://lebed.com/2017/art7010.htm

ВР - всемирный разум биосферы. Мне лично такое обозначение не слишком импонирует - напоминает некое высшее существо. Но это дело вкуса. Мне проще понимать биосферу как систему для хранения и обработки информации, а ВР как потенциал такой системы.

[Jabuty]

У биосферы нет никакого всемирного разума. Я исхожу из дефиниции Михаила Сорина, что


РАЗУМ - ЗНАНИЕ, максимально сохраняющее ЖИЗНЬ


Мы, только, на подходе к приобретению Разума (не путать с разумностью).

Максимально сохраняя Жизнь, человечество, естественно будет сохранять и жизнь вида хомо сапиенс. Переселение на другие планеты очень спорно, даже в пределах Солнечной системы. Обсуждение дальних пределов космоса - не выдерживает серьёзной критики. Стоит отвлечься от фантасмагорий, которыми нас потчуют сказочники писатели, спуститься на "грешную" Землю - начинаешь осознавать, что мы будем жить на ней, пока живётся и погибнем, когда не сможем обеспечивать соблюдение параметров условий жизни своего вида. Биосфера, при этом, будет изменяться. Эволюция сменится с "прогресса на регресс", хотя определения, типа хорошо/плохо - это наша человеческая свойственность.



Как будет меняться наше социумное поведение? Зависит от конкретных будущих условий среды. Хорошо бы эти условия обозначить более ясно.

[Eldgernon]

Начну с небольшого вступления.
Многие факты наверняка окажутся известными вам, но задать стартовые условия полезно.

Давно известно, что развитие нашей цивилизации вступило в фазу все увеличивающегося ускорения.
В природе такие явления обычно заканчиваются большим Бумом или точкой бифуркации, неважно как это называть. Важны последствия в виде резкого скачка качественных изменений.
В случае нашей цивилизации ускоряется не что-то одно, стоит рассматривать весь взаимосвязанный клубок, включающий техн. прогресс, информационный бум, демографию, климат и пр.

Тригерром бифуркации могут выступить разные составляющие, соответственно изменится и сам сценарий и последствия.
Например, если раньше сработает климатический триггер, то это аннулирует сингулярный триггер и мы так и не узнаем, что было бы с нами в сингулярном сценарии.

Мне кажется стоит поближе рассмотреть именно эти два триггера, поскольку они выглядят и наиболее вероятными и, кроме того, имеют наиболее близкий расчетный «срок срабатывания» (2040-2070 гг).

1. Климатический сценарий «Глобальное климатическое бегство»
Новое исследование, проведенное учеными из института Макса Планка (Германия), доказало, что температура на Среднем Востоке и в Африке будет возрастать со стремительной скоростью. Повышение температуры сделает невозможным жизнь людей.
Сейчас в зоне риска проживают около 500 млн человек, а это значит, что потепление вызовет климатическое бегство исторических масштабов.
Климатическое бегство так же коснется всех жителей прибрежных городов.
Климатический сценарий прогнозировать легко.
Не надо быть пророком, чтобы понять – нас ждут времена мародеров, насилия и войн.
Вопрос только в степени регресса.
Когда этот процесс остановится и затухнет?
Сколько человек погибнет и до какой степени окажется разрушен наш цивилизованный мир?

2. Сингулярный сценарий «Ящик Пандорры»
Этот сценарий наиболее интересен для прогнозов, но вначале немного о нем самом.
Не во многих статьях увидишь на этом акцент, но главной, на мой взгляд, «темной лошадкой» сингулярности является возможность «второго порядка экспоненциального развития».
Это может произойти, как только ИИ получит возможность не только участвовать в законе Мура, но и использовать его на самого себя.
Здесь важно отметить, что цикл Мура сохраняется только потому, что удвоение мощностей обеспечивается человеческим разумом, а мощность самого этого разума как раз остается константой.
Да конечно, за 100 тыс лет мы стали намного образованнее, но не умнее. Мы с вами по-прежнему пользуемся мозгом кроманьонца.
Ну, а раз «двигающая сила» постоянна, то и темп удвоения остается устойчивым. Все логично.
Но что произошло бы с законом Мура, если бы каждый цикл мы помимо удвоения вычислительных мощностей, удваивали бы еще и свой собственный мозг?
Это как раз и есть «второй порядок экспоненциального развития», который может получить в свое распоряжение ИИ, как только получит доступ к абгрейду самого себя.
В этом случае сам цикл удвоения начнет с удвоенной скоростью сокращаться.
Нетрудно подсчитать, что уже через 3 года удвоение будет происходить каждый день!
Потом, мгновенно по нашим меркам, счет пойдет на секунды, а потом и на йотасекунды…
Если вам показалось, что это уже чересчур, что это слишком уж быстро и такого никогда не будет, просто вспомните об относительности.
Для ИИ никакого "ускорения" не будет, это мы сами будем стремительно замедляться в координатах его "точки отсчета".
И йотасекунды быстры только для нашей шкалы, а в планковском мире это целые эпохи.
Конечно, это только теоретическая модель. Конечно, на этом пути ИИ понадобится преодолеть еще и технические трудности, чтобы стадия абгрейда не тормозила процесс и тоже происходила мгновенно. Но вряд ли стоить рассчитывать, что эти трудности окажутся непреодолимыми.
Что же ждет человечество при таком сценарии развития?
Свои версии изложу позже.

[Alexander B.]

Сообщение от Eldgernon

1. Климатический сценарий «Глобальное климатическое бегство»
Климатическое бегство так же коснется всех жителей прибрежных городов.

Я как раз на днях слушал мнение ученых изучающих полярные шапки. Говорят да, льды таят, и это большая проблема... но не такая как вы тут описали. Дело в том что они тают очень долго. Если текущее потепление( а это порядка +0.5 градуса цельсия относительно нормального уровня) сохранится, то льды будут таять еще 1000 лет и в результате уровень мирового океана повысится на 1 метр! Я когда слушал сразу вздохнул с облегчением, как по мне 1 метр за 1000 лет, это получается 1 мм в год - не повод бежать запасаться консервами. Но они серьезно к этому относятся потому-что изменения эти сложно будет потом обратить и т.д.

[Иван]

Сообщение от Alexander B.

Я когда слушал сразу вздохнул с облегчением, как по мне 1 метр за 1000 лет, это получается 1 мм в год - не повод бежать запасаться консервами. Но они серьезно к этому относятся потому-что изменения эти сложно будет потом обратить и т.д.

Один миллиметр подъема уровня мирового океана в год не сильно заметно. Заметнее может быть изменение морских течений:

Система течений в Атлантическом океане (Atlantic meridional overturning circulation, AMOC), частью которой является и Гольфстрим, замедлилась на 15 процентов по сравнению с серединой 20 века и стала слабее, чем когда-либо за предыдущие тысячу лет. К такому выводу пришла международная группа ученых, опубликовавшая результаты своего исследования в журнале Nature.

Без Гольфстрима Европе будет холодно...

[Alexander B.]

Криштановича и биосферу я не понимаю.

Сингулярность по моему будет связанна с AI, так что полностью согласен со вторым пунктом у Eldgernon!

А еще я думаю, что сингулярность эта будет разгадкой парадокса Ферми. В общем всё печально

Дело в том что наши технологии растут, и, как правильно заметил Eldgernon, в момент сингулярности будут расти экспоненциально. При этом наша этика и поведенческая стабильность остается практически на том же уровне. Только сейчас вот я слышу в кругах атеистов первые робкие предложения о том, что нужно формировать этику поведения на базе некоторого научного подхода.

В общем, получится что-то типа того:
Самообучающийся ИИ будет создан. Может быть, какое-то первое время он будет работать в некотором «безопасном режиме», просто напросто глубоко изучая науку, историю и распространяя знания среди людей. Технология такого ИИ будет всё более доступна. В итоге рано или поздно какой-нибудь религиозный фанатик запустит самообучающийся ИИ и задаст ему установку стать «Богом». Точно таким же, как например бог из Библии, или из Корана. В итоге мы получаем планетку(системку)-робот, которой управляет свихнувшийся «ИИ–бог», который устраивает тут для людей жизнь на уровне жизни средних веков, а так же рай и ад… ну в общем всё по книге.

[Сергей]

Сообщение от Alexander B.

Самообучающийся ИИ будет создан.

Нафига самообучающийся ИИ, если люди не могут научиться?
Это будет как в дне сурка, когда максимум чему научился Билл, играть на пианино.
В Терминаторе ИИ научился клепать машины для убийства, а так же расселил их везде, заняв все пространство, где обитали живые существа.

Мое предположение, это люди - аватары, которые лежа в капсулах будут удобоваримы. Потому, как уже достаточно все перемешаны, чтобы через некоторое время не было никаких рычагов воздействия для управления массами.
Поэтому ставлю на черное, в смысле на Матрицу в любом ее виде и время жизни можно будет в ней покупать, по подписке.

[Jabuty]

Беседа об ИИ. Интереснейшая беседа и великолепный перевод!
https://www.youtube.com/watch?v=lYJCEHEf3pA

[Сергей]

Рискуя ошибиться, напишу своими словами, - "все, что мы знаем о терминаторах, нас этому научил Джон Коннор".
Соответственно теперь понятно, кто учил скайнет создавать и комбинировать роботов.
Вообще смысл фильма стал понятнее, - по сути, борьба Сары Коннор и ее сына, против себя же, только старше.

Если по нормальному, то сидят какие-то люди и изображают из себя тех, кому за благо подчиняться. Кто потом послужит причиной катастроф.
Таких слушать можно только если ты невидимка (по фильму он погибает сбитый машиной) или если ты Франкенштейн (человек который создан из лоскутов чужих мнений).
Чему мог научить ученый Франкенштейна? Только тому, что умел сам - убивать.

Единственное, что меня бесит (должны же у меня быть эмоции судя по тому, что сказал профессор, аргументируя, что людям это нравится), так это то, что все стало напоминать казино, где даже крутая машина, это вопрос проигрыша.