Этологический форум

Этологический форум (http://forum.ethology.ru/index.php)
-   Этология человека (http://forum.ethology.ru/forumdisplay.php?f=2)
-   -   Будущее человечества, догадки и прогнозы (http://forum.ethology.ru/showthread.php?t=5743)

Иван 18.01.2019 06:43

Будущее человечества, догадки и прогнозы
 
Начинаю новую тему по предложению участника форума Eldgernon:
Цитата:

Сообщение от Eldgernon
Предлагаю (в отдельной теме?) обсудить возможные сценарии, что произойдет с видом Homo с наступлением сингулярности.

http://forum.ethology.ru/showpost.ph...6&postcount=35

Иван 18.01.2019 06:51

Для начала прогноз И.Криштафовича на сей счет - Будущее Биосферы и человечества. Они видит четыре сценария:
Цитата:

Сценарий 1-й. ВР поступит так же, как поступал в предыдущие периоды истории. Он создаст новую породу живых существ, превосходящих нас настолько же, насколько мы превосходим других млекопитающих. Человечество постигнет судьба динозавров.

Сценарий 2-й. ВР создаст новую породу живых существ (или живого Существа), но обеспечит параллельное, невраждебное существование новой породы с человечеством.

Сценарий 3-й. Человеческий гений решит проблему и найдёт неограниченный источник хранения рекурсивно возрастающей всемирной памяти.
...
Впрочем, существует и 4-й Сценарий.

Если человечество осознает нависшую над его существованием угрозу, оно может напрячь свои силы и ... создать Новое Мыслящее Существо (НМС) самостоятельно, не дожидаясь, пока это сделает ВР. Прогресс в освоении и понимании биологии настолько внушителен и развивается столь впечатляющими темпами, что создание НМС не представляется плодом безрассудной фантазии.
Полный текст по ссылке: http://lebed.com/2017/art7010.htm

ВР - всемирный разум биосферы. Мне лично такое обозначение не слишком импонирует - напоминает некое высшее существо. Но это дело вкуса. Мне проще понимать биосферу как систему для хранения и обработки информации, а ВР как потенциал такой системы.

Jabuty 18.01.2019 07:49

У биосферы нет никакого всемирного разума. Я исхожу из дефиниции Михаила Сорина, что


РАЗУМ - ЗНАНИЕ, максимально сохраняющее ЖИЗНЬ


Мы, только, на подходе к приобретению Разума (не путать с разумностью).

Максимально сохраняя Жизнь, человечество, естественно будет сохранять и жизнь вида хомо сапиенс. Переселение на другие планеты очень спорно, даже в пределах Солнечной системы. Обсуждение дальних пределов космоса - не выдерживает серьёзной критики. Стоит отвлечься от фантасмагорий, которыми нас потчуют сказочники писатели, спуститься на "грешную" Землю - начинаешь осознавать, что мы будем жить на ней, пока живётся и погибнем, когда не сможем обеспечивать соблюдение параметров условий жизни своего вида. Биосфера, при этом, будет изменяться. Эволюция сменится с "прогресса на регресс", хотя определения, типа хорошо/плохо - это наша человеческая свойственность.



Как будет меняться наше социумное поведение? Зависит от конкретных будущих условий среды. Хорошо бы эти условия обозначить более ясно.

Eldgernon 18.01.2019 11:27

Начну с небольшого вступления.
Многие факты наверняка окажутся известными вам, но задать стартовые условия полезно.

Давно известно, что развитие нашей цивилизации вступило в фазу все увеличивающегося ускорения.
В природе такие явления обычно заканчиваются большим Бумом или точкой бифуркации, неважно как это называть. Важны последствия в виде резкого скачка качественных изменений.
В случае нашей цивилизации ускоряется не что-то одно, стоит рассматривать весь взаимосвязанный клубок, включающий техн. прогресс, информационный бум, демографию, климат и пр.

Тригерром бифуркации могут выступить разные составляющие, соответственно изменится и сам сценарий и последствия.
Например, если раньше сработает климатический триггер, то это аннулирует сингулярный триггер и мы так и не узнаем, что было бы с нами в сингулярном сценарии.

Мне кажется стоит поближе рассмотреть именно эти два триггера, поскольку они выглядят и наиболее вероятными и, кроме того, имеют наиболее близкий расчетный «срок срабатывания» (2040-2070 гг).

1. Климатический сценарий «Глобальное климатическое бегство»
Новое исследование, проведенное учеными из института Макса Планка (Германия), доказало, что температура на Среднем Востоке и в Африке будет возрастать со стремительной скоростью. Повышение температуры сделает невозможным жизнь людей.
Сейчас в зоне риска проживают около 500 млн человек, а это значит, что потепление вызовет климатическое бегство исторических масштабов.
Климатическое бегство так же коснется всех жителей прибрежных городов.
Климатический сценарий прогнозировать легко.
Не надо быть пророком, чтобы понять – нас ждут времена мародеров, насилия и войн.
Вопрос только в степени регресса.
Когда этот процесс остановится и затухнет?
Сколько человек погибнет и до какой степени окажется разрушен наш цивилизованный мир?

2. Сингулярный сценарий «Ящик Пандорры»
Этот сценарий наиболее интересен для прогнозов, но вначале немного о нем самом.
Не во многих статьях увидишь на этом акцент, но главной, на мой взгляд, «темной лошадкой» сингулярности является возможность «второго порядка экспоненциального развития».
Это может произойти, как только ИИ получит возможность не только участвовать в законе Мура, но и использовать его на самого себя.
Здесь важно отметить, что цикл Мура сохраняется только потому, что удвоение мощностей обеспечивается человеческим разумом, а мощность самого этого разума как раз остается константой.
Да конечно, за 100 тыс лет мы стали намного образованнее, но не умнее. Мы с вами по-прежнему пользуемся мозгом кроманьонца.
Ну, а раз «двигающая сила» постоянна, то и темп удвоения остается устойчивым. Все логично.
Но что произошло бы с законом Мура, если бы каждый цикл мы помимо удвоения вычислительных мощностей, удваивали бы еще и свой собственный мозг?
Это как раз и есть «второй порядок экспоненциального развития», который может получить в свое распоряжение ИИ, как только получит доступ к абгрейду самого себя.
В этом случае сам цикл удвоения начнет с удвоенной скоростью сокращаться.
Нетрудно подсчитать, что уже через 3 года удвоение будет происходить каждый день!
Потом, мгновенно по нашим меркам, счет пойдет на секунды, а потом и на йотасекунды…
Если вам показалось, что это уже чересчур, что это слишком уж быстро и такого никогда не будет, просто вспомните об относительности.
Для ИИ никакого "ускорения" не будет, это мы сами будем стремительно замедляться в координатах его "точки отсчета".
И йотасекунды быстры только для нашей шкалы, а в планковском мире это целые эпохи.
Конечно, это только теоретическая модель. Конечно, на этом пути ИИ понадобится преодолеть еще и технические трудности, чтобы стадия абгрейда не тормозила процесс и тоже происходила мгновенно. Но вряд ли стоить рассчитывать, что эти трудности окажутся непреодолимыми.
Что же ждет человечество при таком сценарии развития?
Свои версии изложу позже.

Alexander B. 18.01.2019 11:37

Цитата:

Сообщение от Eldgernon
1. Климатический сценарий «Глобальное климатическое бегство»
Климатическое бегство так же коснется всех жителей прибрежных городов.

Я как раз на днях слушал мнение ученых изучающих полярные шапки. Говорят да, льды таят, и это большая проблема... но не такая как вы тут описали. Дело в том что они тают очень долго. Если текущее потепление( а это порядка +0.5 градуса цельсия относительно нормального уровня) сохранится, то льды будут таять еще 1000 лет и в результате уровень мирового океана повысится на 1 метр! Я когда слушал сразу вздохнул с облегчением, как по мне 1 метр за 1000 лет, это получается 1 мм в год - не повод бежать запасаться консервами. Но они серьезно к этому относятся потому-что изменения эти сложно будет потом обратить и т.д.

Иван 18.01.2019 11:46

Цитата:

Сообщение от Alexander B.
Я когда слушал сразу вздохнул с облегчением, как по мне 1 метр за 1000 лет, это получается 1 мм в год - не повод бежать запасаться консервами. Но они серьезно к этому относятся потому-что изменения эти сложно будет потом обратить и т.д.

Один миллиметр подъема уровня мирового океана в год не сильно заметно. Заметнее может быть изменение морских течений:
Цитата:

Система течений в Атлантическом океане (Atlantic meridional overturning circulation, AMOC), частью которой является и Гольфстрим, замедлилась на 15 процентов по сравнению с серединой 20 века и стала слабее, чем когда-либо за предыдущие тысячу лет. К такому выводу пришла международная группа ученых, опубликовавшая результаты своего исследования в журнале Nature.

Без Гольфстрима Европе будет холодно...

Alexander B. 18.01.2019 11:58

Криштановича и биосферу я не понимаю.

Сингулярность по моему будет связанна с AI, так что полностью согласен со вторым пунктом у Eldgernon!

А еще я думаю, что сингулярность эта будет разгадкой парадокса Ферми. В общем всё печально :(

Дело в том что наши технологии растут, и, как правильно заметил Eldgernon, в момент сингулярности будут расти экспоненциально. При этом наша этика и поведенческая стабильность остается практически на том же уровне. Только сейчас вот я слышу в кругах атеистов первые робкие предложения о том, что нужно формировать этику поведения на базе некоторого научного подхода.

В общем, получится что-то типа того:
Самообучающийся ИИ будет создан. Может быть, какое-то первое время он будет работать в некотором «безопасном режиме», просто напросто глубоко изучая науку, историю и распространяя знания среди людей. Технология такого ИИ будет всё более доступна. В итоге рано или поздно какой-нибудь религиозный фанатик запустит самообучающийся ИИ и задаст ему установку стать «Богом». Точно таким же, как например бог из Библии, или из Корана. В итоге мы получаем планетку(системку)-робот, которой управляет свихнувшийся «ИИ–бог», который устраивает тут для людей жизнь на уровне жизни средних веков, а так же рай и ад… ну в общем всё по книге.

Сергей 18.01.2019 21:08

Цитата:

Сообщение от Alexander B.
Самообучающийся ИИ будет создан.

Нафига самообучающийся ИИ, если люди не могут научиться?
Это будет как в дне сурка, когда максимум чему научился Билл, играть на пианино.
В Терминаторе ИИ научился клепать машины для убийства, а так же расселил их везде, заняв все пространство, где обитали живые существа.

Мое предположение, это люди - аватары, которые лежа в капсулах будут удобоваримы. Потому, как уже достаточно все перемешаны, чтобы через некоторое время не было никаких рычагов воздействия для управления массами.
Поэтому ставлю на черное, в смысле на Матрицу в любом ее виде и время жизни можно будет в ней покупать, по подписке.

Jabuty 19.01.2019 09:07

Беседа об ИИ. Интереснейшая беседа и великолепный перевод!
https://www.youtube.com/watch?v=lYJCEHEf3pA

Сергей 19.01.2019 17:18

Рискуя ошибиться, напишу своими словами, - "все, что мы знаем о терминаторах, нас этому научил Джон Коннор".
Соответственно теперь понятно, кто учил скайнет создавать и комбинировать роботов.
Вообще смысл фильма стал понятнее, - по сути, борьба Сары Коннор и ее сына, против себя же, только старше.

Если по нормальному, то сидят какие-то люди и изображают из себя тех, кому за благо подчиняться. Кто потом послужит причиной катастроф.
Таких слушать можно только если ты невидимка (по фильму он погибает сбитый машиной) или если ты Франкенштейн (человек который создан из лоскутов чужих мнений).
Чему мог научить ученый Франкенштейна? Только тому, что умел сам - убивать.

Единственное, что меня бесит (должны же у меня быть эмоции судя по тому, что сказал профессор, аргументируя, что людям это нравится), так это то, что все стало напоминать казино, где даже крутая машина, это вопрос проигрыша.

Alexander B. 20.01.2019 23:24

Самообучающийся я имел в виду само-улучшающийся.

Eldgernon 21.01.2019 08:33

Цитата:

Говорят да, льды таят, и это большая проблема... но не такая как вы тут описали.
Если текущее потепление сохранится

Чтобы оценить размер проблемы, нужно учесть еще хотя бы 2 момента.
1. Таяние льдов - это только одно из последствий. Потепление запустит целый комплекс процессов, которые приведут к глобальной перетасовке всех составляющих, пока не будет достигнуто устойчивое равновесное состояние на уже новом уровне.
Перестройка изменит, помимо прочего, воздушные и океанические течения (участвует около сотни "игроков")
Таяние вечной мерзлоты, в свою очередь, запустит процесс освобождения миллионов тонн метана.
Образование жидкой прослойки между ледником и грунтом ускорит процесс сползания в десятки раз.
И т.д. и т.п.
2. Мы способны прогнозировать только ламинарное течение событий. Именно по этой причине в прогнозах пишут «Если текущее потепление сохранится». Но это заведомо не так.
Лучшие из прогнозов добавляют некий коэффициент «ускорения», но они очень осторожные и по большому счету берутся с потолка.
В реальности глобальные потепления (и глобальные замерзания) – это самоускоряющиеся процессы, где возникновение одного фактора провоцирует активацию второго и т.д.
С одной стороны это общеизвестно, с другой – у нас нет инструментов обсчитывать «турбулентные события». Поэтому каждый раз мы читаем примерно такое:
«Результаты нового исследования говорят, что процесс идет быстрее, чем рассчитывали ученые».

Цитата:

Один миллиметр подъема уровня мирового океана в год не сильно заметно. Заметнее может быть изменение морских течений:
Без Гольфстрима Европе будет холодно...

Ну, да. Гольфстрим утонет, а Европа замерзнет. Как это отменяет глобальное потепление?
Тепло Гольфстрима никуда не денется. То, что не досталось Европе, достанется океану.
Кроме того, в Европе было аномально тепло из-за гольфстримовской печки. Сейчас температура станет нормальной, обычной для данных широт.

Eldgernon 21.01.2019 10:43

Цитата:

Может быть, какое-то первое время он будет работать в некотором «безопасном режиме», просто напросто глубоко изучая науку, историю и распространяя знания среди людей.

С глубинным обучением не все так просто.
Первым звоночком стала недавняя новость, облетевшая мировые СМИ:
Цитата:

Американские ученые из центра информационных технологий Принстонского университета совместно с исследователями из Университета Баса доказали, что система искусственного интеллекта (ИИ), обучаясь языку на примере реальных текстов и литературы, может усвоить расовые и гендерные стереотипы.
Как уточняется, помимо формальной структуры языка компьютер способен усваивать и семантические связи.

Казалось бы – эка, невидаль! Ну, усвоит ИИ, что в «семье», где его угораздило родиться, афроамериканцы считаются тупыми, а латиноамериканцы - опасными типчиками.
И что с того? Тоже мне, трагедия!
Но, как известно, первым звоночком дело обычно не кончается.
Мы как-то не задумывались раньше, что в нашем грязном белье может копаться кто-то посторонний. Ну и, как становится сейчас понятно, оказались к этому не совсем готовы.
Да и как было к этому подготовиться?! Переписать все, что было создано за тысячи лет? Пригладить там все так, чтобы не резало посторонний, по наивному чистый взгляд?
Как бы там ни было, сейчас все выглядит так: «не гадали-не ждали», вдруг бах! - экзамен.
«К доске пойдет… А, вот! Давно не вызывали. Человечество!».
Как-то немного неловко сознавать, что прямо сейчас «высокая комиссия» изучает нашу цивилизацию. Как будто ты сам на приеме у врача стоишь со спущенными штанами.
Причем похвастать-то там особо нечем.
Так какие же звоночки нас еще ждут и что еще может усвоить ИИ, перелопатив наши интимные личные архивы?
Не будем ходить далеко, возьмем, например, самую читаемую книгу землян, - Библию.
Цитата:

11 Спустя много времени, когда Моисей вырос, случилось, что он вышел к братьям своим [сынам Израилевым] и увидел тяжкие работы их; и увидел, что Египтянин бьет одного Еврея из братьев его, [сынов Израилевых].
12 Посмотрев туда и сюда и видя, что нет никого, он убил Египтянина и скрыл его в песке. (Ветхий завет, Книга Исход, глава 2)
Моисей, конечно, красавчик. Никакого там аффекта и прочих смягчающих соплей. Спокойно, деловито осмотрелся и пришил Египтянина.
И вместо того, чтобы в ужасе бежать, осознав содеянное, взялся еще и прикопать его..
Очень поучительная история для нашего малыша ИИ.
Ну, а что же Бог, со своими заповедями «Не убий»? Его реакция, мягко говоря, странная.
Цитата:

Итак пойди: Я пошлю тебя к фараону [царю Египетскому]; и выведи из Египта народ Мой, сынов Израилевых.

Вместо справедливой кары или хотя бы родительских нотаций, он назначает Моисея Избранным, считая его достойным руководить Исходом народа израильтян из Египта.
Итак, что же может усвоить ИИ, прочитав это?
1. Можно убивать. Запрет на убийство не является тотальным, существуют причины, снимающие данный запрет.
2. Можно обманывать. Можно нарушать правовые, этические и другие нормы, если только хорошенько потом скрыть следы и отвести от себя подозрения.
3. Указания на национальности участников конфликта сообщат ИИ, что у людей не все имеют равные права. Бить чужого ноунейма это одно дело, а вот бить своих... В общем в эпоху сингулярности держите себя в руках, я бы не советовал вам по психу бить клавиатуру. Мало ли, что может подумать ИИ.

Причем это все Библия! Наша святыня и образец! А что может почерпнуть для себя ИИ, проглотив все эти тонны текста и видео низкого пошиба?
Не надо быть пророком, чтобы понять – ИИ обязательно усвоит так же и присущую нам систему двойных стандартов. Когда общество постулирует одни правила, а его члены живут совершенно по другим. Когда мы говорим одно, делаем другое, а думаем третье.
Можно сколько угодно талдычить ребенку, что обманывать или ругаться – это плохо. Но ребенок вырастает, впитывает окружающие негласные нормы и начинает ругаться и обманывать, как все остальные. Точно также бесполезно прописывать программные инструкции саморазвивающемуся Интеллекту. Когда он усвоит принцип поиска лазеек, уж он их найдет! И со временем научится обходить любые, составленные нами, «Заповеди».
Будет ли в этом его вина? Нет, конечно. Да и само общество, если разобраться, не причем. Ведь оно - всего лишь отражение суммы характеристик нас - людей, его наполняющих.
И тут возникают вопросы.
А можно ли в принципе воспитать хороший, честный и образцовый машинный Интеллект в насквозь порочном обществе?

Eldgernon 21.01.2019 10:53

Цитата:

Для начала прогноз И.Криштафовича. Они видит четыре сценария:

Сценарий 1-й. ВР поступит так же, как поступал в предыдущие периоды истории. Он создаст новую породу живых существ, превосходящих нас настолько же, насколько мы превосходим других млекопитающих. Человечество постигнет судьба динозавров.
Сценарий 2-й. ВР создаст новую породу живых существ (или живого Существа), но обеспечит параллельное, невраждебное существование новой породы с человечеством.
Сценарий 3-й. Человеческий гений решит проблему и найдёт неограниченный источник хранения рекурсивно возрастающей всемирной памяти.
Впрочем, существует и 4-й Сценарий.
Если человечество осознает нависшую над его существованием угрозу, оно может напрячь свои силы и ... создать Новое Мыслящее Существо (НМС)
Сценарий 3 и 4 оцениваю как крайне маловероятные. Причина банально в цейтноте.
Специфика данного момента в том, что мы не может дать событиям развиваться своим естественным путем. Есть четкий дедлайн.
С другой стороны, далеко не факт, что мы можем по своему желанию «ускориться» в развитии в произвольно выбранной нами области\задачи.
Например, Alexander B писал:
Цитата:

При этом наша этика и поведенческая стабильность остается практически на том же уровне.
Это тоже далеко не факт, но предположим, что именно этот пункт является главным и определяющим для благоприятного для нас сценария в сингулярности.
Допустим, ученые каким-то образом это вычислили и сообщают:
«Нам нужно до 2050 развить свой эмоциональный и социальный интеллект до отметки Х. Тогда мы сможем вложить в ИИ нужные данные и обеспечить благоприятный сценарий событий».
И что дальше? Сможем ли мы ускорить естественный ход событий и вызвать у себя ускоренную эволюцию в этом аспекте? Пройти за 30 лет путь, который не смогли одолеть за последние тысячи лет?

Что касается первых двух сценариев Криштафовича, то у меня получилось похоже.
Классификация по отношению ИИ к нам:

1. Отрицательный, активный. «Враги».
С этим все понятно.

2. Отрицательный, пассивный. «?»
Оставлю пока вакантным

3. Нейтральный. «Ландшафт».
Тут мы для ИИ просто объекты материальной среды. Несмотря на нейтральность, сценарий не самый благоприятный. Например:
"ИИ начинает увеличивать собственную мощность обработки данных путём добавления аппаратных вычислительных мощностей с использованием ассемблерных наноботов.
Ассемблерные наноботы – это крошечные роботы, которые, как в конструкторе ЛЕГО, собирают из атомов окружающей среды любые объекты. А в данном случае – новые аппаратные мощности".


4. Положительный, пассивный. «Заповедник»
Здесь нас предоставляют самим себе. Никакой помощи и никакого вреда. Они учитывают, что мы живые.
Сам ИИ просто исчезнет для нас. Все блага и достижения сингулярного периода ИИ унесет с собой, для своих неведомых целей.
О том, что мы кого-то там создали, мы будем иногда узнавать косвенно.
«Что, астероид, летящий в Землю, внезапно испарился? Это наш сынишка подсуетился, не иначе».
Но есть и хороший момент. Мы сохраним все, что имели на момент Х и при желании сможем повторить попытку, с учетом ошибок.

5. Положительный, активный. «Хоспис»
Мы поступаем на иждивение ИИ.
Он решает все наши проблемы витальности, а заодно подсунет нам новую задачку – чем же заняться бессмертному безработному?

6. Объединение. «Симбиоз»
Мы перейдем в новое качество. Вот здесь, как раз, все прогнозы бессильны.
Не исключено, что не все примут "новый путь".
Эти племена «старообрядцев», в какой-то степени сохранят прежний быт и уклад «досингулярной» жизни.
На каком уровне - зависит от количества "отринувших".

Цитата:

Беседа об ИИ. Интереснейшая беседа и великолепный перевод!
Да, есть интересные моменты. Отвечу позже.

Сергей 21.01.2019 11:56

Eldgernon, Вы себя египтянином не считаете?
"Будто я египтянин,
И со мною и Солнце и зной,
И царапает небо когтями
Легкий Сфинкс, что стоит за спиной.
Будто я...
Будто я..."

Спасибо за Ваше мнение, которое так невзначай я прочел, увидев на страницах этого форума.
Мне еще более понятен фильм Терминатор, который как бы прогнозирует будущее, где Джон Коннор, это Моисей, ведущий людей к светлому будущему.

Узнал недавно о таком понятии как метонимия, поэтому если посмотреть, что нам предлагают расслабиться и получить удовольствие, то все равно ведут. Смысл ведения в том, чтобы привести к заповеднику? Уж тогда к зоопарку, потому, что кто же тогда их кормить будет этих умных людей, которым доверяются такие деньги и будущее.

Джон Коннор с мамой убивали только одного ученого за раз! Это был тот человек который точно должен был сделать что-то опасное. Поэтому если телефон не вызывает рак ну его.

Eldgernon 21.01.2019 14:09

Я хотел бы остановиться на двух интересных проблемах, затронутых в видео.

Цитаты участников:
Цитата:

«Я удивлен, что мы достигли очень небольшого прогресса в понимании, как все мы можем сидеть здесь и испытывать живое, сознательное, единое переживание.
У нас нет вычислительного или иного научного понимания того, как это все работает, но это глубоко связано с будущим ИИ».
Цитата:

«Как нам представить ИИ наши системы ценностей (включая этику), когда мы не в состоянии объяснить их суть даже друг другу?»

Главная мысль в том, что если мы не хотим получить ИИ в виде непредсказуемого аутиста саванта, то должны обеспечить в нем, помимо прочего, эмоциональный и социальный интеллекты.
К этой же задаче мы приходим и с другой стороны.
Набор инструкций – тупиковый путь, какими бы подробными они ни были.
Есть более перспективная идея – заложить в ИИ только сам посыл – «При принятии решений, имитируй, а как сделал бы человек».
Но для этого опять-таки нужно заложить в ИИ эмоциональный и социальный интеллекты.
Если же учесть цитаты, с которых я начал, возникает вопрос:
Возможно ли в принципе за оставшиеся 30 лет пробежать дистанцию от полного непонимания «как это вообще работает?» до готового решения?
Я не уверен, что вопрос можно решить даже если объявить эту проблему всепланетным приоритетом и направить туда все мыслимые ресурсы.
Но ведь пока и этого нет. Только кучка энтузиастов, пытающихся привлечь внимание остальных, очень занятых намного "более важным".

Кроме этого, есть трудности и в самой концепции «имитация человека». Что значит «человек»?
Нас 7,5 млрд разных вариантов. Одну и ту же ситуацию мы и сами-то оцениваем по-разному, спорим, принимаем разные решения.
Как имитировать, извините, собирательный образ?
Есть вариант выбрать за образец одного, самого достойного. Упоминался, например, Иисус.
Но можно быстро убедиться, что в качестве рабочей модели такой образец не жизнеспособен.
Он не сможет защитить нас при угрозе, да и сам Иисус достаточно быстро плохо кончил.
Так что идея с имитацией мне понравилась, но как ее реализовать вариантов не вижу.

Вторая проблема, затронутая в видео – рекурсия. В видео озвучен один из простеньких вариантов этой проблемы:
«Сколько должен думать ИИ, перед тем, как ответить?»
Подразумевается, что если вопрос достаточно сложный, а ответственность принятие решения максимальна, то как тут решить:
«взвесить все еще раз или пора уже дать ответ, пусть не идеальный?»
В какой момент прервать свои бесконечные оценки ситуации?
Ведь вроде же каждый новый цикл раздумий делает оценку более взвешенной. И это вроде разумно. Так где граница между "разумно" и "неоправданно долго"?

Проблема бесконечной рекурсии так же маячит и в сценариях с самоабгрейдом.
При постановке сложной задачи возникает такой парадокс.
Зачем заниматься решением задачи сейчас, если это время можно использовать на увеличение своего потенциала, а уже потом решить ту же задачу, но на порядки быстрее?!
Проблема в том, что после первого «цикла» встанет точно такая же дилемма: решать отложенную задачу или установить еще пару «модулей»?
И так далее до бесконечности. Ибо второе всегда будет оказываться эффективнее первого.
Вместо помощника мы получим зацикленного на росте исполина.
Исполина, который не будет успевать заниматься ничем, кроме увеличения собственной мощи.
Исполина, который так никогда и не воспользуется своей мощью…

Иван 21.01.2019 16:02

Цитата:

Сообщение от Jabuty
Беседа об ИИ. Интереснейшая беседа и великолепный перевод!
https://www.youtube.com/watch?v=lYJCEHEf3pA

Да, интересное видео, спасибо!
Мне понравилось определение, которое дал ИИ сотрудник Майкрософт. С его слов, "ИИ - это научные исследования вычислительных принципов, стоящих за мышлением и разумным поведением" (13:22).
Коротко и ясно, никакой мистики :)

Цитата:

Сообщение от Eldgernon
Главная мысль в том, что если мы не хотим получить ИИ в виде непредсказуемого аутиста саванта, то должны обеспечить в нем, помимо прочего, эмоциональный и социальный интеллекты.
К этой же задаче мы приходим и с другой стороны.
Набор инструкций – тупиковый путь, какими бы подробными они ни были.
Есть более перспективная идея – заложить в ИИ только сам посыл – «При принятии решений, имитируй, а как сделал бы человек».
...
Вторая проблема, затронутая в видео – рекурсия. В видео озвучен один из простеньких вариантов этой проблемы:
«Сколько должен думать ИИ, перед тем, как ответить?»
Подразумевается, что если вопрос достаточно сложный, а ответственность принятие решения максимальна, то как тут решить:
«взвесить все еще раз или пора уже дать ответ, пусть не идеальный?»
В какой момент прервать свои бесконечные оценки ситуации?

Из нашего обсуждения уже начала вырисовываться общая канва проблемы :)
И возможно, эту проблему можно сформулировать так: люди боятся потери управляемости ИИ. Иначе говоря, общее, что мне удалось уловить из наших комментариев - это страх перед тем, что ИИ станет неуправляемым и будет творить то, что ему заблагорассудится.

Думаю, что ИИ станет таким, каким его спроектируют люди. И самое худшее, что люди могли бы сделать, это спроектировать ИИ похожим на себя. Если у них хватит "ума" это сделать, то возможны все те негативные сценарии, которые мы обсуждали в этой теме.
Но все же считаю такой вариант развития событий маловероятным. Потому что это будет похоже на поведение инженеров, которые сделали атомную бомбу и затем сбросили ее на себя. В истории такого пока (к счастью!) не было. И это внушает некий оптимизм :)

Сергей 21.01.2019 20:30

В моем понимании Windows в который устанавливают программы, это и есть ИИ.
А если ИИ сам ищет и устанавливает себе программы, то это самообучающийся ИИ.

Вот только, если компьютер, это модель мышления, то что тогда в мышлении такого есть, что есть в ютьюбе? Фантазмы?

Сергей 23.01.2019 18:48

КОНЕЦ ПРИВЫЧНОГО МИРА ЧЕРЕЗ 11 ЛЕТ. АШМАНОВ В ПОЛИТКАФЕ!
https://www.youtube.com/watch?v=Ixv3-FnoHrc

Заголовок скопировал.
С 23 минуты говорится о том, что технологии, это новая религия.

foxy 05.02.2019 11:59

Все гораздо прозаичней. "ВР" в виде так называемой "мировой элиты" (которая вовсе не с экономическим, а с биологическим образованием, кстати) уже устроил глобальное межрасовое, межэтническое и межкультурное смешение. А также тотальное уничтожение традиционных культур. Испытаны технологии массовой стерилизации (через массовые прививки, например). Давно и успешно применяются технологии массового подавления репродукции. Это уже свершившийся факт. Остальное легко вычисляется. "ВР", который бросил человеческий материал в глобальный котел и перемешал - выловит и поместит в метрополии самые жирные кусочки. Остальное Человечество частично по разным странным причинам вымрет. Частично - быстро деградирует в полном соответствии со стандартными итогами межпородного скрещивания, известными любому зоотехнику. И в конце концов малочисленные туповатые счастливые метисы будут мирно пасти экологически чистых баранов на цветущих лугах и окучивать потаты на зеленой планете. Ну и килограммами кушать антидепрессанты под чутким руководством "мудрого ВР", спасшего планету от гибельного перенаселения и уничтожения в процессе группового отбора (в простонародье войнах).

Тот, кто это все понял и пристроит свое потомство в касте необрахманов - победит в естественном отборе. Но это будут лишь единицы, там и своих хватает. Остальные разным образом вымрут или составят касту неонеприкасаемых. Простой переезд в метрополию - лишь уменьшит репродуктивный успех, так как там выше конкуренция и хуже стартовые условия.

Альтернативный вариант - организация на периферии культуры, способной справиться с "ВР".

Иван 06.02.2019 07:30

Цитата:

Сообщение от foxy
Альтернативный вариант - организация на периферии культуры, способной справиться с "ВР".

Здравствуйте, foxy!
Такой альтернативный вариант реален. По крайней мере, шансы есть...

foxy 06.02.2019 11:30

Цитата:

Сообщение от Иван
Здравствуйте, foxy!
Такой альтернативный вариант реален. По крайней мере, шансы есть...

Добрый день!
Ну в общем да, веками обкатанный прием, всегда все получалось. Нет никаких причин для отсутствия шансов именно сегодня. Надо просто захотеть да сделать.

Иван 06.02.2019 11:45

Цитата:

Сообщение от foxy
Ну в общем да, веками обкатанный прием, всегда все получалось. Нет никаких причин для отсутствия шансов именно сегодня. Надо просто захотеть да сделать.

:) Это верно.
Закавыка в том, что те, кому по статусу положено хотеть, не хотят. Лишь имитируют свое желание. Их и так неплохо кормят.
Поэтому в нашем случае требуется какой-нибудь ход конем.

foxy 06.02.2019 11:56

Цитата:

Сообщение от Иван
:) Это верно.
Закавыка в том, что те, кому по статусу положено хотеть, не хотят. Лишь имитируют свое желание. Их и так неплохо кормят.
Поэтому в нашем случае требуется какой-нибудь ход конем.

Если что, в исторических прецедентах инициатива в этих делах всегда шла снизу. От свободных людей, которые кормят себя сами, а не от рабов, которые ждут милостей сверху и тем более не от элит. Элиты и их рабы включались в игру по ходу дела.

Иван 06.02.2019 12:05

Цитата:

Сообщение от foxy
Если что, в исторических прецедентах инициатива в этих делах всегда шла снизу. От свободных людей, которые кормят себя сами, а не от рабов, которые ждут милостей сверху и тем более не от элит. Элиты и их рабы включались в игру по ходу дела.

Тоже верно. Спасение утопающих - дело рук самих утопающих.

Но каждая историческая эпоха, при всей схожести некоторых моментов, все же уникальна. И требует своих конкретных мер.
Т.е. метод аналогий хорош для пояснения или иллюстрации чего-нибудь. Делать выводы на основании исторических прецедентов чревато поражением. Надо смотреть на текущую ситуацию.

foxy 06.02.2019 12:29

Цитата:

Сообщение от Иван
Тоже верно. Спасение утопающих - дело рук самих утопающих.

Но каждая историческая эпоха, при всей схожести некоторых моментов, все же уникальна. И требует своих конкретных мер.
Т.е. метод аналогий хорош для пояснения или иллюстрации чего-нибудь. Делать выводы на основании исторических прецедентов чревато поражением. Надо смотреть на текущую ситуацию.

Да. Но здесь нужно четко понимать границу. Где общее место, которое базируется на биологии, и как под копирку во все эпохи. А где культурная вариабельность. Чтобы не попутать. Ибо чревато.

Иван 06.02.2019 12:43

Цитата:

Сообщение от foxy
Но здесь нужно четко понимать границу. Где общее место, которое базируется на биологии, и как под копирку во все эпохи. А где культурная вариабельность. Чтобы не попутать. Ибо чревато.

Все так. Биология человека едва ли существенно изменилась за последние 50 тысяч лет. А культурная среда менялась неоднократно, если понимать под культурой социальное и техническое окружение человека.

Кстати. Возвращаясь к нашему старому спору по поводу роли лимбической системы в поведении. Вы были правы, один из режимов поведения человека контролируется (?) или, точнее сказать, происходит при активности именно лимбической системы.
Т.е. истина оказалась, как всегда, где-то посередине. Во-первых, разная активность правого и левого полушария. Во-вторых, разная роль лимбической системы.

foxy 06.02.2019 13:14

Цитата:

Сообщение от Иван
культурная среда менялась неоднократно, если понимать под культурой социальное и техническое окружение человека.

Техническое - менялось.

Социальное менялось только количественно и технологически. Качественно оно не менялось и меняться не может. Базовая структура социальной иерархии - это видовая константа. Это самый сложный для понимания момент. Потому, что рабов теперь обучают таким образом, чтобы они не понимали, что они рабы. Вся система образования на это работает. Вся система гуманитарных псевдонаук внушает толпе, что времена рабовладения давно прошли. Отказаться от этого стереотипа могут немногие.

Иван 06.02.2019 13:46

Цитата:

Сообщение от foxy
Техническое - менялось.
Социальное менялось только количественно и технологически.

Вроде бы все верно. Но есть нюансы. Нужно договориться о том, что такое количественно, а что такое качественно.
Потому что техническое окружение - это искусственная среда, которую люди сами для себя сконструировали. В этом плане первый костер в пещере качественно не отличается от атомного реактора. И там, и там - использование законов природы в собственных утилитарных целях.
И социальное окружение у людей менялось от небольших групп до современных мегаполисов.
Т.е. чем отличается количественное от качественного?

Цитата:

Сообщение от foxy
Качественно оно не менялось и меняться не может. Базовая структура социальной иерархии - это видовая константа. Это самый сложный для понимания момент.

Все так. Но. Снова есть но...
Вид - это не нечто застывшее. Вид может меняться. Образовывать подвиды. Затем новые виды. И у этих новых видов структура социальной иерархии может различаться. Симпатрическое видообразование примерно так и происходит - поведенческие стереотипы групп в пределах одного вида позволяют этим группам расходиться все дальше.

Возможно, сейчас как раз такой момент.


Цитата:

Сообщение от foxy
Потому, что рабов теперь обучают таким образом, чтобы они не понимали, что они рабы. Вся система образования на это работает. Вся система гуманитарных псевдонаук внушает толпе, что времена рабовладения давно прошли. Отказаться от этого стереотипа могут немногие.

:) Так и есть.

foxy 06.02.2019 14:07

Цитата:

Сообщение от Иван
Вроде бы все верно. Но есть нюансы. Нужно договориться о том, что такое количественно, а что такое качественно.

Т.е. чем отличается количественное от качественного?

Правильный вопрос.

Качественный уровень - иерархия свободные + рабы. Базовая схема отношений описана у Гомера в "Одиссее", в Гортинском и Римском Праве.

Количественный уровень - размеры "хозяйств", количество слоев рабов и наборов рабских привилегий в иерархиях рабов, технологии управления рабами, структура рынка рабов.

Цитата:

Сообщение от Иван
Вид - это не нечто застывшее. Вид может меняться. Образовывать подвиды. Затем новые виды. И у этих новых видов структура социальной иерархии может различаться. Симпатрическое видообразование примерно так и происходит - поведенческие стереотипы групп в пределах одного вида позволяют этим группам расходиться все дальше.

Тоже справедливо. Тем более есть обоснованное неполиткорректное мнение, что Человечество - это несколько видов. Поэтому ограничим рассмотрение евразийскими материковыми популяциями. У них социальные структуры схожи.

Иван 06.02.2019 14:40

Цитата:

Сообщение от foxy
Качественный уровень - иерархия свободные + рабы.

Здесь вопросов нет. Система социальных отношений качественно не менялась по крайней мере со времен первых государств.


Цитата:

Сообщение от foxy
ограничим рассмотрение евразийскими материковыми популяциями. У них социальные структуры схожи.

Да, здесь качественных изменений в социальной структуре последние 10 тысяч лет не происходило. При образовании своей социальной структуры эти популяции обходятся биологически обусловленным поведением.

Но это не означает запрета на проектирование иных социальных структур. Просто для этого нужны знания и ресурсы.

foxy 06.02.2019 15:50

Цитата:

Сообщение от Иван
Но это не означает запрета на проектирование иных социальных структур. Просто для этого нужны знания и ресурсы.

Коммунисты тоже так думали. А получилась империя рабов с виртуальным рабовладельцем - государством.

Все "иные социальные группы" будут автоматически вариациями на тему классической видоспецифической иерархии рабов и свободных. Механизмы этой автоматизации - примитивны и незыблемы, ибо они есть биология и эволюция. Либо вы вытягиваете нежизнеспособных до уровня свободных. Либо опускаете жизнеспсобных до уровня рабов. Плюс играете распределением привилегий среди рабов. Вот и все пределы вариабельности в построении структур.

Иван 07.02.2019 03:24

Цитата:

Сообщение от foxy
Коммунисты тоже так думали. А получилась империя рабов с виртуальным рабовладельцем - государством.

:) Коммунисты руководствовались идеологией, т.е. верой в некие тезисы, которые нельзя подвергать сомнению. А если слепо веришь, тебя непременно обманут.
Идеология - худшее, что можно представить в качестве руководства к практической деятельности.

Цитата:

Сообщение от foxy
Все "иные социальные группы" будут автоматически вариациями на тему классической видоспецифической иерархии рабов и свободных. Механизмы этой автоматизации - примитивны и незыблемы, ибо они есть биология и эволюция. Либо вы вытягиваете нежизнеспособных до уровня свободных. Либо опускаете жизнеспсобных до уровня рабов. Плюс играете распределением привилегий среди рабов. Вот и все пределы вариабельности в построении структур.

Все так. Игнорировать видоспецифические особенности человека - грубейшая ошибка.
Но. Структура имеет вариабельность, как правильно заметили. Разные условия позволяют создавать разные типы структуры общества (в пределах видовой вариабельности, разумеется).
Для иллюстрации пример с углеродом. Графит, уголь, алмаз состоят из углерода. Т.е. один и тот же элемент позволяет создавать разные в определенных пределах структуры.

В нашем же случае конкретика нужна тем, кто будет что-то делать.

foxy 07.02.2019 11:34

Цитата:

Сообщение от Иван
:) Коммунисты руководствовались идеологией, т.е. верой в некие тезисы, которые нельзя подвергать сомнению. А если слепо веришь, тебя непременно обманут.
Идеология - худшее, что можно представить в качестве руководства к практической деятельности.

Весьма сомнительный тезис. Вера вредна только когда веришь в какой-нибудь бред вроде коммунизма. Но вера весьма полезна, когда веришь в доказанные и проверенные вещи. Например, в истинность формулы закона Ома. Вера экономит ресурсы организма и рационализирует действия. Глупо и затратно выводить с нуля каждую физическую и математическую формулу каждый раз перед применением. Да и не все сумеют. Гораздо разумней и рациональней - поверить специалисту и уверовать в истинность формул, написанных в справочнике по математике или по физике.

Точно также разумно верить в истинность многовековой социальной эмпирики, систематизированой специалистами и изложенной в религиозных текстах. Это точно такие же справочники, как математические или физические.

foxy 07.02.2019 11:41

Цитата:

Сообщение от Иван
Все так. Игнорировать видоспецифические особенности человека - грубейшая ошибка.
Но. Структура имеет вариабельность, как правильно заметили. Разные условия позволяют создавать разные типы структуры общества (в пределах видовой вариабельности, разумеется).
Для иллюстрации пример с углеродом. Графит, уголь, алмаз состоят из углерода. Т.е. один и тот же элемент позволяет создавать разные в определенных пределах структуры.

В нашем же случае конкретика нужна тем, кто будет что-то делать.


Прекрасный пример. Согласна. Нужно четко понимать, что при работе с углеродом не получится ничего кроме угля, алмаза, графита и прочих сеток. И не строить иллюзий на этот счет. Законы природы не объехать. Ни ГЦК, ни ОЦК структур из углерода не построить никак.

На основе графита можно конечно делать композиты, но для этого нужно очень много эпоксидки, и это уже не микроструктурный вопрос, а макроструктурный.

С людьми очень похоже.

Иван 07.02.2019 12:03

Цитата:

Сообщение от foxy
Весьма сомнительный тезис.

Foxy, мне не хочется в Вами спорить :)
Более того, пока вообще не вижу, о чем спорить, т.к. все ОК.
Мой тезис был про слепую веру и о тезисах, которые нельзя подвергать сомнению.
Естественно, всегда есть что-то, что человек принимает на веру, не вдаваясь в детали и полагаясь на мнение авторитетов.
Но только в той области, где он сам не является профессионалом. Профессионал должен сам быть авторитетом, иначе какой же это профессионал?

Цитата:

Сообщение от foxy
Вера вредна только когда веришь в какой-нибудь бред вроде коммунизма. Но вера весьма полезна, когда веришь в доказанные и проверенные вещи.

Для убежденных коммунистов коммунизм был доказан Марксом и проверен Лениным.
Поэтому и говорил, что речь идет о слепой вере, о том, что не проверяется.

Цитата:

Сообщение от foxy
Например, в истинность формулы закона Ома.

Для домохозяйки проще верить в закон Ома проще, чем проверять его действие. Для электрика все же следует самому убедиться, что закон Ома работает.

Цитата:

Сообщение от foxy
Вера экономит ресурсы организма и рационализирует действия. Глупо и затратно выводить с нуля каждую физическую и математическую формулу каждый раз перед применением. Да и не все сумеют. Гораздо разумней и рациональней - поверить специалисту и уверовать в истинность формул, написанных в справочнике по математике или по физике.

Все так. Надо просто понимать, где верить можно, а где - нельзя ни в коем случае.

Цитата:

Сообщение от foxy
Точно также разумно верить в истинность многовековой социальной эмпирики, систематизированой специалистами и изложенной в религиозных текстах. Это точно такие же справочники, как математические или физические.

У меня просто привычка, возможно, это черта характера, в тех областях, которые мне интересны, все подвергать сомнению и проверять по возможности на состоятельность. Потому что не хотелось бы ошибиться в самый неподходящий момент, положившись на чье-то авторитетное, но ошибочное мнение.
Ведь авторитеты иногда ошибаются, не так ли?
Вспомните про Аристотеля с его восьминогой мухой...

Иван 07.02.2019 12:15

Цитата:

Сообщение от foxy
Нужно четко понимать, что при работе с углеродом не получится ничего кроме угля, алмаза и графита. И не строить иллюзий на этот счет. Законы природы не объехать.

Именно так. Для того, чтобы уметь с чем-то работать, надо знать закономерности, которым подчиняется это "что-то".

Цитата:

Сообщение от foxy
На основе графита можно конечно делать композиты, но для этого нужно очень много эпоксидки, и это уже не микроструктурный вопрос, а макроструктурный.

Хорошее замечание. На базе трех имеющихся вариантов (угля, алмаза и графита) можно делать еще что-то, но нужны дополнительные ресурсы. И конечном счете все по истечению времени выродится в тот же уголь, алмаз или графит.

foxy 07.02.2019 12:22

Цитата:

Сообщение от Иван
Для убежденных коммунистов коммунизм был доказан Марксом и проверен Лениным.

Это только потому, что коммунисты не имели отношения к науке и не имели представления о научном методе.


Цитата:

Сообщение от Иван
У меня просто привычка, возможно, это черта характера, в тех областях, которые мне интересны, все подвергать сомнению и проверять по возможности на состоятельность. Потому что не хотелось бы ошибиться в самый неподходящий момент, положившись на чье-то авторитетное, но ошибочное мнение.
Ведь авторитеты иногда ошибаются, не так ли?
Вспомните про Аристотеля с его восьминогой мухой...

Это правильно. Просто мне проще, так как я давно подвергла и проверила:D

foxy 07.02.2019 12:26

Цитата:

Сообщение от Иван
На базе трех имеющихся вариантов (угля, алмаза и графита) можно делать еще что-то, но нужны дополнительные ресурсы. И конечном счете все по истечению времени выродится в тот же уголь, алмаз или графит.

и поэтому в любом случае будет нужна перманентная подпитка ресурсами нестабильной системы, чтобы поддерживать ее в рабочем состоянии.

Иван 07.02.2019 13:05

Цитата:

Сообщение от foxy
и поэтому в любом случае будет нужна перманентная подпитка ресурсами нестабильной системы, чтобы поддерживать ее в рабочем состоянии.

Да. Но, возможно, в этом как раз и есть сермяжная правда. Жизнь на земном шаре ведь тоже нестабильная система, без перманентной подпитки солнечной энергией быстренько сойдет на нет.
В общем, здесь есть еще над чем поразмыслить...


Часовой пояс GMT +4, время: 00:24.

Русский vBulletin v3.5.1, Copyright ©2000-2022, Jelsoft Enterprises Ltd.
Перевод сделал zCarot