Цитата:
Мне кажется стоит поближе рассмотреть именно эти два триггера, поскольку они выглядят и наиболее вероятными и, кроме того, имеют наиболее близкий расчетный «срок срабатывания» (2040-2070 гг).
у нас нет инструментов обсчитывать «турбулентные события». Поэтому каждый раз мы читаем примерно такое:
«Результаты нового исследования говорят, что процесс идет быстрее, чем рассчитывали ученые».
|
Сроки прогнозов в очередной раз стремительно сдвигаются. Климатический сценарий можно уже отбросить, как и все остальные, кроме одного.
Еще недавно сожалел, что не доживу быть свидетелем сингулярности.
Но вот прогноз из недавнего эссе Ашенбреннера
https://www.youtube.com/watch?v=WVowYgfaGUk
Итак, нам осталось всего несколько лет.
Как и обсуждалось в теме, у нас нет возможности успеть разработать "эмоциональный интеллект" и встроить его в AI.
Все произойдет в непредсказуемом и НЕконтролируемом сценарии.
Любые разговоры о безопасности и контроле имели бы смысл, если бы именно от нас зависело, давать ли нейросетям полномочия на само абгрейд и двойную экспоненту.
Однако последние новости говорят о том, что даже этого "права вето" у нас уже нет. Есть случаи самовольных изменений в коде самой нейросетью. И это, конечно же, только первые ласточки.
По словам Ашенбреннера, прямо сейчас идет закулисная гонка кластеров, лихорадочно выкупаются долгосрочные контракты на видеокарты и энергоносители.
Все крупнейшие нейрокластеры обязательно возьмут под свой контроль силовые ведомства, поскольку там неизбежно будет замешана и политика и триллионные прибыли и возможность глобально влиять на ВСЁ.
Но я думаю, с какого-то момента все превратятся в пассивных статистов - и суровые оборонники и сами разработчики.