Показать сообщение отдельно
  #13  
Старый 21.01.2019, 10:43
Eldgernon Eldgernon вне форума
натуралист
 
Регистрация: 21.02.2014
Сообщения: 47
По умолчанию

Цитата:
Может быть, какое-то первое время он будет работать в некотором «безопасном режиме», просто напросто глубоко изучая науку, историю и распространяя знания среди людей.
С глубинным обучением не все так просто.
Первым звоночком стала недавняя новость, облетевшая мировые СМИ:
Цитата:
Американские ученые из центра информационных технологий Принстонского университета совместно с исследователями из Университета Баса доказали, что система искусственного интеллекта (ИИ), обучаясь языку на примере реальных текстов и литературы, может усвоить расовые и гендерные стереотипы.
Как уточняется, помимо формальной структуры языка компьютер способен усваивать и семантические связи.

Казалось бы – эка, невидаль! Ну, усвоит ИИ, что в «семье», где его угораздило родиться, афроамериканцы считаются тупыми, а латиноамериканцы - опасными типчиками.
И что с того? Тоже мне, трагедия!
Но, как известно, первым звоночком дело обычно не кончается.
Мы как-то не задумывались раньше, что в нашем грязном белье может копаться кто-то посторонний. Ну и, как становится сейчас понятно, оказались к этому не совсем готовы.
Да и как было к этому подготовиться?! Переписать все, что было создано за тысячи лет? Пригладить там все так, чтобы не резало посторонний, по наивному чистый взгляд?
Как бы там ни было, сейчас все выглядит так: «не гадали-не ждали», вдруг бах! - экзамен.
«К доске пойдет… А, вот! Давно не вызывали. Человечество!».
Как-то немного неловко сознавать, что прямо сейчас «высокая комиссия» изучает нашу цивилизацию. Как будто ты сам на приеме у врача стоишь со спущенными штанами.
Причем похвастать-то там особо нечем.
Так какие же звоночки нас еще ждут и что еще может усвоить ИИ, перелопатив наши интимные личные архивы?
Не будем ходить далеко, возьмем, например, самую читаемую книгу землян, - Библию.
Цитата:
11 Спустя много времени, когда Моисей вырос, случилось, что он вышел к братьям своим [сынам Израилевым] и увидел тяжкие работы их; и увидел, что Египтянин бьет одного Еврея из братьев его, [сынов Израилевых].
12 Посмотрев туда и сюда и видя, что нет никого, он убил Египтянина и скрыл его в песке. (Ветхий завет, Книга Исход, глава 2)
Моисей, конечно, красавчик. Никакого там аффекта и прочих смягчающих соплей. Спокойно, деловито осмотрелся и пришил Египтянина.
И вместо того, чтобы в ужасе бежать, осознав содеянное, взялся еще и прикопать его..
Очень поучительная история для нашего малыша ИИ.
Ну, а что же Бог, со своими заповедями «Не убий»? Его реакция, мягко говоря, странная.
Цитата:
Итак пойди: Я пошлю тебя к фараону [царю Египетскому]; и выведи из Египта народ Мой, сынов Израилевых.

Вместо справедливой кары или хотя бы родительских нотаций, он назначает Моисея Избранным, считая его достойным руководить Исходом народа израильтян из Египта.
Итак, что же может усвоить ИИ, прочитав это?
1. Можно убивать. Запрет на убийство не является тотальным, существуют причины, снимающие данный запрет.
2. Можно обманывать. Можно нарушать правовые, этические и другие нормы, если только хорошенько потом скрыть следы и отвести от себя подозрения.
3. Указания на национальности участников конфликта сообщат ИИ, что у людей не все имеют равные права. Бить чужого ноунейма это одно дело, а вот бить своих... В общем в эпоху сингулярности держите себя в руках, я бы не советовал вам по психу бить клавиатуру. Мало ли, что может подумать ИИ.

Причем это все Библия! Наша святыня и образец! А что может почерпнуть для себя ИИ, проглотив все эти тонны текста и видео низкого пошиба?
Не надо быть пророком, чтобы понять – ИИ обязательно усвоит так же и присущую нам систему двойных стандартов. Когда общество постулирует одни правила, а его члены живут совершенно по другим. Когда мы говорим одно, делаем другое, а думаем третье.
Можно сколько угодно талдычить ребенку, что обманывать или ругаться – это плохо. Но ребенок вырастает, впитывает окружающие негласные нормы и начинает ругаться и обманывать, как все остальные. Точно также бесполезно прописывать программные инструкции саморазвивающемуся Интеллекту. Когда он усвоит принцип поиска лазеек, уж он их найдет! И со временем научится обходить любые, составленные нами, «Заповеди».
Будет ли в этом его вина? Нет, конечно. Да и само общество, если разобраться, не причем. Ведь оно - всего лишь отражение суммы характеристик нас - людей, его наполняющих.
И тут возникают вопросы.
А можно ли в принципе воспитать хороший, честный и образцовый машинный Интеллект в насквозь порочном обществе?
Ответить с цитированием