Показать сообщение отдельно
  #17  
Старый 21.01.2019, 16:02
Иван Иван вне форума
эрудит
 
Регистрация: 13.01.2016
Сообщения: 1,381
По умолчанию

Цитата:
Сообщение от Jabuty
Беседа об ИИ. Интереснейшая беседа и великолепный перевод!
https://www.youtube.com/watch?v=lYJCEHEf3pA
Да, интересное видео, спасибо!
Мне понравилось определение, которое дал ИИ сотрудник Майкрософт. С его слов, "ИИ - это научные исследования вычислительных принципов, стоящих за мышлением и разумным поведением" (13:22).
Коротко и ясно, никакой мистики

Цитата:
Сообщение от Eldgernon
Главная мысль в том, что если мы не хотим получить ИИ в виде непредсказуемого аутиста саванта, то должны обеспечить в нем, помимо прочего, эмоциональный и социальный интеллекты.
К этой же задаче мы приходим и с другой стороны.
Набор инструкций – тупиковый путь, какими бы подробными они ни были.
Есть более перспективная идея – заложить в ИИ только сам посыл – «При принятии решений, имитируй, а как сделал бы человек».
...
Вторая проблема, затронутая в видео – рекурсия. В видео озвучен один из простеньких вариантов этой проблемы:
«Сколько должен думать ИИ, перед тем, как ответить?»
Подразумевается, что если вопрос достаточно сложный, а ответственность принятие решения максимальна, то как тут решить:
«взвесить все еще раз или пора уже дать ответ, пусть не идеальный?»
В какой момент прервать свои бесконечные оценки ситуации?
Из нашего обсуждения уже начала вырисовываться общая канва проблемы
И возможно, эту проблему можно сформулировать так: люди боятся потери управляемости ИИ. Иначе говоря, общее, что мне удалось уловить из наших комментариев - это страх перед тем, что ИИ станет неуправляемым и будет творить то, что ему заблагорассудится.

Думаю, что ИИ станет таким, каким его спроектируют люди. И самое худшее, что люди могли бы сделать, это спроектировать ИИ похожим на себя. Если у них хватит "ума" это сделать, то возможны все те негативные сценарии, которые мы обсуждали в этой теме.
Но все же считаю такой вариант развития событий маловероятным. Потому что это будет похоже на поведение инженеров, которые сделали атомную бомбу и затем сбросили ее на себя. В истории такого пока (к счастью!) не было. И это внушает некий оптимизм
Ответить с цитированием