О мудрости
Jan. 13th, 2018 10:35 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
livelightold_ufo подкинул ещё пару ссылочек на обсуждения оных "Методов рациональности":
https://old-ufo.dreamwidth.org/100859.html
https://mortulo.livejournal.com/92709.html
И цитату: "Когда я читаю Юдковского, меня не оставляет ощущение, что я повстречал монстра из ADnD с интеллектом 17 и мудростью 3"
Интеллект - это инструмент, который ищет средства для решения задач (в том числе самых краткосрочных тактических), которые поставлены откуда-то извне, в рамках доступного ему кругозора и горизонта планирования.
Мудрость же - это широкий кругозор, большой горизонт планирования и способность эти самые цели (вплоть до самых долгосрочных) хорошие ставить, а не такие, чтобы исполнения (интеллект постарается) желаний приходилось бояться. А также она может при необходимости подсказывать интеллекту, что некоторые средства могут легко испортить цель.
Это я всё к чему.
Разработки в области Искусственного Интеллекта в последние лет 5 разморозились после былого всплеска энтузиазма и последующего долгого отката. Все хотят сделать ещё один интеллект, но чтобы хороший, искусственный, послушный, предсказуемый и притом способный найти для них новые результаты. Если вам показалось, что здесь слишком много взаимоисключающих параграфов, то вам не показалось :)
А вот искусственную мудрость делать никто не хочет. Во-первых, заказчики и разработчики ИИ полагают, что нечего тут электронному мудрецу нависать над нами (ними) со своим немым укором. Во-вторых, заказчики расчитывают, что задачи и цели они ему таки будут ставить сами, а он будет только искать решения и средства.
А это значит, чтоесли когда они таки просчитаются, и новый искусственный Интеллект однажды решит взять власть в свои руки -- ну просто для того, чтобы лучше наносить нам пользу, его же для этого сделали, и задачу ему такую поставили, не надо тут мне про Скайнет и злобных Терминаторов -- то мудрости в нанесении им этой самой пользы ждать не придётся.
https://old-ufo.dreamwidth.org/100859.html
https://mortulo.livejournal.com/92709.html
И цитату: "Когда я читаю Юдковского, меня не оставляет ощущение, что я повстречал монстра из ADnD с интеллектом 17 и мудростью 3"
Интеллект - это инструмент, который ищет средства для решения задач (в том числе самых краткосрочных тактических), которые поставлены откуда-то извне, в рамках доступного ему кругозора и горизонта планирования.
Мудрость же - это широкий кругозор, большой горизонт планирования и способность эти самые цели (вплоть до самых долгосрочных) хорошие ставить, а не такие, чтобы исполнения (интеллект постарается) желаний приходилось бояться. А также она может при необходимости подсказывать интеллекту, что некоторые средства могут легко испортить цель.
Это я всё к чему.
Разработки в области Искусственного Интеллекта в последние лет 5 разморозились после былого всплеска энтузиазма и последующего долгого отката. Все хотят сделать ещё один интеллект, но чтобы хороший, искусственный, послушный, предсказуемый и притом способный найти для них новые результаты. Если вам показалось, что здесь слишком много взаимоисключающих параграфов, то вам не показалось :)
А вот искусственную мудрость делать никто не хочет. Во-первых, заказчики и разработчики ИИ полагают, что нечего тут электронному мудрецу нависать над нами (ними) со своим немым укором. Во-вторых, заказчики расчитывают, что задачи и цели они ему таки будут ставить сами, а он будет только искать решения и средства.
А это значит, что
no subject
Date: 2018-01-15 02:38 pm (UTC)Тут ещё в ЖЖ-шной версии поста дискуссия как раз интересная пошла. Чёрт, это становится реально неудобно. Прям хоть отключай комменты на одной из платформ, чтобы не плодить непересекающихся жискуссий, как некоторые делают...