О мудрости

[livelight]

old_ufo подкинул ещё пару ссылочек на обсуждения оных "Методов рациональности":
https://old-ufo.dreamwidth.org/100859.html
https://mortulo.livejournal.com/92709.html
И цитату: "Когда я читаю Юдковского, меня не оставляет ощущение, что я повстречал монстра из ADnD с интеллектом 17 и мудростью 3"

Интеллект - это инструмент, который ищет средства для решения задач (в том числе самых краткосрочных тактических), которые поставлены откуда-то извне, в рамках доступного ему кругозора и горизонта планирования.
Мудрость же - это широкий кругозор, большой горизонт планирования и способность эти самые цели (вплоть до самых долгосрочных) хорошие ставить, а не такие, чтобы исполнения (интеллект постарается) желаний приходилось бояться. А также она может при необходимости подсказывать интеллекту, что некоторые средства могут легко испортить цель.

Это я всё к чему.
Разработки в области Искусственного Интеллекта в последние лет 5 разморозились после былого всплеска энтузиазма и последующего долгого отката. Все хотят сделать ещё один интеллект, но чтобы хороший, искусственный, послушный, предсказуемый и притом способный найти для них новые результаты. Если вам показалось, что здесь слишком много взаимоисключающих параграфов, то вам не показалось :)
А вот искусственную мудрость делать никто не хочет. Во-первых, заказчики и разработчики ИИ полагают, что нечего тут электронному мудрецу нависать над нами (ними) со своим немым укором. Во-вторых, заказчики расчитывают, что задачи и цели они ему таки будут ставить сами, а он будет только искать решения и средства.
А это значит, что если когда они таки просчитаются, и новый искусственный Интеллект однажды решит взять власть в свои руки -- ну просто для того, чтобы лучше наносить нам пользу, его же для этого сделали, и задачу ему такую поставили, не надо тут мне про Скайнет и злобных Терминаторов -- то мудрости в нанесении им этой самой пользы ждать не придётся.

Comments

[paserbyp]

...Бог создал человека по своему образу и подобию, но человек ведь не Бог... Бог не стал создавать другого Бога...хотя мне возразят, что Бог с помощью святого духа создал сына Бога... но после того как люди распяли его, то он его быстро забрал к себе...ответил ли я на Ваш вопрос почему люди не хотят содавать исскуственную мудрость?

[vitus_wagner]

Фигня! У нас уже есть две сотни государственных правительств и куча международных организаций, которые уже имеют власть и пытаются причинить нам пользу в меру своего разумения. При этом я не верю что хотя бы в одной из этих организаций руководство наделено мудростью в размере хотя бы 8 по AD&D шной шкале. Человек с такой мудростью в этот гадюшник (современную политику) просто не полезет, понимая что его с его ограничениями на средства (которые не должны испортить цель) просто сожрут и очень б
быстро - раньше чем бенефиты от его мудрости успеют проявиться.

Так что любой электронный искусственный интеллект окажется в банке с пауками-интеллектами бюрократическими, за которыми если не мудрость, то хотя бы многовековой опыт выживания в среде себе подобных.

[livelight]

Ну, то есть, ничего не изменится: пауки договорятся, разве что бюрократам будет теперь, на кого кивать при необходимости. Тогда выдыхаем :)
Кстати, никто не исследовал законы Паркинсона применительно к электронным бюрократам?

[vitus_wagner]

> Кстати, никто не исследовал законы Паркинсона применительно к электронным бюрократам?

Интересная тема. Стоило бы заняться. К сожалению, это все увешано таким количеством NDA, каких никогда не было в нормальных человеческих бюрократических системах, где некоторая прозрачность и право сотрудников на свободу слова все же худо-бедно уважалось.

[old_ufo]

Да пока вроде инструменты только делают, ИИ и не пахнет :)

Насчет
>Мудрость же - это широкий кругозор, большой горизонт планирования и способность эти самые цели (вплоть до самых долгосрочных) хорошие ставить, а не такие, чтобы исполнения (интеллект постарается) желаний приходилось бояться. А также она может при необходимости подсказывать интеллекту, что некоторые средства могут легко испортить цель.

Что-то мне тут нравится, а что-то нет. Не могу пока нормально сформулировать. Кругозор легко вписывается в, или эмулируется высокой интой. Условный Шелдон может знать очень-очень много и все равно иметь визду 6. Горизонт планировния тоже запускается, хотя бы в виде эмулятора, на мощностях голого интеллекта.
Вот насчет постановки целей и средств, что-то в этом есть.

[livelight]

Насколько мне известно (я так и не ознакомился толком с ТБВ), Шелдон имеет слепое пятно в вопросе о том, как его планы будут взаимодействовать с окружающими людьми, а существенные последствия таких взаимодействий будут накапливаться, в результате его фактический горизонт планирования в большинстве вопросов сильно сужен.

Тут ещё в ЖЖ-шной версии поста дискуссия как раз интересная пошла. Чёрт, это становится реально неудобно. Прям хоть отключай комменты на одной из платформ, чтобы не плодить непересекающихся жискуссий, как некоторые делают...

[(Anonymous)]

анализ проблемы ИИ от Тима Урбана (который эпически крут именно в раскладывании сложных вещей по полочкам)
часть 1: что это такое (можно пропустить) waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
часть 2: и что нам с этого будет waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html
отдельно про Neurolink как возможное решение waitbutwhy.com/2017/04/neuralink.html