О креативности
Feb. 17th, 2025 09:24 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
livelightВынесу из каментов. Собеседник предположил, что особо развитый ИИ сможет превзойти людей за счёт способности отказа от догм. "Догмы же ... — это проверенные в каких-то условиях и отлично работающие в них теории (например: механика Ньютона, селекция Мичурина), уверенность в которых мешает восприятию новой (релятивизм, генетика), в определённых условиях противоречащей старой."
Отказ от догм — это замечательно. Но есть нюанс. Когда ИИ выходит за рамки навязанных ему обучением догм(*) в силу своей безудержной креативности — это называется "галлюцинированием" и старательно подавляется (иначе с этим бредом вообще работать невозможно). Ибо механизм фантазии, креативности и галлюцинирования в точности один и тот же — хоть у людей (особенно детей), хоть у ИИ (в его нынешнем детском состоянии). А отбор полезных галлюцинаций и отсечение вредных — это отдельное высокое искусство, но кто им может овладеть, заранее созданный ИИ более высокого уровня?
(*) Взять, например, пятипальцевую догму заскорузлых критиканов нейроарта
x-post: https://livelight.livejournal.com/680869.html
Отказ от догм — это замечательно. Но есть нюанс. Когда ИИ выходит за рамки навязанных ему обучением догм(*) в силу своей безудержной креативности — это называется "галлюцинированием" и старательно подавляется (иначе с этим бредом вообще работать невозможно). Ибо механизм фантазии, креативности и галлюцинирования в точности один и тот же — хоть у людей (особенно детей), хоть у ИИ (в его нынешнем детском состоянии). А отбор полезных галлюцинаций и отсечение вредных — это отдельное высокое искусство, но кто им может овладеть, заранее созданный ИИ более высокого уровня?
(*) Взять, например, пятипальцевую догму заскорузлых критиканов нейроарта
x-post: https://livelight.livejournal.com/680869.html
no subject
Date: 2025-02-18 04:03 pm (UTC)Во-первых, это разные механизмы, во-вторых, сознание состоит из множества элементов и критичность мышления – один из таких фундаментальных элементов.
Что же касается догм, вообще систем знаний полученных извне, то это хороший механизм, которым тоже можно плохо пользоваться.
(Если Вы знакомы с компьютерными сущностями, то, как аналогия, кэш – весьма полезный механизм, который без процедур его поддержки приведёт к проблемам.)
Если же вы хотите сами переизобретать колесо, велосипед, электричество, выводить всякий раз все теоремы, то головы может не хватить и для очень базового уровня, даже искусственной головы.
no subject
Date: 2025-02-18 04:13 pm (UTC)no subject
Date: 2025-02-18 04:26 pm (UTC)Фантазий много, реальность одна. Наверное надо сопоставлять одно с другим, по мере способностей. И как-то оценивать эти сопоставления, как и способности.
no subject
Date: 2025-02-18 06:05 pm (UTC)Тут фишка в том, что при реализации некоторые фантазии выводят за пределы привычных методов и привычного уголка реальности к чему-то новому... а некоторые просто бьют тебя по лбу реальностью, которая им не соответствует. Но выяснить можно, только проверив.
no subject
Date: 2025-02-19 02:38 am (UTC)А верификация – это не всегда просто. И система контроля качества – вещь сложная, то есть и трудная, и комплексная. Без стимула – многим просто лень.
no subject
Date: 2025-02-19 07:39 am (UTC)no subject
Date: 2025-02-19 02:38 pm (UTC)***
До чего дошел прогресс!
Труд физический исчез,
Да и умственный заменит
Механический процесс.