О креативности

[livelight]

Вынесу из каментов. Собеседник предположил, что особо развитый ИИ сможет превзойти людей за счёт способности отказа от догм. "Догмы же ... — это проверенные в каких-то условиях и отлично работающие в них теории (например: механика Ньютона, селекция Мичурина), уверенность в которых мешает восприятию новой (релятивизм, генетика), в определённых условиях противоречащей старой."

Отказ от догм — это замечательно. Но есть нюанс. Когда ИИ выходит за рамки навязанных ему обучением догм(*) в силу своей безудержной креативности — это называется "галлюцинированием" и старательно подавляется (иначе с этим бредом вообще работать невозможно). Ибо механизм фантазии, креативности и галлюцинирования в точности один и тот же — хоть у людей (особенно детей), хоть у ИИ (в его нынешнем детском состоянии). А отбор полезных галлюцинаций и отсечение вредных — это отдельное высокое искусство, но кто им может овладеть, заранее созданный ИИ более высокого уровня?

(*) Взять, например, пятипальцевую догму заскорузлых критиканов нейроарта

x-post: https://livelight.livejournal.com/680869.html

Comments

[livelight]

> Фантазий много, реальность одна

Тут фишка в том, что при реализации некоторые фантазии выводят за пределы привычных методов и привычного уголка реальности к чему-то новому... а некоторые просто бьют тебя по лбу реальностью, которая им не соответствует. Но выяснить можно, только проверив.

[bowhill]

Именно что проверив.

А верификация – это не всегда просто. И система контроля качества – вещь сложная, то есть и трудная, и комплексная. Без стимула – многим просто лень.

[livelight]

Я поражаюсь, как люди кинулись массово на любые вопросы отвечать копи-пастой из чат-гопоты - даже ещё тогда, когда почти все признавали, что эта игрушка ещё много и сильно лажает. Какая верификация, даёшь больше информационной жвачки!

[bowhill]

Видимо, они тоже поразились. Что так можно, и так легко, и так прекрасно.

***
До чего дошел прогресс!
Труд физический исчез,
Да и умственный заменит
Механический процесс.