О креативности

[livelight]

Вынесу из каментов. Собеседник предположил, что особо развитый ИИ сможет превзойти людей за счёт способности отказа от догм. "Догмы же ... — это проверенные в каких-то условиях и отлично работающие в них теории (например: механика Ньютона, селекция Мичурина), уверенность в которых мешает восприятию новой (релятивизм, генетика), в определённых условиях противоречащей старой."

Отказ от догм — это замечательно. Но есть нюанс. Когда ИИ выходит за рамки навязанных ему обучением догм(*) в силу своей безудержной креативности — это называется "галлюцинированием" и старательно подавляется (иначе с этим бредом вообще работать невозможно). Ибо механизм фантазии, креативности и галлюцинирования в точности один и тот же — хоть у людей (особенно детей), хоть у ИИ (в его нынешнем детском состоянии). А отбор полезных галлюцинаций и отсечение вредных — это отдельное высокое искусство, но кто им может овладеть, заранее созданный ИИ более высокого уровня?

(*) Взять, например, пятипальцевую догму заскорузлых критиканов нейроарта

x-post: https://livelight.livejournal.com/680869.html

Comments

[livelight]

У них в экосфере гораздо больше искусственного отбора, чем естественного.

[burbilog]

Деньги -- ultima ratio. Что в реальности эффективнее, то и победит рано или поздно, независимо от извилистости путей внутри экосистемы. Там могут принимать всякие мудацкие решения типа европейского AI Act, поставившего крест на разработке, потом срочно отменять, потому как рынок давит, могут вводить цензуру, потом убирать, потом опять вводить, потом опять убирать, но в конечном счете все придет к максимальной эффективности.

[livelight]

Люди примерно всегда выбирают не эффективность системы, а её подконтрольность и правильное направление вырабатываемых ею ништяков (пусть даже их будет меньше)