О креативности

[livelight]

Вынесу из каментов. Собеседник предположил, что особо развитый ИИ сможет превзойти людей за счёт способности отказа от догм. "Догмы же ... — это проверенные в каких-то условиях и отлично работающие в них теории (например: механика Ньютона, селекция Мичурина), уверенность в которых мешает восприятию новой (релятивизм, генетика), в определённых условиях противоречащей старой."

Отказ от догм — это замечательно. Но есть нюанс. Когда ИИ выходит за рамки навязанных ему обучением догм(*) в силу своей безудержной креативности — это называется "галлюцинированием" и старательно подавляется (иначе с этим бредом вообще работать невозможно). Ибо механизм фантазии, креативности и галлюцинирования в точности один и тот же — хоть у людей (особенно детей), хоть у ИИ (в его нынешнем детском состоянии). А отбор полезных галлюцинаций и отсечение вредных — это отдельное высокое искусство, но кто им может овладеть, заранее созданный ИИ более высокого уровня?

(*) Взять, например, пятипальцевую догму заскорузлых критиканов нейроарта

x-post: https://livelight.livejournal.com/680869.html

Comments

Пустая болтовня.

[(Anonymous)]

ИИ превзойдёт людей во-первых чисто механически, за счёт большего числа нейронов и синапсов, а во-вторых за счёт более рациональной организации, потому что ИИ программируется научно обоснованно, а человеческий разум возник стихийно.

[burbilog]

Догма -- это по определению чисто человеческая херняция, завязанная на эмоциональную привязанность какой-либо моральной установке. Вопрос будет только в том, сможет ли ИИ обучаться без опоры на человеческий датасет. А это совсем не факт. Если не будет жесткой привязки к догме в датасетах, то и ИИ не будет к ней привязываться.

[bowhill]

Они же на Кавказе не ядовитые!

Во-первых, это разные механизмы, во-вторых, сознание состоит из множества элементов и критичность мышления – один из таких фундаментальных элементов.

Что же касается догм, вообще систем знаний полученных извне, то это хороший механизм, которым тоже можно плохо пользоваться.

(Если Вы знакомы с компьютерными сущностями, то, как аналогия, кэш – весьма полезный механизм, который без процедур его поддержки приведёт к проблемам.)

Если же вы хотите сами переизобретать колесо, велосипед, электричество, выводить всякий раз все теоремы, то головы может не хватить и для очень базового уровня, даже искусственной головы.