Ещё о нейроночках

Интересный хак нашли для текстовых нейронок: говорить ей, чтобы думала по шагам. После чего она начинает рассуждать по шагам и... чаще приходит к правильным ответам.

https://snormer.livejournal.com/20293.html
Модель (по архитектуре способная только предсказывать следующее слово в последовательности) именно рассуждает, используя пространство ввода/вывода как оперативную память.
Это «мысли нейросети». Некоторым образом аналог наших сознательных. Они не в чёрном ящике нейронных связей (там думать нечему), а вот тут. "Сознание как эпифеномен" как-то так и должно выглядеть, собственно. Вот, распишитесь.

Напоминаю, что внутре у ней неонка нейронка и думатель, а вот настоящей оперативной памяти и способности гонять мысль по кругу этой штуке не приделали: всё, что у неё есть, - это один сквозной проход от входного начала диалога до выдаваемого наружу его продолжения. А думает она внутри себя (как и мы) не словами, а некими числовыми векторами, которые чёрт знает вообще как понимать. Но потом случается чудо (как и у нас): она обретает речь, включает Сепира с Уорфом, начинает сложные облака своих аморфных мыслей изливать в текст, смотрит на этот текст, дальше думает уже им - и в результате поток мыслей становится более стабильным, чётким и последовательным. А заодно сразу задокументированным для дальнейших размышлений. Хотя и с ограничениями от Сепира с Уорфом. Ждём, когда она научится понимать, что ей не хватает языковых средств, чтобы выразить свою мысль, и начнёт дообогащать язык до своих мыслей (как мы тоже можем).

( Бонус: слайды! )

x-post: https://livelight.livejournal.com/635752.html