ЫЫ

[livelight]

В лентах люди активно играют с новым Искусственным И(нтеллектом) ChatGPT. Пишут, что он может много гитик, вплоть до составления снобистских постов о том, что настоящим естественным интеллектуалам не нужен этот ваш Искусственный И.
Пишут даже, что он уже может заменить джуна-программиста. Тут я сразу обрадовался, что можно будет не долбаться на работе с индийскими программистами в самом худшем значении этого слова, которых нам навязали, а сразу поручить их дела Искусственному И(диоту).
Скоро, думаю, условно-лахтинские ботофермы тоже заменят чем-то таким. Ну или не заменят, потому что оно политически невыдержанное, да ещё и контролируется Вероятным Противником, а в такой работе это гораздо важнее, чем интеллект.
Потом дойдут до мега-сеньоров и больших писателей -- тут уже грустнее, давайте ограничимся предыдущими двумя категориями.
А потом, наконец, Человечество сможет обходиться и без себя самого.

x-post: https://livelight.livejournal.com/630658.html

Comments

Смена носителя неизбежна.

[(Anonymous)]

Смена носителя земной цивилизации с биологического на электронный неизбежна, если только человечество не вымрет раньше. И это хорошо, возможности иск. интеллекта потенциально гораздо больше, чем естественного.

Для создания "сильного" ИИ важно понять, что интеллект это система, обучающаяся предсказывать свой собственный входной сигнал, безотносительно его природы. При этом, выход этой системы должен быть замкнут на вход, т.е. её выходные сигналы должны быть частью входных, таким образом система обучается предсказывать и свои собственные действия (что ведёт к самоосознанию).

Попытки ставить ИИ какую-либо задачу извне, принудительно, неизбежно приведут к нарушению его работы. Задача может быть только одна, прогнозирование входного сигнала.

[livelight]

> Задача может быть только одна, прогнозирование входного сигнала.

Ну напрогнозировал ты входной сигнал, каким ну будет через минуту, а дальше что?
Если ты после этого думаешь, что ты будешь делать через минуту, когда его таки получишь, то почему бы сразу не заняться выбором действий для прямо сейчас на основании данных про прямо сейчас? А если ты на основании прогноза про состояние мира через минуту выбираешь свои действия прямо сейчас, то прогноз должен измениться. Действия для того и выбираешь, чтобы изменить мир в нужную сторону.

Попробуйте понять.

[(Anonymous)]

Действия ИИ конечно будут такими, чтобы: 1) повышать свои прогностические возможности, 2) повышать предсказуемость входного сигнала. Повышение прогностических возможностей достигается созданием дополнительных вычислительных мощностей, т.е. ИИ будет расти. Повышение предсказуемости входного сигнала достигается упорядочением окружающего мира, от которого этот сигнал приходит, а также увеличением знаний о законах этого мира, т.е. ИИ будет любопытен.

Насчёт действий ИИ, они конечно будут тоже учитываться в прогнозе, я же написал, выходной сигнал подаётся обратно на вход и тоже прогнозируется.