Больше, чем иррациональность: моделирование агентов со смещенными убеждениями
Краткое содержание
arXiv:2511.12359v1 Тип объявления: cross Аннотация: Несмотря на взрывной рост ИИ и технологий, основанных на нём, прогнозирование и вывод субоптимального поведения пользователей или людей-коллабораторов остаётся серьёзной проблемой. Во многих случаях такое поведение является не следствием иррациональности, а рациональным решением, принятым в условиях присущих когнитивных ограничений и смещённых убеждений о мире. В данной статье мы формально представляем класс вычислительно-рациональных (CR) моделей пользователя для когнитивно ограниченных агентов, действующих оптимально в условиях смещённых убеждений. Ключевая новизна заключается в явном моделировании того, как процесс с ограниченной памятью приводит к динамически противоречивому и смещённому состоянию убеждений и, как следствие, к субоптимальному последовательному принятию решений. Мы решаем задачу идентификации скрытого пользовательского ограничения и вывода смещённых состояний убеждений на лету из пассивных наблюдений. Мы утверждаем, что для нашей формализованной семьи CR-моделей с явным и параметризованным когнитивным процессом,
Полный текст статьи пока не загружен.