Краткое содержание

arXiv:2511.06254v1 Тип объявления: кросс Аннотация: Генеративная рекомендация представляет каждый элемент в виде семантического идентификатора — последовательности дискретных токенов — и генерирует следующий элемент через автокодирование слева направо. Несмотря на свою эффективность, существующие модели автокодирования сталкиваются с двумя внутренними ограничениями: (1) однонаправленными ограничениями, когда каузативное внимание позволяет каждому токену учитывать лишь предшествующие ему токены, препятствуя глобальному моделированию семантики; и (2) накоплением ошибок, когда фиксированный порядок генерации слева направо вызывает распространение ошибок прогноза ранних токенов на последующие токены. Для устранения этих проблем мы предлагаем LLaDA-Rec — фреймворк дискретной диффузии, который переформулирует рекомендации как параллельное порождение семантических идентификаторов. Комбинируя двунаправленное внимание с адаптивным порядком генерации, подход эффективнее моделирует межэлементные и внутриинтерпретационные зависимости и смягчает проблему накопления ошибок. В частности, наш подход включает три ключевых аспекта: (1