Когда слова меняют модель: чувствительность больших языковых моделей к моделированию с ограничениями
Краткое содержание
arXiv:2511.14334v1 Тип объявления: новое Аннотация: Одной из давних целей в области оптимизации и программирования с ограничениями является возможность описания задачи на естественном языке и автоматического получения исполняемой эффективной модели. Большие языковые модели кажутся приближающими эту цель ближе, демонстрируя впечатляющие результаты при автоматическом создании моделей для классических эталонных тестов. Однако значительная часть этого очевидного успеха может быть обусловлена загрязнением данных, а не подлинным рассуждением: многие стандартные проблемы CP, вероятно, включены в обучающие данные этих моделей. Для проверки этой гипотезы мы систематически переформулировали и изменили набор хорошо известных задач библиотеки CSPLib таким образом, чтобы сохранить их структуру, но изменить контекст и ввести вводящие в заблуждение элементы. Затем мы сравнили модели, созданные тремя репрезентативными большими языковыми моделями по исходному описанию и модифицированным вариантам. Наш качественный анализ показывает, что хотя большие языковые модели могут генерировать синтаксически корректные и семантически правдоподобные модели, их производительность...
Полный текст статьи пока не загружен.