MorphBoost: Самоорганизующийся универсальный градиентный бустинг с адаптивным преобразованием деревьев
Краткое содержание
arXiv:2511.13234v1 Тип: новая работа Аннотация: Традиционные алгоритмы градиентного бустинга используют статические древовидные структуры с фиксированными критериями разделения, которые остаются неизменными на протяжении всего обучения, что ограничивает их способность адаптироваться к изменяющимся распределениям градиентов и специфическим характеристикам задачи на различных этапах обучения. В данной работе представлен MorphBoost, новый фреймворк градиентного бустинга, обладающий самоорганизующимися древовидными структурами, которые динамически изменяют свое разделяющее поведение в процессе обучения. Алгоритм реализует адаптивные функции разделения, которые эволюционируют на основе накопленной градиентной статистики и зависящего от итерации обучающего давления, обеспечивая автоматическую подстройку под сложность задачи. Ключевые инновации включают: (1) изменяющийся критерий разделения, сочетающий градиентные оценки с информационно-теоретическими метриками, взвешенными по прогрессу обучения; (2) автоматическое определение характеристик задачи для интеллектуальной настройки параметров в бинарных/многоклассовых/регрессионных задачах; (3) векторизованное предварительное построение деревьев
Полный текст статьи пока не загружен.