Краткое содержание

arXiv:2412.12987v3 Тип объявления: замена-перекрёстная публикация Аннотация: Конусная оптимизация играет ключевую роль во многих задачах машинного обучения (ML). Однако практические алгоритмы для конусно-ограниченных задач машинного обучения с большими наборами данных часто ограничены конкретными случаями, поскольку стохастические алгоритмы для общей конусной оптимизации остаются недостаточно развитыми. Для устранения данного пробела мы предлагаем фреймворк стохастического метода внутренней точки (SIPM) для общей конусной оптимизации вместе с четырьмя новыми вариантами SIPM, использующими различные оценщики стохастического градиента. Под умеренными предположениями мы устанавливаем итерационную сложность предложенных нами методов SIPM, которая, с точностью до полилогарифмического множителя, соответствует лучшим известным результатам в области стохастической безусловной оптимизации. Наконец, наши численные эксперименты на задаче робастной линейной регрессии, обучении многозадачных зависимостей и кластеризации потоков данных демонстрируют эффективность и производительность нашего подхода.