Краткое содержание

arXiv:2501.18875v2 Тип объявления: replace Аннотация: Самоконтролируемое обучение привлекает значительное внимание в современных приложениях, в основном из-за нехватки размеченных данных. Хотя существующие методы SSL в основном решают проблему дисперсии признаков и линейных корреляций, они часто пренебрегают сложными взаимосвязями между образцами и нелинейными зависимостями, присущими сложным данным — что особенно распространено в высокоразмерных визуальных данных. В этой статье мы представляем Correlation-Dependence Self-Supervised Learning (CDSSL), новую структуру, которая объединяет и расширяет существующие парадигмы SSL за счёт интеграции как линейных корреляций, так и нелинейных зависимостей, охватывая взаимодействия на уровне образцов и признаков. Наш подход включает критерий независимости Хильберта-Шмидта (HSIC) для надёжного захвата нелинейных зависимостей в пространстве воспроизводящего ядра Хильберта, обогащая обучение представлений. Экспериментальные оценки на различных эталонных тестах демонстрируют эффективно