← Вернуться к списку

Персонализированное федеративное обучение с двунаправленным сжатием связи посредством однобитового случайного скитчинга

Краткое содержание

arXiv:2511.13144v1 Тип: новая статья Аннотация: Федеративное обучение (FL) позволяет проводить совместное обучение на децентрализованных данных, но сталкивается с ключевыми проблемами двусторонних затрат на связь и неоднородности данных на стороне клиентов. Чтобы решить проблему затрат на связь, принимая при этом неоднородность данных, мы предлагаем pFed1BS — новую структуру персонализированного федеративного обучения, которая достигает экстремального сжатия передаваемых данных посредством однобитового случайного скитчинга. В персонализированном FL цель смещается с обучения единой глобальной модели на создание индивидуальных моделей для каждого клиента. В нашей структуре клиенты передают сильно сжатые однобитовые скитчи, а сервер агрегирует и рассылает глобальный однобитовый консенсус. Для обеспечения эффективной персонализации мы вводим регуляризатор на основе знаков, который направляет локальные модели на соответствие глобальному консенсусу при сохранении характеристик локальных данных. Чтобы снизить вычислительную нагрузку случайного скитчинга, мы используем Быстрое Преобразование Адамара для эффективного про

Полный текст статьи пока не загружен.