Краткое содержание

arXiv:2511.13108v1 Тип объявления: новый Аннотация: Быстрый прогресс порождающих моделей, таких как GAN и диффузионные модели, привёл к широкому распространению изображений, созданных искусственным интеллектом, вызывая озабоченность по поводу дезинформации, нарушения конфиденциальности и эрозии доверия к цифровым медиа. Хотя крупномасштабные мультимодальные модели вроде CLIP предлагают сильные переносимые представления для обнаружения синтетического контента, дообучение часто вызывает катастрофическое забывание, ухудшающее предварительно натренированные априорные знания и ограничивающее обобщение между доменами. Для решения этой проблемы мы предлагаем сеть дистилляционно-направленного градиентного хирургического вмешательства (DGS-Net) — новую архитектуру, сохраняющую переносимые предварительно натренированные априорные знания, одновременно подавляя компоненты, нерелевантные задаче. В частности, мы вводим разложение пространства градиентов, которое разделяет вредные и полезные направления спуска во время оптимизации. Путём проецирования градиентов задачи на ортогональное дополнение вредных направлений и выравнивания с полезными направлениями, получаем...