Краткое содержание

arXiv:2511.07897v1 Тип объявления: новый Аннотация: Глубокие модели машинного обучения добились успеха во многих областях, однако понимание их поведения до сих пор остается загадкой («черный ящик»). Большинство предыдущих подходов интерпретируемого ИИ (Explainable AI — XAI) были сосредоточены на интерпретации и объяснении того, каким образом модели делают прогнозы. В отличие от них, мы предлагаем подход, направленный на понимание самих данных через обучение глубоких моделей и представляем новый метод объяснения данных одним из наиболее распространенных способов — языком, чтобы сделать результаты легко понятными человеку. Наш подход предлагает конвейерную схему формирования текстовых описаний, объясняющих данные с помощью больших языковых моделей путем интеграции внешних баз знаний. Однако созданные описания данных могут содержать нерелевантную информацию, поэтому мы вводим использование оценки влияния для выбора наиболее информативных текстовых описаний наряду с оценкой CLIP. Более того, основываясь на явлении кросс-модальной переносимости, мы предлагаем новую тестовую задачу под названием cro