Краткое содержание

arXiv:2506.01636v2 Тип объявления: замена Аннотация: Карты визуального объяснения повышают достоверность решений, принимаемых глубокими моделями машинного обучения, и предоставляют ценную помощь при разработке новых алгоритмов для задач распознавания изображений. Карты активации классов (CAM) и их разновидности (например, Grad-CAM и Relevance-CAM) широко используются для изучения интерпретируемости свёрточных нейронных сетей, основанных на функции softmax, которым необходим полносвязный слой классификатора для принятия решения. Однако эти методы нельзя непосредственно применять к моделям метрического обучения, поскольку такие модели не содержат полносвязного слоя, выполняющего роль классификатора. Для устранения данного ограничения мы предлагаем новый метод визуального объяснения — карту активаций схожих признаков (Similar Feature Activation Map, SFAM). Этот подход вводит показатель значимости вклада каналов (Channel-Wise Contribution Importance Score, CIS), который измеряет важность признаков, вычисленных через оценку сходства между двумя векторными представлениями изображений. Объяснительная карта строится путём линейной комбинации...