Краткое содержание

arXiv:2511.15435v1 Объявление Тип: новый Аннотация: Продвинутые многомодальные методы Retrieval-Augmented Generation (MRAG) широко применяются для повышения возможностей Больших Многомодальных Моделей (LMM), но также порождают новые вопросы безопасности. Существующие исследования в области атак против состязания выявили уязвимость систем MRAG к атакам отравления знаний, которые обманывают ретривер, заставляя его извлекать введенленное зараженное содержимое. Однако наша работа рассматривает другую обстановку: визуальную атаку на MRAG путем добавления только незаметных искажений входным изображениям пользователей без изменения каких-либо других компонентов. Это сложно из-за надежности тонко настроенных ретриверов и масштабных генераторов, а эффект визуальной деформации может быть еще больше ослаблен при распространении по цепи RAG. Мы предлагаем новую Иерархическую Визуальную Атаку, которая искажает и нарушает два входных данных (многомодальный запрос и дополненные знания) генератора MRAG для сбивания его генерации с толку.