Краткое содержание

arXiv:2511.13753v1 Тип объявления: кросс Аннотация: Интеграция больших языковых моделей (LLM) в системы автоматического вождения открыла новые возможности для рассуждений и принятия решений путем преобразования сложных контекстов дорожного движения в представления, понятные на языке. Недавние исследования показывают, что предварительно настроенные модели LLM могут точно предсказывать траектории транспортных средств и намерения смены полосы движения, собирая и преобразуя данные от окружающих автомобилей. Однако надежность таких основанных на LLM моделей прогнозирования для критически важных с точки зрения безопасности систем управления автомобилем остается неизученной, несмотря на растущие опасения относительно надежности LLM. В данной работе мы восполняем этот пробел, проводя систематический анализ уязвимостей прогнозирования траекторий транспортных средств с использованием LLM. Мы предлагаем атаку дифференциальной эволюции по одному признаку, которая изменяет единственный кинематический признак окружающего транспортного средства внутри входных подсказок LLM при черном ящике. Эксперименты на наборе данных highD показали, что даже незначительные изменения одного признака приводят к значительным ошибкам в прогнозировании траектории...