Краткое содержание

arXiv:2304.11954v4 Тип объявления: замена-перекрёстная Аннотация: Спайковые нейронные сети (SNN) представляют собой перспективную энергоэффективную альтернативу искусственным нейронным сетям благодаря своей событийной спайковой обработке. Однако некоторые базовые архитектуры SNN (включая Spikformer и SEW ResNet) страдают от несобытийных вычислений (умножение целых чисел на числа с плавающей точкой), вызванных структурой их остаточных соединений. Эти несобытийные вычисления увеличивают энергопотребление SNN и делают их непригодными для развертывания на основной нейроморфной аппаратуре. В данной статье мы исследуем поведение, управляемое событиями, методов остаточного соединения в SNN. Затем мы представляем Spikingformer — новую архитектуру трансформера с импульсными сигналами, которая биологически правдоподобно объединяет метод остаточной связи MS с механизмом само-внимания, чтобы решить проблему несобытийных вычислений в Spikformer, сохранив при этом глобальные возможности моделирования. Мы оцениваем производительность Spikingformer на 13 наборах данных, охватывающих большие статические изображения, нейроморфные...