Краткое содержание

arXiv:2501.16476v3 Тип объявления: замена Аннотация: Современные методы обучения без обратного распространения используют локальную обратную связь по ошибке для управления итеративной оптимизацией с помощью градиентного спуска. В данном исследовании мы рассматриваем более ограниченную постановку задачи, в которой ретроградная коммуникация от выходных сигналов нейронов недоступна для оптимизации пресинаптических весов. Для решения этой проблемы мы предлагаем метод прямого проецирования (Forward Projection — FP). Этот случайный метод обучения в замкнутой форме требует всего одного прямого прохода по всему набору данных для подгонки модели без использования ретроградной коммуникации. Наш подход генерирует целевые значения для мембранного потенциала до активации на каждом слое через случайные нелинейные проекции пресинаптических входных данных и меток, тем самым кодируя информацию из обоих источников. Локальные функции потерь оптимизируются над пресинаптическими входами с использованием регрессии в замкнутой форме без обратной связи от выходов нейронов или последующих слоев. Интерпретируемость является ключевым преимуществом метода обучения FP; мембранные потенциалы...