Метаобучение трансформерной модели in-context, соответствующей высшей зрительной коре человека
Краткое содержание
arXiv:2505.15813v2 Тип объявления: replace Аннотация: Понимание функциональных репрезентаций в высшей зрительной коре является фундаментальным вопросом вычислительной нейробиологии. Хотя искусственные нейронные сети, предварительно обученные на крупномасштабных наборах данных, демонстрируют поразительное выравнивание репрезентаций с нейронными реакциями человека, обучение вычислимых по изображениям моделей зрительной коры требует индивидуальных, крупномасштабных наборов данных фМРТ. Необходимость в дорогостоящем, трудоёмком и зачастую непрактичном сборе данных ограничивает возможность обобщения энкодеров на новых испытуемых и стимулы. BraInCoRL использует контекстное обучение для предсказания поксельных нейронных реакций по немногим примерам без какого-либо дополнительного дообучения для новых испытуемых и стимулов. Мы используем трансформерную архитектуру, которая может гибко учитывать переменное количество контекстных изображений-стимулов, обучая индуктивное смещение на множестве испытуемых. В процессе обучения мы явным образом оптимизируем модель для контекстного обучения. Совместно обусловли
Полный текст статьи пока не загружен.