← Вернуться к списку

Нужны ли графовые трансформеры? Эффективная передача сообщений на большие расстояния с фрактальными узлами в MPNN

Краткое содержание

arXiv:2511.13010v1 Тип: новая статья Аннотация: Графовые нейронные сети (GNN) стали мощным инструментом для обучения на графовых данных, но часто испытывают трудности с балансировкой локальной и глобальной информации. Хотя графовые трансформеры пытаются решить эту проблему за счёт обеспечения дальнодействующих взаимодействий, они часто упускают из виду присущую локальность и эффективность нейронных сетей с передачей сообщений (MPNN). Мы предлагаем новую концепцию под названием фрактальные узлы, вдохновлённую фрактальной структурой, наблюдаемой в реальных сетях. Наш подход основан на интуиции, что разделение графа естественным образом порождает фрактальную структуру, где подграфы часто отражают структурные закономерности исходного графа. Фрактальные узлы предназначены для сосуществования с исходными узлами и адаптивной агрегации признаковых представлений на уровне подграфов, обеспечивая тем самым сходство признаков внутри каждого подграфа. Мы показываем, что фрактальные узлы смягчают проблему чрезмерного сжатия, предоставляя прямые кратчайшие связи, которые обеспечивают дальнодействующее распространение.

Полный текст статьи пока не загружен.