3 $\begingroup$ Я сейчас пытаюсь решить задачу регрессии с использованием нейронных сетей. Мне нужно обнаруживать закономерности движения на изображениях во времени (видео) и выдавать непрерывное значение. В процессе обучения я заметил странное поведение для кривой валидационной потери и хотел узнать, замечали ли кто-нибудь подобные периодические паттерны в своей работе. Что может вызывать это? Модель выглядит следующим образом: - TimeDistributed(Conv2D(32, (3,3))) - TimeDistributed(Conv2D(16, (3,3))) - TimeDistributed(Flatten()) - GRU(64, stateful=True) - Dropout(0.5) - Dense(64, activation='relu') - Dense(1) Я обучил модель с использованием среднеквадратичной ошибки в качестве функции потерь, размера пакета 1 и оптимизатора Adam с начальной скоростью обучения 10^(-6). Очевидно, что кривая потерь для обучающих данных не очень хорошая, но я сейчас просто интересуюсь паттерном val_loss. Графики ниже представляют собой потери за 65 эпох. Спасибо! Редактирование: Способ, которым я пытаюсь решить свою задачу, основан на подходе со скользящим окном, где я пытаюсь предсказать непрерывное значение для следующей секунды на основе последних 20 секунд (400 кадров) временных рядов входных данных. Но, думаю, эта информация не нужна для решения моего первоначального вопроса, поскольку периодические паттерны проявляются в течение нескольких эпох (один "пик" примерно каждые 15 эпох), что странно. Хотя используется версия GRU с stateful (вдобавок, использую TensorFlow и Keras), внутреннее состояние GRU сбрасывается после каждой эпохи для обеспечения чистого старта. Ключевое слово stateful указывает на зависимость между пакетами. глубокое обучение обучение keras Улучшите этот вопрос Следили за 27 минут назад Mr. AI Cool 1,462 2 2 серебряные значки 21 21 бронзовый значок задано 1 марта 2018 г., 7:24 Неизвестный пользователь 131 3 3 бронзовый значок $\endgroup$ 2 1 $\begingroup$ Чтобы добавить больше ясности, можете ли вы объяснить подробнее, как вы настроили свой набор данных и конвейер обучения? Возможно, есть ссылка на учебник или исходный код, который вы использовали? $\endgroup$ user3667125 – user3667125 18 декабря 2020 г., 21:20:39 +00:00 Комментировано 18 декабря 2020 г., 21:20 $\begingroup$ Вы уверены, что вы проходите весь свой набор данных за одну эпоху? Фактически, кривая потерь также имеет эти пики, что может указывать на то, что вы видите новый обучающий набор данных, который вы не тренировали ранее? $\endgroup$ Рафаэль Лопес Кауфман – Рафаэль Лопес Кауфман 10 августа 2022 г., 20:10:35 +00:00 Комментировано 10 августа 2022 г., 20:10 Добавить комментарий | 1 Отсортировано по: Сбросить по умолчанию Наивысший балл (по умолчанию) Измененная дата (от новых к старым) Созданная дата (от старых к новым) 0 $\begingroup$ Ваша модель выдает высокую потерю для начала кадра видео, позже ее потеря уменьшается по мере прохождения нескольких кадров "того же" видео, но снова после появления нового видео ее потери достигают определенной точки. Улучшите этот ответ Следили за 26 минут назад Mr. AI Cool 1,462 2 2 серебряные значки 21 21 бронзовый значок отвечено 2 июня 2018 г., 5:42 thecomplexityorist 796 3 3 серебряные значки 19 19 бронзовый значок $\endgroup$ Добавить комментарий | Вам необходимо войти, чтобы ответить на этот вопрос. Начните задавать вопросы, чтобы получить ответы Найдите ответ на свой вопрос, задавая его. Задайте вопрос Исследуйте связанные вопросы глубокое обучение обучение keras Смотрите похожие вопросы с этими тегами.