Краткое содержание

Я тестирую свою реализацию нейронной сети для распознавания типа функции. Я генерирую синусоидальные, линейные и квадратичные функции с случайными параметрами, вычисляю их значения для сетки linspace размером 100 и передаю y-значения в сеть как вход, ожидая вектор размера 3 в качестве выхода. Я уже проверил свой градиент на него, возвращаемый библиотекой numdiff, и он точный. Вход нормализован. Структура нейронной сети состоит из 100 узлов в слое ввода, 10 узлов в скрытом слое и 3 узла в выходном слое. Это результаты, которые я получил за 200 эпох с размером пакета 20, скоростью обучения 0,001 и 400 обучающими примерами: Стоимость (E_mean) уменьшается, но точность на обучающих данных не улучшается. Кроме того, точность резко возросла, но затем сразу же упала. Я был бы очень благодарен за любую помощь!