Ура! Заново понял, что такое производная и обратный процесс интегрирование (восстановление функции по её производной). Геометрический смысл производной тангенс угла наклона касательной к графику функции в заданной точке. Т.е. мера "крутизны" графика функции, насколько быстро она ускоряется. Так все просто! Все эти:
Для производной: (х^2)' = 2х, т.е. степень "х" становится множителем и степень уменьшается на 1.
Для интеграла: d(х^2)= (х^3)/3, т.е. интеграл f(х) это найти такое значение функции, производная которой равна нашей (нашему родимому интегралу)
а для сложных функций вообще чума: https://ru.wikipedia.org/wiki/Производная_функции#Таблица_производных
Эта как по телику когда говорят "В последний квартал уменьшились темпы снижения роста вывода капитала заграницу". Чтобы понять, что сказал диктор, надо всего-то, взять 5ую производную от денежного потока.
Надо копать дальше. Делать анализ 0..9 для MNIST. Для простого примера текущий код ОК, но вообще, выбрал плохую архитектуру структуры данных. Неудобно обновлять кучу массивов.