Время Валеры

20 March 2023 16:48

В свое время крайне полезным упражнением для меня было самостоятельно писать маленькие сетки через numpy, чтобы осознать как все сводится воедино (градиенты, backprop, обновление весов, лоссы, нелинейности и тп). История повторяется https://jaykmody.com/blog/gpt-from-scratch

Тут правда не такой low level, но зато есть JAX - так сказать экзотика