Funkcyjo ReLU

Ze Wikipedia
Graficzno reprezentacyjo funkcyje

Funkcyjo ReLU, tyż mjanowano Rectifier - zorta aktywacyjnyj funkcyje we neuronowych necach. Dowo uůna wert 0 lo argumyntu majszego jak 0, a we inkszym przipadku uoddowo przidany wert. Używano m. in. we necach zbajstlowanych do rozpoznawańo mowy. Matymatyczno definicyjo to je:

Pochodno uod funkcyje ReLU: