По курсу «Машинное обучение в астрофизике частиц»
№ | Название | Формула | Начальные значения {x1,x2,x3} | Начальные значения весов {w1,w2,w3} | Ожидаемые значения {y1,y2,y3} | Новые значения весов {w1.w2.w3} | ||
---|---|---|---|---|---|---|---|---|
1 | Сигмоида | 1/(1+exp(-z)) | {1,2,3} | {2,3,4} | {1,1,1} | |||
2 | tanh | (exp(z)-exp(-z)(/(exp(z)+exp(-z)) | {2,3,4} | {3,4,5} | {1,1,1} | |||
3 | ELU | z, if z>=0; a*exp(z)-1, if z<0 | {3,4,5} | {4,5,6} | {1,1,1} |
где z=x1*w1+x2*w2+x3*w3, a=1.