반응형 cross entropy1 cs231n - Loss function & Optimization - Loss Function : score의 불만족한 부분을 정량화 - Opimization : Loss function을 최소화하는 파라미터를 찾는 과정 Loss function을 설명하기 위해 \( f(x,W) = Wx \)를 통해서 다음 그림과 같은 score를 구하였다. 위 그림과 같이 점수가 나오고 이러한 상태에서 두가지의 loss function에 대해 알아본다. 1. SVM - Hinge Loss 2. Softmax - Cross Entropy Loss ## Multiclass SVM Loss 예를 들어 \( (x_{i}, y{i}) \)가 있고, \( x_{i} \)는 이미지, \( y_{i} \)는 label이라고 하자. 이 때, SVM loss는 다음의 식과 같다. $$ L_{i} = .. 2021. 8. 27. 이전 1 다음 반응형
