머신러닝1 Backpropagation 개요 Backpropagation이란 딥러닝 모델을 학습시킬 때 사용하는 대표적인 부분 중 하나입다. 직역하면 역전파라는 뜻을 가집니다. Backpropation은 간단하게 풀어쓰면 실제 정답과 모델이 예측한 값의 오차를 출력에서 입력으로 전파하면서 모델의 weight를 업데이트하는 것을 말합니다. Backpropagation을 알기 전에 Chain Rule이란 것을 먼저 알아야 합니다. Chain Rule Chain Rule이란 미분의 연쇄법칙이라고 불리는 법칙입니다. Chain Rule에 대한 정의는 다음과 같습니다. 어떤 함수 fff와 ggg가 모두 미분가능하고 F=f∘gF = f\circ gF=f∘g가 F(x)=f(g(x))F(x) = f(g(x))F(x)=f(g(x))로 정의된 합성함수라면, FFF는 xxx에서 미분 가능하고, F′F'F′는 다음과 같.. 2021. 11. 3. 이전 1 다음
