now is better than never

[딥러닝] 8. 오차 역전파 (Back Propagation) 본문

머신러닝 & 딥러닝

[딥러닝] 8. 오차 역전파 (Back Propagation)

김초송 2023. 5. 4. 16:40

오차 역전파

https://wikidocs.net/37406

 

07-05 역전파(BackPropagation) 이해하기

인공 신경망이 순전파 과정을 진행하여 예측값과 실제값의 오차를 계산하였을 때 어떻게 역전파 과정에서 경사 하강법을 사용하여 가중치를 업데이트하는지 직접 계산을 통해 이해해봅시다.…

wikidocs.net

https://hsm-edu-math.tistory.com/348

 

[모듈식 수학2] 2.미분 (18) 함수의 n제곱의 미분, {f(x)^n}'

[수학2]-[2.미분]-[①미분]-[(18) 함수의 n제곱의 미분, {f(x)^n}'] 함수의 n제곱의 미분, {f(x)^n}' 미분가능한 함수 f(x)가 있습니다. 이 함수를 n제곱하면 아래와 같습니다. 이 함수를 미분해봅시다. 미분

hsm-edu-math.tistory.com

  • -1 : 완전제곱식 도함수 공식에 따라 o1 의 미분값

 

순전파 역전파 파이썬 구현

# 노드 4개
apple_layer = MulLayer()
orange_layer = MulLayer()
add_apple_orange_layer = AddLayer()
mul_tax_layer = MulLayer()

# 순전파
apple_price = apple_layer.forward(100, 2) # 가격, 개수
orange_price = orange_layer.forward(150, 3)
apple_orange_price = add_apple_orange_layer.forward(apple_price, orange_price)
price = mul_tax_layer.forward(apple_orange_price, 1.1)
price