[딥러닝] 4-9 신경망 네트워크와 경사 하강법

이전포스팅:https://devlunch4.tistory.com/106

[딥러닝] 4-8 활성화 함수의 미분

4-9 신경망 네트워크와 경사 하강법 >> 영상필히 보기 > 계산식 설명 
https://youtu.be/7bLEWDZng_M

학습목표;

    경사 하강법 구현 방법을 알 수 있다.

 

핵심키워드;

    경사 하강법

 

학습내용;

    단일층 신경망에서 경사 하강법을 구현하기 위한 방법은 다음과 같습니다.

          dw^​[1]​​=​dJ​​ / ∂w^​[1]​​​​

         db​^[1]​​=​∂J​​ /∂b​^[1]​​​​

         W​^[1]​​=W^​[1]​​−αdW^​[1]​​ 

         b​^[1]​​=b^​[1]​​−αdb^​[1]​​ 

    단일층이 아닐 때는 1뿐만 아니라 1, 2, …,m 까지의 계산을 반복하면 됩니다.

 

• 영상 시작
• >
•  

  

• 현재 여러분의 단일층 신경망은 w^[1], b^[1], w^[2], b^[2]의 변수를 가집니다         
• >
• 경사하강법

• 

• >
• 역전파계산

• 

•  

영상 필히보기!