AI/DL

    Forward propagation & Back propagation

    Forward propagation & Back propagation

    Forward propagation 순한맛 훈련 샘플이 1개라고 가정하자. 매 layer에서 1. w^T x + b 해야 되니까 w의 길이 = 입력값의 크기 b의 길이 = 입력값의 크기 2. w를 세로로 쌓는 횟수 = 출력값의 크기 매운맛 훈련 샘플이 m개라고 가정하자. 오른쪽으로 가면 $\rightarrow$ 샘플의 번호 증가 아래로 가면 $\rightarrow$ 유닛(노드)의 번호 증가 저 그림 하나가 샘플 하나에 대한 그림이긴 한데 저 노드들이 사실 화면 안쪽으로 쭉 이어져있고 가려져 있다고 생각하면 안쪽이 더 번호가 큰 샘플에 해당 중요 X(= A^[0]), Z, A 모두 0열이 바깥으로 나오는 형태로 칩이 꽂혀있다고 생각하니 쉽네! (W 1행) x + (b 1행) = (z 1행) 생각하면 W의 ..