역전파Backpropagation

앞으로 한 번, 뒤로 한 번

학습의 한 걸음은 왕복이에요. 먼저 자료를 넣고 층을 차례로 통과시켜 답을 만들어요. 세차장에 차를 밀어 넣는 쪽이죠. 나온 답과 실제 정답을 비교해 오차를 재요.

그다음이 되짚는 길이에요. 오차를 마지막 층에 건네주면, 그 층은 자기가 가진 값들이 오차에 얼마나 기여했는지 계산하고 남은 몫을 앞 층으로 넘겨요. 이 넘김이 첫 층까지 이어져요. 두 길이 한 번씩 끝나면 모델 안 모든 값에 "이쪽으로 이만큼"이라는 쪽지가 붙어요.

앞으로 지나갈 때 나온 중간 결과들은 버리지 않고 들고 있어야 해요. 되짚을 때 그 값들이 다시 필요하거든요. 학습을 돌릴 때가 완성된 모델을 쓸 때보다 메모리를 훨씬 많이 먹는 첫 번째 이유예요.

뒤에서부터 거슬러야 하는 이유

앞 단계부터 하나씩 확인하는 방법도 생각해 볼 수 있어요. 값 하나를 아주 조금 바꿔 보고 결과가 얼마나 달라지는지 재는 거예요. 그런데 값이 하나 바뀔 때마다 세차장 전체를 다시 통과시켜야 해요. 값이 수억 개면 이 일을 수억 번 해야 하죠.

되짚는 방식은 이 낭비를 없애요. 뒤 단계의 몫을 알고 있으면 앞 단계의 몫은 곱셈 몇 번으로 바로 나와요. 뒤에서 앞으로 한 번만 훑으면 모든 값의 몫이 동시에 구해져요. 층을 아무리 깊게 쌓아도 학습 시간이 감당할 만한 수준으로 남는 건 이 순서 덕분이에요.

몫을 나눈 다음에는 값을 옮겨요

역전파는 몫을 나눠 주는 데서 끝나요. 그 몫을 보고 값을 실제로 옮기는 일은 경사하강법이 맡아요. 얼마나 옮길지는 학습률이, 어떤 요령으로 옮길지는 옵티마이저가 정해요. 역할이 이렇게 나뉘어 있어요.

몫은 자료를 한 묶음 볼 때마다 새로 계산돼요. 같은 값이라도 어떤 자료를 봤느냐에 따라 이번에는 올리라고, 다음에는 내리라고 할 수 있어요. 그래서 한 번의 몫에 크게 반응하지 않고 조금씩만 움직이는 방식을 써요.

되짚어 갈수록 몫이 흐려져요

되짚는 과정은 층을 지날 때마다 값을 곱해 나가는 일이에요. 곱해지는 값이 1보다 작으면 층을 지날수록 몫이 작아지고, 첫 층에 닿을 즈음에는 거의 0에 가까워져요. 앞쪽 층이 학습되지 않고 멈춰 버리는 기울기 소실이 이렇게 생겨요.

반대로 곱해지는 값이 크면 되짚을수록 몫이 부풀어 값이 튀어 버려요. 층을 건너뛰는 지름길을 두거나 층마다 값의 눈금을 다시 맞춰 주는 장치들이 널리 쓰이는 이유가 여기에 있어요.

깊은 모델이 오랫동안 학습되지 않았던 것도 이 문제 때문이었어요. 되짚는 절차 자체는 예전부터 알려져 있었지만, 몫이 앞쪽까지 살아서 닿게 만드는 장치들이 갖춰지고 나서야 층을 마음껏 쌓을 수 있게 됐어요.