셀프 어텐션Self-Attention

바깥이 아니라 안에서 오가요

어텐션 자체는 원래 두 무리 사이를 잇는 데 쓰였어요. 번역할 때 원문 쪽 단어들과 번역문 쪽 단어들을 이어 주는 식이었죠. 묻는 쪽과 답하는 쪽이 서로 다른 문장이었어요.

셀프 어텐션은 이 둘을 하나로 합쳤어요. 묻는 쪽도 답하는 쪽도 같은 문장이에요. 그래서 "자기 자신"이라는 뜻의 이름이 붙었어요. 이 단순한 변경이 트랜스포머라는 구조를 가능하게 했고, 지금 쓰이는 대부분의 언어 모델이 이 위에 서 있어요.

자리마다 세 가지 역할을 동시에 맡아요

각 자리는 세 가지를 내놓아요. "나는 이런 걸 찾고 있다"는 쪽지, "나는 이런 걸 갖고 있다"는 이름표, 그리고 실제로 건네줄 내용이에요. 우편함 하나가 편지도 보내고 이름표도 걸고 답장 내용도 준비하는 셈이에요.

쪽지와 이름표가 잘 맞을수록 그 자리에서 오는 답장의 비중이 커져요. 비중을 다 더하면 1이 되니까, 어느 한 곳을 크게 참고하면 다른 곳은 자동으로 적게 참고해요.

이 세 가지는 모두 같은 원본에서 각각 다르게 뽑아 낸 것이에요. 어떻게 뽑을지는 학습으로 정해졌어요.

답장을 걷으면 내용이 바뀌어요

답장을 다 걷은 뒤 각 자리의 내용은 그대로 있지 않아요. 걷어 온 것들을 비중대로 섞어서 자기 내용에 반영해요. 그 결과 "그것"이라는 자리에는 앞에 나온 "케이크"의 정보가 진하게 배어들고, "밝다"라는 자리에는 그 앞에 나온 것이 방인지 성격인지가 배어들어요.

같은 글자가 문장에 따라 다른 것을 뜻하게 되는 일이 여기서 일어나요. 문장 하나만 놓고 보면 "배"는 여러 뜻이지만, 앞뒤 말들의 답장을 걷고 나면 병원 쪽인지 항구 쪽인지가 정해져요.

모두가 동시에 일해요

이전 방식은 첫 단어를 처리해야 두 번째 단어로 넘어갈 수 있었어요. 줄을 서서 차례를 기다리는 구조였죠. 셀프 어텐션에는 그런 순서가 없어요. 모든 자리가 모든 자리를 한꺼번에 보니 전부 동시에 계산할 수 있어요.

이 점이 실제로 가장 큰 변화를 만들었어요. 계산 장치가 수천 개의 일을 한꺼번에 처리하는 데 강하다는 성질과 딱 맞아떨어져서, 학습 속도가 비교할 수 없이 빨라졌어요. 오늘날의 큰 모델들이 나올 수 있었던 실질적인 이유예요.

대신 순서 정보가 사라져요. 모두가 동시에 서로를 보면 누가 앞이고 누가 뒤인지 알 수 없으니까요. 그래서 각 자리에 순서를 나타내는 표시를 따로 붙여 줘야 해요.

층을 거듭하면 시야가 넓어져요

한 번 답장을 걷고 끝나지 않아요. 갱신된 내용을 가지고 또 한 번 쪽지를 돌리고, 그걸 여러 층 반복해요. 두 번째 층에서는 이미 문맥이 밴 내용끼리 주고받으니 훨씬 넓은 관계를 볼 수 있어요.

아래층은 바로 옆 말과의 관계나 문법적 짝을 주로 잡고, 위층으로 갈수록 문장 전체의 주제나 논리 흐름 같은 것을 잡는 경향이 관찰돼요. 층마다 보는 것이 조금씩 달라지는 거예요.