자기지도학습Self-Supervised Learning

정답지가 자료 안에 있어요

지도학습에서 가장 비싼 일은 자료마다 답을 적어 두는 일이에요. 자기지도학습은 그 일을 통째로 건너뛰어요. 답을 새로 만드는 대신 이미 있는 자료를 반으로 쪼개 한쪽을 문제, 다른 쪽을 답으로 쓰거든요.

톱니를 빼내는 순간 문제와 답이 동시에 생기는 것과 같아요. 문장에서 낱말 하나를 지우면 지운 자리가 문제가 되고, 지운 낱말이 답이 돼요. 사진 한 귀퉁이를 덮으면 덮인 부분이 답이 되고요.

그래서 자료만 있으면 문제는 무한히 만들어져요. 같은 문장으로도 어느 낱말을 가리느냐에 따라 다른 문제가 나오니까요.

무엇을 가리느냐가 문제를 정해요

가리는 방식에 따라 배우는 것이 달라져요. 문장 가운데를 군데군데 가리고 앞뒤를 모두 보게 하면 낱말 사이의 관계를 촘촘히 익혀요. 문장을 어느 지점에서 잘라 놓고 뒤를 가린 채 이어 쓰게 하면 말이 흘러가는 방향을 익히고요. 두 방식은 목적이 달라서 잘하는 일도 갈려요.

너무 쉽게 가리면 배울 게 없어요. 조사 하나만 가리면 앞뒤만 보고도 맞히니까요. 너무 많이 가리면 단서가 남지 않아 아무리 봐도 못 맞혀요. 시계 톱니를 절반 넘게 빼 버리면 원래 모습을 짐작할 수 없는 것과 같아요. 적당히 어려운 지점을 잡는 일이 이 방식의 요령이에요.

답 없는 자료를 통째로 쓸 수 있어요

인터넷에 쌓인 글, 책, 코드, 사진에는 답이 붙어 있지 않아요. 사람 손으로 답을 붙이려면 평생을 들여도 모자라요. 자기지도학습은 이 더미를 그대로 삼켜요.

큰 언어 모델이 짧은 시간에 눈에 띄게 좋아진 배경에 이 방식이 있어요. 학습에 쓸 수 있는 자료의 양이 사람이 답을 붙일 수 있는 만큼에서 세상에 쌓인 만큼으로 넓어졌거든요. 다루는 자료의 규모가 몇 자릿수 단위로 커졌어요.

배운 것은 감각이지 일솜씨가 아니에요

시계 수천 개를 열어 본 사람이 곧바로 손님 시계를 고칠 수 있는 건 아니에요. 시계가 어떻게 생겼는지에 대한 감각이 생겼을 뿐이에요. 실제 수리는 그 감각 위에 손님 응대와 부품 주문 같은 일을 따로 익혀야 완성돼요.

자기지도학습도 같아요. 가리고 맞히기로 얻은 것은 자료의 결에 대한 감각이지 특정한 일이 아니에요. 그래서 이 단계를 사전 학습이라고 부르고, 그 뒤에 답이 붙은 적은 자료로 실제 일을 맞추는 단계가 따라와요. 먼저 감각을 넓게 쌓아 두면 뒷단계에 필요한 답의 양이 확 줄어들어요.

글 말고도 통해요

사진에서는 일부를 네모나게 덮고 그 안을 복원하게 하거나, 같은 사진을 자르고 색을 바꾼 두 장을 서로 같은 것으로 알아보게 만들어요. 소리에서는 짧은 구간을 지우고 앞뒤 소리로 메우게 하고요. 영상에서는 다음 몇 초를 가려 두고 이어지는 장면을 짐작하게 해요.

방식은 달라도 뼈대는 같아요. 자료를 두 쪽으로 갈라 한쪽을 감추고, 감춘 쪽을 정답으로 삼는 거예요. 사람이 답을 적어 주지 않는다는 점이 모든 경우에 공통이에요.