텍스트 생성Text Generation
앞을 보고 다음 조각을 이어 붙여 글을 만드는 일
- 텍스트 생성은 글을 통째로 떠올리는 게 아니라 다음 한 조각씩 골라 이어 붙이는 일이에요.
- 어딘가에 있는 문장을 찾아오는 게 아니라, 조각을 이어 그 자리에서 새로 만들어요.
- 조각을 고를 때 약간의 무작위가 들어가서 같은 부탁에도 매번 다른 글이 나와요.
- 이미 내놓은 조각은 되돌리지 않아요. 초반에 어긋나면 그 뒤가 끌려가요.
- 앞에 무엇을 놓아 주느냐가 결과를 정해요. 부탁하는 말이 곧 첫 홈이에요.
목차
1비유로 이해하기
열쇠집에 자물쇠를 들고 가면 사장님이 아무것도 깎이지 않은 민짜 열쇠를 하나 물려 놓고 홈을 깎기 시작해요. 첫 칸을 깎고, 자물쇠에 넣어 걸리는 자리를 보고 다음 칸 깊이를 정하고, 또 넣어 보고 그다음 칸을 정해요. 완성된 열쇠는 서랍에서 꺼낸 게 아니라 그 자리에서 만들어진 거예요.
이 방식에는 규칙이 하나 있어요. 한 번 깎아 낸 홈은 되돌릴 수 없다는 거예요. 세 번째 칸을 너무 깊게 깎았으면 그 뒤 칸을 아무리 잘 깎아도 열쇠는 헛돌아요. 남은 방법은 새 민짜를 물려 처음부터 다시 깎는 것뿐이에요.
같은 자물쇠를 두 번 가져가도 완전히 똑같은 열쇠가 나오지는 않아요. 손이 매번 미세하게 다르니까요.
2자세히 알아보기
앞을 보고 다음 한 칸을 정해요
AI는 답을 머릿속에 완성해 두고 옮겨 적지 않아요. 지금까지 놓인 조각을 전부 보고 다음에 올 조각 하나를 고르고, 그 조각을 붙인 다음 다시 전체를 보고 그다음 조각을 골라요. 이 일을 끝날 때까지 반복해요.
화면에 글자가 주르륵 흘러나오는 것처럼 보이는 건 지금 조각이 하나씩 만들어지는 중이라서예요. 답이 길수록 오래 걸리는 이유도 같아요. 조각 하나마다 계산 한 번이 들어가요.
고를 때는 후보마다 그럴듯한 정도가 매겨져요. "오늘 날씨가" 뒤에는 "좋네요"가 높은 자리에 있고 "냉장고"는 거의 바닥이에요. 이 순위는 학습한 글에서 어떤 말 뒤에 어떤 말이 얼마나 자주 왔는지를 익힌 결과예요.
찾아오는 게 아니라 만들어요
생성한 글이 어딘가에 저장된 문장을 꺼내 온 것이라고 오해하기 쉬워요. 모델 안에는 문장 창고가 없어요. 있는 것은 다음 조각을 고르는 데 쓰이는 숫자 뭉치뿐이에요.
그래서 세상에 한 번도 쓰인 적 없는 문장이 나올 수 있어요. 내 이름과 우리 집 강아지 이름이 함께 들어간 시를 부탁해도 만들어 내요. 어디서도 그 조합을 본 적이 없는데 만들어 낸다는 점이 이 기술의 힘이자 위험이에요.
같은 이유로 없는 사실도 그럴듯하게 만들어져요. 조각을 고르는 기준은 "사실이냐"가 아니라 "이 자리에 올 만하냐"거든요. 존재하지 않는 논문 제목이나 없는 조항 번호가 매끄럽게 나오는 건 이 때문이에요.
매번 똑같이 나오지 않아요
가장 그럴듯한 조각만 계속 고르면 글이 안전해지지만 딱딱해지고 같은 표현이 반복돼요. 그래서 보통은 상위 후보들 중에서 조금씩 흔들어 골라요. 같은 질문에 매번 다른 답이 나오는 이유예요.
이 흔들림의 폭은 조절할 수 있어요. 폭을 좁히면 답이 안정되고 사실을 다루는 일에 알맞아요. 넓히면 표현이 다양해지지만 엉뚱한 조각이 끼어들 확률도 같이 올라가요.
같은 답을 다시 받고 싶다면 대화를 다시 시작하는 대신 그 답을 그대로 붙여 넣고 고쳐 달라고 하는 편이 나아요. 두 번째 시도가 첫 번째보다 낫다는 보장은 없어요.
한 번 내놓은 조각은 되돌리지 않아요
글을 쓰다 앞 문장이 마음에 안 들면 사람은 지우고 다시 써요. 생성은 그렇게 하지 않아요. 이미 나온 조각은 다음 조각을 고를 때 그대로 근거로 쓰여요.
그래서 초반에 어긋난 조각 하나가 글 전체를 끌고 가요. 첫 문장에서 없는 인물을 만들어 냈다면, 그 뒤 문단은 그 인물이 있다는 전제 위에서 계속 이어져요. 스스로 판 구덩이를 스스로 메우지 못하는 셈이에요.
답이 이상한 방향으로 흘렀다면 이어서 고쳐 달라고 부탁하는 것보다, 처음부터 다시 시키는 편이 대체로 나아요. 사장님이 새 민짜를 무는 것과 같아요.
앞에 무엇을 놓느냐가 결과를 정해요
생성은 언제나 앞에 놓인 글에서 이어져요. 부탁하는 말, 앞선 대화, 붙여 넣은 자료가 전부 첫 홈이 돼요. 같은 모델이라도 앞에 무엇을 놓았느냐에 따라 결과가 크게 달라지는 이유예요.
원하는 형식을 보기로 하나 붙여 주면 그 형식을 따라가요. 말투를 정해 주면 그 말투로 이어져요. 반대로 아무것도 정해 주지 않으면 가장 무난한 쪽으로 흘러가서 어디서 본 듯한 글이 나와요.
길이도 앞에서 정해 줄 수 있어요. 다만 조각 수로 걸리는 한도가 따로 있어서, 한도에 걸리면 문장 중간에서 뚝 끊겨요.
3조금 더 정확하게
텍스트 생성은 다음에 올 조각의 후보마다 점수를 매기고, 그 점수를 확률로 바꾼 뒤 하나를 뽑는 과정을 반복하는 일이에요. 앞의 결과를 다시 입력으로 넣어 이어 가는 이 방식을 자기회귀라고 불러요. 뽑는 방법에는 가장 높은 것만 고르는 방식부터 상위 후보 안에서 확률에 따라 뽑는 방식까지 여러 가지가 있고, 흔들림의 폭을 정하는 값을 온도라고 불러요.
비유가 어긋나는 지점도 있어요. 열쇠집 사장님은 자물쇠라는 정답을 손에 쥐고 맞춰 가지만, 생성에는 맞춰 볼 자물쇠가 없어요. 맞는지 확인하는 대신 그럴듯한 쪽으로 갈 뿐이에요. 또 열쇠는 맞거나 안 맞거나 둘 중 하나지만 글은 반쯤 맞는 상태가 얼마든지 있어서, 틀린 곳이 있어도 전체는 그럴듯하게 읽혀요. 한 가지 더, 사장님은 한 칸씩 깎지만 모델은 조각을 고를 때마다 지금까지의 글 전체를 다시 훑어봐요.
4직접 해보기
5흔한 오해
AI가 답을 다 정해 놓고 옮겨 적는다고 생각하기 쉽지만, 실제로는 조각 하나를 고를 때마다 그다음이 정해지는 방식이라 자기도 끝을 모르고 시작해요.
어딘가에 있는 문장을 찾아 붙인다고 여기기 쉽지만, 실제로는 문장 창고가 없어서 세상에 없던 문장도 그 자리에서 만들어져요.
같은 질문에는 같은 답이 나와야 한다고 생각하기 쉽지만, 실제로는 고르는 과정에 흔들림이 있어서 매번 조금씩 달라요.
7한 줄 요약
그러니까텍스트 생성은 앞에 놓인 글을 보고 다음 한 조각을 골라 붙이는 일을 반복해, 그 자리에서 새 글을 깎아 내는 일이에요.
잘못된 내용이나 더 좋은 비유가 있나요? 수정 제안 보내기 · 마지막 수정2026-09-02