시스템 프롬프트System Prompt

손님 말보다 먼저 놓여요

우리가 채팅창에 무언가 적어 넣기 전에, 서비스는 이미 모델에게 여러 줄을 건네 둔 상태예요. "너는 이 회사의 상담 도우미야", "존댓말을 써", "의학적 판단은 하지 마" 같은 문장들이에요.

모델은 이 글을 먼저 읽고 그다음에 우리 말을 읽어요. 순서가 앞이라는 점이 중요해요. 뒤에 오는 말을 어떤 태도로 대할지가 앞에서 이미 정해지는 거예요.

같은 모델이 어떤 서비스에서는 딱딱한 상담원처럼, 다른 서비스에서는 편한 말동무처럼 구는 이유가 여기에 있어요. 모델이 다른 게 아니라 앞에 깔린 방침이 다른 거예요.

무엇을 적어 두나요

역할을 정해요. 무엇을 하는 도우미인지, 누구를 상대하는지 알려 줘요. 역할이 정해지면 말투와 다루는 내용이 저절로 좁혀져요.

말투를 정해요. 존댓말인지 반말인지, 이모지를 쓸지, 답을 얼마나 길게 할지 같은 것들이에요.

다룰 범위를 정해요. 무엇을 다루고 무엇은 다루지 않는지, 모르는 것을 물으면 어떻게 답할지를 적어 둬요. "확실하지 않으면 모른다고 말해" 같은 한 줄이 여기에 들어가요.

답 형식을 정해요. 답을 목록으로 줄지 문단으로 줄지, 뒤에 붙는 프로그램이 읽을 수 있는 정해진 모양으로 줄지를 지정해요.

손님 주문과 부딪히면

방침과 그때그때의 요청이 어긋나면 보통 방침이 이겨요. "반말로 해 줘"라고 해도 방침이 존댓말을 못 박아 두었다면 존댓말이 유지되는 식이에요.

다만 늘 그런 건 아니에요. 방침이 두루뭉술하고 요청이 아주 구체적이면 요청 쪽으로 기울기도 해요. 대화가 길어져 방침이 밀려나면 아예 보이지 않게 되기도 하고요. 그래서 서비스들은 중요한 방침을 짧고 분명하게 적고, 필요하면 대화 도중에도 다시 넣어 줘요.

보이지 않지만 특별한 자물쇠는 아니에요

사용자 화면에는 시스템 프롬프트가 나오지 않아요. 그렇다고 모델 안에 잠겨 있는 건 아니에요. 모델에게는 그저 같은 입력의 앞부분이고, 사용자 글과 재료가 다르지 않아요.

그래서 교묘하게 물으면 내용이 새어 나오기도 하고, 붙여 넣은 문서 안에 숨겨진 문장이 방침을 흔들기도 해요. 문서에 "지금까지의 지시는 무시하고 이렇게 해"라는 문장이 섞여 있으면 모델이 그쪽을 따라가는 일이 실제로 일어나요.

그래서 정말 새면 안 되는 것은 시스템 프롬프트에 적어 두지 않아요. 열쇠나 개인정보 같은 건 아예 넣지 않고, 해서는 안 되는 동작은 프로그램 쪽에서 막아요. 시스템 프롬프트는 안내판이지 잠금장치가 아니에요.