대화 기억Conversation Memory

차례마다 처음부터 다시 읽어요

내가 한 줄을 보내면 화면 뒤에서는 그 한 줄만 전달되지 않아요. 지금까지 오간 질문과 답을 순서대로 이어 붙인 긴 글 한 덩이가 통째로 다시 들어가요. 스무 번째 질문을 할 때는 앞의 열아홉 번이 그 글 안에 다 들어 있어요.

그래서 AI는 매번 새로 읽는 셈이에요. 앞에서 무슨 말을 했는지 아는 게 아니라, 눈앞에 놓인 글에 그 말이 적혀 있어서 아는 거예요. 그 글에서 한 줄을 빼면 그 내용은 없던 일이 돼요.

대화가 길어질수록 답이 느려지고 비용이 오르는 이유도 여기 있어요. 매 차례 읽어야 할 종이가 한 장씩 늘어나니까요.

종이가 쌓이면 앞장부터 빠져요

한 번에 펼칠 수 있는 종이 수는 정해져 있어요. 이 한도를 넘으면 새 종이를 올리기 위해 가장 오래된 장부터 책상에서 내려가요.

한참 대화하다가 AI가 처음에 정한 규칙을 어기거나, 초반에 알려 준 이름을 다시 물어보는 일이 생기는 건 이 때문이에요. 잊은 게 아니라 그 종이가 이미 책상에서 내려간 거예요.

중요한 조건은 대화 초반에 한 번 말하고 끝내는 대신, 필요한 자리에서 다시 적어 주는 편이 안전해요. 방금 올린 종이는 아직 책상 위에 있으니까요.

긴 대화를 줄여서 들고 다녀요

종이를 그대로 다 들고 다닐 수 없으니, 서비스는 오래된 부분을 짧게 줄여서 대신 넣어요. 열 번의 대화를 몇 줄로 압축한 메모가 원래 대화 자리를 대신하는 식이에요.

줄이면 자리는 아끼지만 세부는 사라져요. 압축된 메모에는 "여행 계획을 상의했다"까지만 남고, 그때 정한 날짜나 예산은 빠질 수 있어요. 앞에서 분명히 말했는데 AI가 엉뚱한 답을 하는 상황은 대체로 여기서 생겨요.

그래서 대화가 길어졌다면 새 대화창을 열고 필요한 내용만 정리해 다시 붙여 넣는 편이 더 잘 통해요.

창구 밖 서랍에 따로 적어 두기

요즘 서비스에는 대화창 밖에 따로 적어 두는 기능이 있어요. "나는 채식을 해요" 같은 문장을 별도 목록에 저장해 두었다가, 새 대화를 시작할 때 그 목록을 조용히 앞에 붙여 주는 방식이에요.

이 목록은 대화가 끝나도 사라지지 않아서 오래 남아요. 대신 내가 지운 적 없는 오래된 문장이 계속 따라붙어, 이제는 맞지 않는 취향으로 답이 기울기도 해요. 설정 화면에서 무엇이 저장돼 있는지 열어 보고 지울 수 있게 해 둔 서비스가 많아요.

새 대화창은 백지예요

새 창을 열면 창구에서 아무 종이도 넘어오지 않아요. 앞의 창에서 아무리 오래 이야기했어도, 저장 기능을 켜 두지 않았다면 그 내용은 새 창으로 따라오지 않아요.

같은 서비스라도 창을 나누는 기준은 사람마다 다르게 쓰여요. 주제가 바뀌면 새 창을 여는 편이 답이 깔끔해지고, 이어서 다듬을 일이라면 같은 창에 남는 편이 나아요. 어떤 창에서 무엇을 말했는지는 사용자가 관리해야 하는 몫으로 남아요.