AI 에이전트AI Agent

답하는 AI와 해내는 AI

보통의 AI 대화는 한 번에 끝나요. 질문을 넣으면 답이 나오고, 그 답을 어떻게 쓸지는 사람이 정해요. 답이 어긋나도 손해는 거의 없어요. 다시 물어보면 되니까요.

에이전트는 여기서 한 걸음 더 나가요. "이 자료를 읽고 표로 묶어서 저장해 줘" 같은 부탁을 받으면 문장을 내놓는 데서 멈추지 않아요. 자료를 열고, 필요한 부분을 추리고, 새 문서를 만드는 데까지 가요. 사람이 손으로 밟던 중간 단계를 대신 밟는 거예요.

그래서 잘했는지 보는 기준도 달라져요. 답하는 AI는 "맞는 말인가"로 보지만, 에이전트는 "일이 끝났는가"로 봐요. 문장은 그럴듯한데 저장이 안 됐다면 실패예요.

계획하고, 해 보고, 다시 정하기

에이전트가 일을 해내는 방식은 한 번에 완성하는 것과 거리가 멀어요. 먼저 할 일을 몇 조각으로 나누고, 첫 조각을 실제로 해 봐요. 그 결과를 읽고 나서야 다음 조각을 정해요. 이 되풀이가 에이전트의 알맹이예요.

중간에 어긋나는 일도 이 되풀이 안에서 처리해요. 찾으려던 자료가 없으면 찾는 말을 바꿔 다시 찾고, 저장이 실패하면 이름을 바꿔 다시 시도해요. 사람이 하나하나 지시하지 않아도 다음 수를 스스로 고르는 게 차이예요.

약점도 같은 자리에서 나와요. 한 단계에서 잘못 짚으면 그 위에 다음 단계가 그대로 쌓여요. 처음에 엉뚱한 자료를 골라 놓고도 끝까지 그 자료로 정리해서 아주 그럴듯한 결과물을 내놓기도 해요. 단계가 길어질수록 어긋날 자리도 함께 늘어나요.

손이 있어야 움직여요

목표만 준다고 저절로 일이 되지는 않아요. 에이전트에게는 바깥을 만질 수단이 붙어 있어야 해요. 문서를 여는 통로, 검색을 부르는 통로, 메일을 보내는 통로 같은 것들이에요. 이 통로가 하나도 없으면 아무리 좋은 계획을 세워도 말로 끝나요.

붙어 있는 수단의 종류가 그 에이전트가 할 수 있는 일의 범위를 정해요. 달력만 붙어 있으면 일정은 잡아도 결제는 못 해요. 반대로 통로를 너무 많이 열어 두면 한 번 잘못됐을 때 번지는 범위도 같이 넓어져요. 필요한 만큼만 열어 두는 쪽이 안전해요.

멈춰야 하는 자리

에이전트가 하는 일에는 되돌릴 수 있는 것과 없는 것이 섞여 있어요. 초안을 쓰는 일은 마음에 안 들면 지우면 그만이에요. 메일을 보내는 일, 돈을 옮기는 일, 파일을 지우는 일은 달라요. 한 번 벌어지면 되돌리는 데 사람 손이 훨씬 많이 들어요.

그래서 잘 만든 에이전트는 이런 자리에서 스스로 멈추고 확인을 받아요. 한 번 물어보는 이 단계가 있는지 없는지가 안심하고 맡길 수 있는지를 가르는 지점이에요. 확인 없이 끝까지 달리는 설정은 되돌리기 쉬운 일에만 쓰는 게 좋아요.

무엇을 어떤 순서로 했는지 남기는 기록도 같이 봐야 해요. 기록이 남아 있어야 결과가 이상할 때 어디서부터 어긋났는지 되짚을 수 있어요.