벡터 데이터베이스Vector Database

같은 것이 아니라 가까운 것을 찾아요

우리가 흔히 쓰는 데이터베이스는 조건이 정확히 맞는 줄을 찾아와요. 이름이 "김"으로 시작하는 사람, 가격이 만 원 이하인 상품처럼요. 글자가 한 자라도 다르면 못 찾아요.

벡터 데이터베이스는 다르게 물어요. "이 숫자 묶음과 가장 가까운 것 열 개를 다오"라고 하죠. 그러니 "환불 규정"으로 저장된 문서를 "돈 돌려받으려면 어떻게 하나요"라는 질문으로 찾아낼 수 있어요. 두 글의 임베딩이 가까운 자리에 있으니까요.

찾은 결과에는 순위와 함께 얼마나 가까운지를 나타내는 점수가 붙어요. 이 점수를 보고 너무 먼 것은 버리도록 걸러 낼 수 있어요.

전부 재 보지 않고 구역부터 좁혀요

저장된 항목이 백만 개라면, 질문 하나마다 백만 번 거리를 재는 건 너무 느려요. 그래서 넣을 때 미리 비슷한 것끼리 묶어 지도를 만들어 둬요. 이웃끼리 길을 이어 놓은 그물망을 만들어 두고, 검색할 때는 아무 지점에서 출발해 더 가까운 이웃으로만 계속 옮겨 가며 목적지 근처까지 가는 방식이 널리 쓰여요.

이 방식은 전부 재 보는 것보다 수십 배에서 수백 배 빨라요. 대신 진짜 1등을 아주 가끔 놓쳐요. 그래서 이런 검색을 "가까운 것을 대충 정확하게 찾는다"는 뜻으로 부르고, 얼마나 꼼꼼히 돌아볼지를 손잡이로 조절할 수 있게 해 놨어요. 꼼꼼히 볼수록 정확해지고 느려져요.

넣기 전에 잘라서 숫자로 바꿔요

문서를 통째로 넣지는 않아요. 긴 문서 하나를 통째로 숫자 묶음 하나로 만들면 내용이 뭉개져서 무엇에 관한 글인지만 남고 세부 내용이 사라져요.

그래서 문서를 문단이나 절 단위로 잘게 나눈 다음, 조각마다 임베딩을 만들어 저장해요. 조각을 너무 잘게 나누면 앞뒤 맥락이 끊기고, 너무 크게 나누면 초점이 흐려져요. 이 크기를 정하는 일이 실제 성능을 크게 좌우해요.

조각마다 원문, 출처, 작성일 같은 정보를 함께 붙여 둬요. 나중에 답에 출처를 달아 주거나 오래된 문서를 제외하려면 이 정보가 필요해요.

조건 걸기와 함께 써요

뜻으로 찾는 것만으로는 부족할 때가 많아요. "작년 이후 문서 중에서", "이 부서 자료 중에서"처럼 조건을 걸어야 하는 경우요. 그래서 대부분의 벡터 데이터베이스는 함께 저장해 둔 정보로 미리 범위를 좁힌 뒤 그 안에서 가까운 것을 찾는 기능을 갖고 있어요.

낱말이 정확히 일치하는지 보는 옛 방식과 섞어 쓰기도 해요. 제품 번호나 사람 이름처럼 글자 그대로 맞아야 하는 것은 뜻으로 찾는 방식이 오히려 약하기 때문이에요. 두 방식의 결과를 합쳐 순위를 다시 매기는 구성이 실무에서 흔해요.

어디에 쓰이나요

가장 많이 쓰이는 자리는 AI에게 우리 자료를 참고시켜 답하게 만드는 구조예요. 질문이 들어오면 먼저 벡터 데이터베이스에서 관련 문단을 몇 개 꺼내고, 그 문단을 질문과 함께 모델에 넣어 답을 만들게 해요. 모델이 배우지 않은 사내 규정이나 최신 자료를 다룰 수 있게 되는 거예요.

비슷한 상품이나 글을 추천하는 자리, 거의 같은 내용의 중복 문서를 찾아내는 자리, 사진으로 사진을 찾는 자리에도 같은 구조가 쓰여요.