에너지·환경 비용Environmental Cost

몰아 쓰는 몫과 조금씩 쌓이는 몫

모델을 학습시키는 일은 계산을 어마어마하게 많이 반복하는 일이에요. 전용 칩 수천 장을 몇 주씩 쉬지 않고 돌리니 그동안 전기를 크게 몰아 써요. 이 몫은 한 번 끝나면 다시 들지 않아요.

학습이 끝난 모델을 쓰는 일은 한 건마다 보면 훨씬 작아요. 문제는 횟수예요. 하루에 수억 번씩 답을 만들어 내면 작은 몫이 계속 쌓여요. 서비스가 오래 굴러갈수록 이 합계가 커지고, 어느 시점부터는 학습에 든 몫을 넘어서기도 해요.

그래서 어느 쪽이 더 크냐는 질문에는 하나로 답하기 어려워요. 만들어 놓고 몇 사람만 쓰는 모델이라면 학습 몫이 거의 전부고, 온 세상이 하루에 여러 번 쓰는 모델이라면 쓰는 몫이 압도적이에요.

계산만 전기를 쓰는 게 아니에요

칩이 계산을 하면 그만큼 열이 나요. 그 열을 빼내지 않으면 기계가 버티지 못하니 식히는 장치가 함께 돌아가요. 데이터센터가 쓰는 전기 가운데 적지 않은 몫이 이 식히는 일에 들어가요.

식히는 방식에 따라 물이 들어가기도 해요. 물을 순환시켜 열을 옮기는 설비를 쓰면 일부가 증발해 사라져요. 물이 넉넉한 지역이면 큰 이야기가 아니지만, 부족한 지역이라면 전기보다 물이 먼저 문제가 돼요.

여기에 기계를 만들고 버리는 몫도 붙어요. 전용 칩을 만드는 공정 자체가 에너지를 많이 쓰고, 몇 해 쓰다 성능이 뒤처지면 교체돼요. 쓰는 동안의 전기만 세면 이 앞뒤 몫이 통째로 빠져요.

숫자를 잘라 말하기 어려운 이유

"한 번 물어볼 때 얼마"라는 식의 숫자를 여기저기서 보게 되지만, 자료마다 크게 벌어져요. 첫째 이유는 경계예요. 계산에 든 전기만 셀지, 식히는 몫까지 셀지, 기계를 만든 몫까지 셀지에 따라 답이 몇 배씩 달라져요.

둘째는 조건이에요. 질문이 짧은지 긴지, 답을 얼마나 길게 받는지, 어떤 크기의 모델을 쓰는지, 여러 요청을 묶어 처리하는지에 따라 한 건에 드는 계산량이 몇십 배까지 벌어져요. 셋째는 전기를 어디서 끌어오는지예요. 같은 전기량이라도 발전 방식에 따라 나오는 온실가스가 크게 달라요.

넷째는 공개 여부예요. 실제 수치를 쥔 곳은 설비를 굴리는 회사인데 전부를 밝히지는 않아요. 그래서 바깥에서는 추정으로 계산하고, 가정이 다르면 결과도 달라져요. 어떤 숫자를 볼 때는 무엇까지 셌는지를 함께 봐야 해요. 최종 확인: 2026-09

줄이는 쪽으로 손댈 수 있는 것들

가장 큰 몫은 "굳이 큰 모델을 쓸 필요가 있었나"에서 나와요. 간단한 분류나 정해진 형식 정리는 작은 모델로도 충분한데 습관처럼 큰 모델을 부르면 계산이 몇십 배로 뜁니다. 용도에 맞춰 크기를 고르는 것만으로 꽤 줄어요.

만드는 쪽에서도 방법이 있어요. 큰 모델의 판단을 작은 모델에 옮겨 담거나, 숫자를 성기게 다루도록 바꿔 계산량을 줄이거나, 자주 나오는 답을 저장해 두고 다시 계산하지 않게 하는 식이에요. 설비 쪽에서는 전기가 깨끗한 시간대와 지역으로 작업을 옮기는 방법도 쓰여요.