AI 공급자 두 곳이 각각 “요청당 CO₂e”를 제시해도, 더 작은 숫자를 곧바로 선택 근거로 쓰기는 어렵습니다. 한쪽은 데이터센터 전력만 계산하고, 다른 쪽은 냉각과 하드웨어 제조 배출까지 넣었을 수 있기 때문입니다. 실행 리전과 전력망 상태가 다르면 같은 모델도 전혀 다른 결과를 낼 수 있습니다.
운영 단계의 CTO와 개발 리더가 답해야 할 질문은 모델이 더 친환경적인가가 아닙니다. 우리 서비스의 요청이 실제로 실행될 리전, 시간, 산정 범위에서 어느 공급자의 수치가 비교 가능한가입니다.
저탄소 AI 조달은 탄소 수치 자체를 고르는 일이 아니라, 그 수치를 만든 조건을 맞추는 일에서 시작합니다.
같은 모델이라도 리전에 따라 요청당 배출량이 달라진다
한 AI 제공사가 공개한 계산 사례에서는 Kimi K3 모델의 전형적인 요청을 동일 하드웨어에서 처리했을 때, 스웨덴에서는 약 0.4g CO₂, 텍사스에서는 약 3.2g CO₂로 추정했습니다. 약 8.5배 차이입니다.
이 차이는 모델 성능이나 하드웨어 세대의 차이를 뜻하지 않습니다. 해당 계산은 각 지역 전력망의 평균 배출집약도를 적용했고, 전력이 생산되는 방식이 다르다는 점이 결과에 반영됐습니다.
따라서 공급자 비교표에서 “요청당 탄소배출량”은 리전 정보 없이 독립된 숫자가 될 수 없습니다. 다음 두 공급자가 같은 모델을 제공하더라도, 실제 추론이 어느 데이터센터에서 이뤄지는지 확인해야 합니다.
- 공급자가 요청을 처리하는 기본 리전은 어디인가
- 고객이 리전을 지정하거나 변경할 수 있는가
- 장애 전환 때 요청이 어느 리전으로 이동하는가
- 탄소 수치가 특정 리전 기준인지, 여러 리전을 평균 낸 값인지
특히 멀티리전 구조에서는 정상 운영 리전만 확인해서는 부족합니다. 평상시 요청과 장애 상황의 요청이 서로 다른 전력망을 사용한다면, 두 상태의 배출량을 같은 숫자 하나로 설명하기 어렵습니다.
평균 전력망 수치와 한계 배출률은 쓰임이 다르다
전력망의 탄소 강도를 계산하는 방식에는 적어도 두 가지가 있습니다.
평균 배출집약도는 특정 지역 전력망이 일정 기간 공급한 전력의 평균적인 배출량을 뜻합니다. 리전별 탄소 수치를 비교하거나 정기 보고용 지표를 만들 때 이해하기 쉽습니다. 앞서 언급한 Kimi K3 사례도 지역별 평균 전력망 배출집약도를 적용한 방식입니다.
한계 배출률은 AI 작업을 추가로 실행할 때 전력망에서 늘어난 수요가 어떤 발전원에 의해 충당되는지를 추정하는 방식입니다. 같은 리전이라도 시간대에 따라 결과가 달라질 수 있습니다.
클라우드 인스턴스에서 AI의 탄소집약도를 분석한 연구는 데이터센터 지역 선택이 운영 배출량 감축에 큰 영향을 줄 수 있다고 보았고, 시간대 역시 차이를 만들 수 있다고 설명했습니다. 이 연구는 위치별·시간별 한계 배출 데이터를 활용해 운영 배출량을 측정하는 틀을 제안했습니다.
두 기준 중 하나가 항상 우월하다고 볼 수는 없습니다. 대신 사용 목적을 나눠야 합니다.
| 비교 목적 | 우선 확인할 기준 |
|---|---|
| 공급자와 리전의 기본 비교 | 평균 전력망 배출집약도 |
| 월간 또는 분기별 운영 배출량 집계 | 평균값의 적용 기간과 갱신 주기 |
| 유연한 배치 작업의 실행 시각 조정 | 시간별 한계 배출률 |
| 탄소 강도가 높을 때 작업을 미루는 정책 | 한계 배출률의 제공 여부와 갱신 방식 |
공급자가 평균값만 제공한다면, 그 값은 리전 선택의 기준으로는 쓸 수 있습니다. 다만 시간대 변경으로 줄일 수 있는 배출량까지 그 수치 하나로 판단하기는 어렵습니다.
요청당 수치보다 요청량과 요청 유형을 함께 봐야 한다
요청당 배출량이 제공돼도 조직의 총배출량은 요청 수와 사용 패턴에 따라 달라집니다. 요청별 수치를 합산할 수 있어야 월간 사용량, 기능별 사용량, 모델별 사용량을 구분해 볼 수 있습니다.
공개된 방법론은 모델, 실행 시간, 프롬프트 캐시 사용 여부에 따라 요청별 결과가 달라질 수 있다고 설명합니다. 이 조건은 운영팀이 평균 요청 하나를 기준으로 예산을 세울 때 특히 중요합니다.
예를 들어 서비스 안에 짧은 질의응답, 긴 문서 처리, 반복 호출이 함께 있다면 하나의 평균 요청 수치가 실제 사용량을 충분히 설명하지 못할 수 있습니다. 이때 먼저 나눠 볼 항목은 다음과 같습니다.
- 모델별 요청 수와 월간 집계 배출량
- 실행 리전별 요청 비중
- 캐시 사용 여부에 따른 요청 구분
- 실시간 요청과 완료 시각을 조정할 수 있는 배치 요청의 구분
- 특정 기능이나 업무 흐름이 전체 요청량에서 차지하는 비중
이 분류의 목적은 모든 호출을 즉시 탄소 기준으로 제어하는 데 있지 않습니다. 어떤 요청군이 총량을 크게 만드는지 먼저 확인해야, 리전 변경이나 실행 시간 조정이 의미 있는 후보인지 판단할 수 있습니다.
산정 범위를 맞추지 않으면 낮은 숫자는 비교 우위가 아니다
요청당 CO₂e는 무엇을 포함했는지에 따라 달라집니다. 공급자 평가표에는 숫자 칸 하나보다 산정 범위 칸이 먼저 있어야 합니다.
| 확인 항목 | 공급자에게 확인할 질문 |
|---|---|
| 추론 전력 | 요청 처리에 사용한 서버와 가속기 전력을 어떻게 계산하는가 |
| 데이터센터 오버헤드 | 냉각과 전력 손실을 포함하는가 |
| 유휴 전력 | 요청이 없는 시간의 장비 전력을 요청별 수치에 어떻게 반영하는가 |
| 하드웨어 제조 배출 | 장비 제조 배출을 포함하는가. 포함한다면 어떤 가정으로 요청에 배분하는가 |
| 모델 학습 배출 | 요청당 수치에 포함하는가, 아니면 별도 지표로 제공하는가 |
| 물 사용과 반도체 제조 영향 | 탄소 수치 밖의 환경 영향도 별도로 다루는가 |
공개된 한 방법론은 하드웨어 제조 배출과 데이터센터 냉각 조건을 포함한다고 밝혔지만, 모델 학습은 범위에서 제외했습니다. 또한 반도체 제조 과정의 물과 에너지 영향은 아직 계산 범위를 완전히 포괄하지 못한다고 설명합니다.
이런 한계가 있다고 해서 수치를 사용할 수 없는 것은 아닙니다. 다만 해당 수치는 “추론 운영 단계의 요청당 추정치”로 해석해야 합니다. 모델의 전체 생애주기 배출량이나 조직 전체의 환경 영향을 대표하는 숫자로 확대하면 안 됩니다.
공급자에게 요청할 것은 대시보드 숫자보다 계산 기록이다
공급자가 요청별 탄소 수치를 제공한다면, 구매 전 검증은 화면에 표시되는 소수점 자릿수보다 계산 기록을 확인하는 데서 이뤄져야 합니다.
다음 질문에 답할 수 있어야 공급자 간 비교가 가능합니다.
- 고객별 수치는 개별 요청의 계산값을 합산한 것인가, 전체 인프라 평균을 배분한 값인가
- 요청 기록에 모델명, 실행 리전, 요청 시각이 함께 남는가
- 전력망 배출 데이터는 평균값인가, 시간별 한계 배출률인가
- 전력망 데이터와 산정 방법은 얼마나 자주 갱신되는가
- 하드웨어 제조 배출을 포함했다면 장비 수명, 가동률, 재사용 장비의 처리 기준은 무엇인가
- 계산 방법이 바뀌면 이전 기간의 수치도 다시 계산하는가
- 요청별 또는 기간별 집계 데이터를 내보낼 수 있는가
여기서 중요한 것은 “정확한 단일 숫자”를 요구하는 일이 아닙니다. 탄소 수치는 전력망 데이터와 장비 사용량, 배분 가정으로 계산한 추정치입니다. 공급자가 어떤 데이터를 썼고 어디까지 계산했는지 설명할 수 있다면, 조직은 그 수치를 비용·성능·지연시간 조건과 함께 검토할 수 있습니다.
리전 이동은 실시간 요청과 배치 요청을 나눠 검토한다
탄소 강도가 낮은 리전이 있다고 해서 모든 AI 요청을 그곳으로 보내는 결정이 적절한 것은 아닙니다. 실시간 서비스는 응답 지연과 안정성 요구가 크고, 장애 복구 구조도 유지해야 합니다.
반면 완료 시각에 여유가 있는 작업은 다른 선택지를 검토할 수 있습니다. 문서 분류나 대량 요약처럼 비동기로 처리할 수 있는 요청은 리전과 실행 시각의 영향을 따로 측정해 볼 여지가 있습니다. 연구에서도 지역 선택과 시간대 조정, 탄소 강도가 높은 시점의 작업 중지가 운영 배출량을 줄이기 위한 접근으로 다뤄졌습니다.
첫 단계에서는 사용량이 큰 배치 작업 하나를 정하는 편이 낫습니다. 그 작업의 모델, 리전, 실행 시각, 요청 수, 산정 방식이 기록되는지 확인한 뒤 다른 후보 리전과 비교해 보십시오. 그 결과를 보면 탄소 데이터가 운영 정책에 쓸 수 있는지, 아니면 공급자 홍보 수치에 머무는지 구분할 수 있습니다.
다음 공급자 평가 회의에서는 가격과 성능 표 옆에 다섯 칸을 추가하면 됩니다. 실행 리전, 전력망 산정 방식, 시간 기준, 포함 범위, 요청별 데이터 제공 방식입니다. 다섯 칸이 채워진 뒤에야 요청당 CO₂e가 선택 가능한 운영 지표가 됩니다.
