AI 청구서 한 장으로 묶는 값, 5%입니다

AI를 여럿 붙여 쓰다 보면 청구서가 흩어집니다. 이쪽은 달러로 카드 결제, 저쪽은 선불 크레딧, 또 어디는 무료 한도 소진 후 과금. 합쳐서 이번 달 얼마 썼는지를 세려면 대시보드를 서너 개 열어야 하죠. 그걸 청구서 한 장으로 묶어주는 서비스가 있는데, 값이 명확합니다 — 충전 금액의 5%입니다. 100달러를 넣으면 105달러가 청구됩니다. 그래서 문서를 열어봤습니다. 그 5%로 정확히 무엇을 사는 건지가 궁금해서요.

📌 30초 요약

• 수수료는 충전액의 5%입니다. 다만 추론 요금 자체에는 마크업이 없습니다 — 토큰 단가는 원래대로.
• 캐시에 걸리면 그 요청은 비용이 0입니다. 직접 지정한 비용값이 있어도 0으로 처리됩니다.
• 그런데 캐시 조건이 빡빡합니다. 요청 본문이 글자 하나라도 다르면 별개로 봅니다.
• 지출 상한을 금액으로 걸 수 있습니다. 호출 횟수가 아니라 달러 기준입니다.
• 비용 표시는 추정치라고 문서가 직접 밝힙니다. 정확한 금액은 공급자 대시보드에서 보라고요.
• 잔액이 마이너스로 갈 수 있습니다 — 그러면 등록된 결제수단으로 다음 달에 청구됩니다.

5%는 어디에 붙나

먼저 오해를 걷어내야 합니다. 토큰 단가에 5%를 얹는 게 아닙니다. 문서 표현으로 공급자의 추론 요금은 마크업 없이 그대로 통과되고, 수수료는 크레딧을 살 때 한 번 붙습니다.

💳 붙는 자리가 다릅니다

구조를 풀면 이렇습니다 — 크레딧 100달러어치를 사면 105달러가 결제되고, 그 100달러는 원래 단가 그대로 소진됩니다. 즉 쓰면 쓸수록 수수료 비율이 커지는 게 아니라 고정입니다. 뒤집어 보면 한 번에 크게 충전하든 나눠 넣든 비율은 같습니다. 그리고 주의 문구가 하나 붙어 있는데 — 드물게 잔액이 마이너스로 내려갈 수 있고, 그러면 등록된 결제수단으로 다음 달 초에 부족분이 청구됩니다. 선불이라고 해서 초과가 원천 차단되는 건 아니라는 뜻입니다.

그 5%로 따라오는 것들

청구서 통합만 놓고 5%를 내는 건 애매합니다. 실제로는 기능 몇 개가 같이 붙어 옵니다.

기능	쓸모
캐싱	같은 요청이 또 오면 공급자까지 안 가고 저장된 답을 돌려줍니다. 그 요청의 비용은 0.
지출 상한	기간별 예산을 달러로 걸고 넘으면 막습니다. 호출 횟수 제한과는 다릅니다.
폴백	앞 모델이 실패하면 다음 순번으로 자동으로 넘깁니다. 응답이 늦어도 넘기게 설정 가능.
로그·통계	요청·비용·토큰·캐시 적중률을 한 화면에서 봅니다.

폴백에 눈에 띄는 디테일이 있습니다. 응답 헤더에 몇 번째 모델이 답했는지 번호가 찍힙니다 — 0이면 원래 모델, 1이면 두 번째, 이런 식으로요. 조용히 다른 모델이 답하고 지나가는 걸 막아주는 장치죠. 거절당했을 때 다른 모델로 넘기는 구조는 거절 응답 요금 정리에서도 다룬 적이 있는데, 그쪽은 모델 회사가 제공하는 폴백이고 이건 중간에 낀 창구가 하는 폴백이라 여러 회사를 섞을 수 있다는 게 차이입니다.

캐시가 걸리는 조건이 빡빡합니다

캐싱이 제일 큰 절감 요소인데, 기대만큼 자주 걸리지 않을 가능성이 큽니다. 문서가 캐시 열쇠를 어떻게 만드는지 적어놨거든요.

# 캐시 열쇠 = 아래를 전부 이어붙여 해시
공급자       (openai, anthropic ...)
엔드포인트   (API 경로)
모델         (gpt-4o ...)
인증 헤더    (키가 다르면 캐시도 갈림)
요청 본문 전체 ← 여기가 관건

# 그래서 이런 것들이 전부 별개 항목이 됩니다
"오늘 날씨 알려줘"  vs  "오늘 날씨 알려줘 "  ← 공백 하나
temperature: 0.7   vs  temperature: 0.8
도구 목록이 한 줄 늘어난 경우도 마찬가지

문서 표현으로 "요청 전체의 완전 일치"가 기준이고, 메시지든 도구든 파라미터든 하나만 달라도 별도 캐시 항목이 됩니다. 게다가 지금은 텍스트와 이미지 응답만 캐시됩니다.

그래서 어디에 맞나

문서가 직접 예를 듭니다 — "무엇을 도와드릴까요?"라고 묻고 정해진 보기 중에서 고르게 하는 상담 봇. 즉 들어오는 질문의 가짓수가 애초에 적은 경우입니다.

반대로 사용자가 자유롭게 타이핑하는 채팅이라면 같은 문장이 두 번 들어올 확률이 낮습니다. 캐싱으로 요금이 확 줄 거라 기대하고 붙이면 실망할 수 있습니다.

모델 회사가 자체로 제공하는 캐싱과도 성격이 다릅니다. 프롬프트 캐싱이 깨지는 순간들에서 정리한 그건 대화 앞부분을 재활용해 입력 값을 깎는 방식이고, 여기 캐싱은 완전히 같은 요청이면 아예 안 보내는 방식입니다. 둘은 겹치지 않으니 같이 쓸 수 있습니다.

비용 숫자는 추정치라고 적혀 있습니다

이 문서에서 가장 정직한 대목입니다. 대시보드에 뜨는 금액에 대해 "토큰 수와 모델 단가에 기반한 최선의 추정"이라고 밝히고, 정확한 청구액은 공급자 대시보드를 확인하라고 안내합니다.

왜 추정일 수밖에 없는지는 짐작이 갑니다 — 공급자마다 캐시 읽기·쓰기 단가가 다르고 할인 조건도 제각각입니다. 어떤 곳은 캐시에 저장할 때 따로 받고 어떤 곳은 안 받죠. 그 서로 다른 셈법을 하나의 숫자로 합치려면 어딘가에서 반올림이 생깁니다.

실무적으로는 "추세를 보는 용도"로 쓰는 게 맞습니다. 어제보다 얼마나 늘었나, 어느 모델이 제일 먹나 — 이런 건 추정치로도 충분히 보입니다. 다만 정산이나 청구에 그 숫자를 그대로 쓰면 안 됩니다.

5%를 낼 만한 경우와 아닌 경우

정리하면 판단 기준이 꽤 명확합니다.

이럴 때 값을 합니다	이럴 땐 굳이
여러 회사 모델을 섞어 쓴다 — 청구서가 실제로 흩어져 있음	한 회사만 쓴다 — 그 회사 대시보드로 충분
질문 가짓수가 적다 — 캐시가 실제로 걸림	자유 채팅이라 같은 요청이 거의 안 옴
금액으로 상한을 걸어야 한다 — 자동화가 폭주할 여지가 있음	이미 쓰는 회사가 상한 기능을 제공한다
공급자 장애 때 자동으로 다른 데로 넘겨야 한다	개인 프로젝트라 잠깐 멈춰도 괜찮다

개인적으로는 세 번째 줄이 가장 실질적이라고 봅니다. 에이전트를 돌리다 보면 루프 한 번에 자릿수가 달라지는 일이 실제로 일어나니까요. 5%는 그때 보험료로 읽을 수 있습니다.

자주 묻는 질문

Q. 안 쓰던 사람도 이걸로 시작하면 되나요?

순서가 반대입니다. 이건 이미 여러 곳에 돈을 쓰고 있는 사람의 정리 도구지 시작 도구가 아닙니다. 처음이라면 공짜로 되는 데까지 먼저 해보시는 게 낫습니다 — 카드 없이 되는 곳 목록은 OpenRouter 무료 체험 같은 글에 정리해뒀습니다.

Q. 내 API 키를 넘겨야 하나요?

두 방식이 다 있습니다. 크레딧을 충전해 쓰면 공급자 키 없이 돌아가고(인증·과금을 계정으로 처리), 기존 키를 그대로 쓰는 방식도 지원합니다. 후자를 고르면 5% 없이 관측·상한 기능만 쓰는 셈인데, 대신 청구서는 여전히 흩어집니다. 어느 쪽이든 요청이 중간 창구를 거친다는 점은 감안하셔야 합니다.

Q. 저가 모델로 갈아타는 것과 뭐가 낫나요?

절감 폭은 모델을 바꾸는 쪽이 훨씬 큽니다. 이건 몇 퍼센트를 다듬는 도구고, 모델 교체는 자릿수를 바꿉니다. 순서를 정하자면 ①싼 모델로 되는 일은 싼 모델로 ②그 다음 캐싱·상한입니다. 모델 교체 쪽은 저가 오픈모델로 갈아타는 법에 있습니다.

🧭 정직하게 덧붙이면

①공식 문서를 읽은 것이고 제가 계정을 만들어 충전해보지 않았습니다. 5%가 실제 청구서에 어떻게 찍히는지 확인 못 했습니다. ②수수료·정책은 바뀔 수 있습니다 — 문서에 갱신일이 표기돼 있고 최근에도 손댄 흔적이 있습니다. ③"비용은 추정치"는 문서가 스스로 밝힌 것이라 제가 오차를 측정한 게 아닙니다. ④어떤 공급자를 지원하는지는 계속 바뀌므로 쓰실 모델이 목록에 있는지는 직접 확인하셔야 합니다. ⑤저는 이 회사와 아무 관계가 없고, 같은 역할을 하는 다른 서비스들과 비교하지 않았습니다.

✨ 5%는 요금 할인이 아니라 통제권을 사는 값입니다

AI에 나가는 돈을 항목별로 뜯어본 글들은 AI 지출 정리 허브에 모아두고 있습니다. 이번 건은 "돈을 아끼는 게 아니라 새는 걸 막는 쪽" 항목에 한 줄을 보탠 셈입니다.

출처: Cloudflare 공식 개발자 문서 AI Gateway 섹션 전문(2026-08-19 직접 열람, 715,502바이트). 인용 항목 = 통합 청구 수수료율과 마크업 정책, 잔액 부족 시 처리, 캐시 키 구성과 캐시 히트 시 비용 0 처리, 캐싱 지원 범위, 지출 상한 동작, 폴백 단계 헤더, 비용 추정 한계. 수수료와 지원 공급자 목록은 변경될 수 있으며 필자가 직접 결제해 검증한 값이 아닙니다.