사내 중계 서버로 AI 쓸 때 — 기능이 조용히 사라지는 이유

회사가 AI 요청을 중계 서버 한 곳으로 모아 보내는 구성은 흔합니다. 자격증명을 한 군데서 관리하고 비용도 추적할 수 있으니까요. 그런데 그 중계기가 요청의 일부를 빼먹으면 기능이 사라집니다 — 문제는 사라지는 방식이 두 가지라는 겁니다. 하나는 요란하게 에러를 내고, 다른 하나는 아무 말 없이 꺼집니다. 무서운 쪽은 당연히 후자죠. 공식 문서가 이 갈림길을 규칙으로 적어뒀는데, 읽어보니 내가 겪은 이상 증상들이 설명됐습니다.

📌 30초 요약

• 기능은 대개 둘이 짝입니다 — 신호 하나, 내용 하나.
• 반만 빠지면 에러가 납니다 — 그래서 금방 압니다.
• ⚠️ 둘 다 빠지면 조용히 꺼집니다 — 이게 안 보입니다.
• ⚠️ 오늘 본 것만 통과시키면 다음 판올림에서 깨집니다.
• ⚠️ 신호를 안 넘기면 생각하는 동안 끊깁니다.
• ⚠️ 들여다보려고 고치면 지우는 것과 똑같이 깨집니다.

반만 빠지면 에러, 다 빠지면 조용

새 기능은 보통 두 조각으로 옵니다 — "이 기능을 쓰겠다"는 짧은 신호 하나와, 실제 설정이 담긴 내용 하나. 이 둘은 늘 함께 다닙니다. 그래서 중계기가 어느 쪽을 빠뜨리느냐에 따라 결과가 갈립니다.

⚖️ 갈림길의 규칙

신호는 지우고 내용만 넘기면 받는 쪽이 모르는 항목을 만나 대놓고 거절합니다. 반대도 마찬가지고요. 그런데 둘 다 함께 사라지면 그 기능만 조용히 꺼집니다 — 요청은 성공하고, 답도 정상으로 보이고, 다만 그 기능이 없는 답일 뿐입니다. 문서가 이걸 명시적으로 적어뒀는데, 뒤집어 읽으면 이렇습니다 — 에러가 나는 편이 차라리 낫습니다. 조용히 꺼진 기능은 누구도 신고하지 않으니까요. "요즘 답이 좀 얕아진 것 같다"는 막연한 느낌으로만 남습니다.

무엇이 빠졌나	겉으로 보이는 증상
내용만 넘어감 (신호 없음)	거절 오류 — 모르는 항목이라며 이름까지 알려줌
신호만 사라짐 (내용 없는 기능)	조용히 안 됨 — 요청한 적 없는 것처럼 처리
둘 다 사라짐	조용히 꺼짐 — 정상 응답, 기능만 빠짐
세는 통로가 없음	되긴 하는데 본 요청을 대신 써서 셈

문서가 사례로 든 것 중엔 긴 맥락과 생각을 번갈아 하는 기능이 있습니다. 이건 신호만 있고 내용이 따로 없는 종류라, 중계기가 신호를 지우면 말 그대로 조용히 사라집니다. 쓰던 사람은 갑자기 답이 얕아졌다고 느끼지만 오류는 한 줄도 안 나오죠. 힘 조절이나 결과 형식을 정하는 설정은 반대로 요란하게 거절당하고요.

오늘 본 것만 통과시키면 안 됩니다

중계기를 만들 때 흔히 하는 선택이 "아는 것만 통과"입니다. 보안상 자연스러운 습관이죠. 그런데 문서가 그러지 말라고 못 박습니다 — 새 기능은 새 신호나 새 항목의 형태로 도착하기 때문입니다. 오늘 관찰한 목록에 고정해두면, 그 목록에 없는 다음 기능이 나오는 순간 깨집니다. 그것도 내가 뭘 바꾼 게 아니라 도구가 판올림된 날에요.

그래서 권고는 닫힌 목록이 아니라 열린 목록으로 다루라는 것입니다. 정해진 접두사로 시작하는 항목은 보이는 대로 그대로 넘기고, 개별 값을 골라내지 말라고요. 새 도구 판이 나올 때마다 목록을 늘리는 게 아니라 시험을 돌려보라는 조언도 함께 붙어 있습니다. 회사망에서 AI 도구가 갑자기 안 되기 시작하는 다른 원인들도 정리해둔 적이 있는데, 이 건은 그중에서도 시간이 지나야 터진다는 점이 고약합니다.

생각하는 동안 끊기는 이유

이 대목이 개인적으로 가장 반가웠습니다. "한참 생각하다가 끊긴다"는 증상의 정체가 여기 있었거든요. 답은 조금씩 흘러오는 방식으로 전달되는데, 도구 쪽에 일정 시간 아무 바이트도 안 오면 끊어버리는 장치가 붙어 있습니다. 기본이 300초고요.

평소엔 문제가 없습니다. 답이 계속 흘러오니까요. 그런데 길게 생각하는 구간에서는 내용이 안 나옵니다. 이때 "나 살아있다"는 짧은 신호만이 유일한 트래픽인데, 중계기가 그걸 안 넘기거나 모아뒀다가 보내면 도구 쪽에서는 침묵으로 보입니다. 그리고 끊습니다. 중계기 잘못인데 증상은 "AI가 답하다 멈췄다"로 나타나죠. 끊긴 뒤에 어디서부터 이어받을지는 따로 정리해둔 적이 있습니다.

문서의 해법은 명쾌합니다 — 상류가 신호를 안 보내는 종류라면 중계기가 직접 만들어서라도 보내라. 그리고 하나 더, 응답을 다 모은 뒤에 한꺼번에 넘기면 안 됩니다. 도구는 조각이 도착하는 대로 처리하도록 만들어져 있어서, 모아서 보내는 순간 화면이 멈춘 것처럼 보입니다.

들여다보되 고치지는 마세요

보안 부서가 오가는 내용을 검사하고 싶어 하는 건 당연합니다. 문서도 그걸 막지 않습니다. 다만 "고치지 말고 보기만 하라"고 합니다. 내용을 다시 쓰거나 일부를 가리면 앞서 말한 짝이 깨져서, 지운 것과 똑같은 고장이 납니다.

비슷한 함정이 오류 문구에도 있습니다. 도구는 일부 거절을 만나면 그 기능만 끄고 알아서 다시 시도하는데, 그 판단을 상류가 보낸 오류 문구를 읽어서 합니다. 중계기가 오류를 자기 형식으로 다시 포장하면 — 상태 코드를 그대로 유지해도 — 그 복구 경로가 끊깁니다. 그래서 오류 본문은 손대지 말고 그대로 흘려보내라는 요구가 붙어 있습니다.

자주 묻는 질문 (FAQ)

Q. 저는 개발자가 아닌데 알아야 하나요?

중계기를 직접 만들 일은 없어도, 증상을 아는 건 도움이 됩니다. 회사에서 AI 도구를 쓰다가 "집에서는 되던 게 회사에서만 안 된다"거나 "답이 예전보다 얕아졌다"고 느낀다면, 내 설정 문제가 아니라 중간 경로일 수 있습니다. 특히 아무 오류도 없이 그냥 안 되는 경우가 이 글이 말하는 상황이에요. 담당자에게 "신호를 통째로 넘겨주는지"만 물어봐도 이야기가 빨리 풀립니다.

Q. 어떤 건 중계기를 안 거친다던데요?

맞습니다. 이게 헷갈림의 원인이 됩니다. 일부 확인용 통신은 중계기를 거치지 않고 바깥으로 직접 나갑니다. 그래서 바깥으로 나가는 길이 막힌 망에서는 그 기능만 연결 오류를 내면서, 정작 본 기능은 멀쩡히 도는 기묘한 상태가 됩니다. 중계기 기록에도 안 남으니 담당자가 봐도 안 보이고요. 해당하는 항목이 문서에 따로 정리돼 있고 되살리는 설정도 안내됩니다.

Q. 회사가 쓰는 걸 감시할 수 있나요?

비용 추적용 표시는 붙습니다. 요청마다 어느 대화에서 나왔는지, 그리고 안에서 갈라져 나온 작업이라면 어느 갈래인지를 알려주는 값이 함께 갑니다. 그래서 병렬로 도는 작업별 비용을 나눌 수 있죠. 다만 문서가 분명히 선을 긋습니다 — 이 값은 사람이나 기기를 가리키는 식별자가 아니며, 사용자 식별자로 다루지 말라고요. 갈라진 작업은 매번 새로 만들어지는 값이기도 합니다. 값이 어디로 새는지 통으로 보는 법은 지출 관리 허브에 모아뒀습니다.

🧾 정직하게 밝혀둘 것

• 중계 서버를 직접 세워 재현하지 않았습니다. 공식 규격 문서에 적힌 요구사항과 고장 증상을 정리한 것입니다.
• ★이 문서는 중계기를 만드는 쪽을 위한 것입니다. 이 글은 그중 쓰는 사람이 겪는 증상에 초점을 맞춰 옮겼고, 설정 방법은 다루지 않았습니다.
• ★설정 이름·항목 이름·경로는 전부 풀어서 적었습니다. 실제로 손댈 때는 원문의 표를 그대로 보셔야 합니다.
• ★기능 목록은 계속 늘어납니다. 문서 자체가 "관찰한 목록에 고정하지 말라"고 하는 만큼, 여기 적은 사례도 시점에 따라 달라집니다.
• 일부 동작은 특정 버전을 경계로 달라집니다. 시간 제한이나 표시 방식이 그렇습니다. 버전 표기는 원문을 확인하세요.

✨ 정리하면

고장은 두 얼굴로 옵니다. 반만 빠지면 에러로 티가 나고, 둘 다 빠지면 아무 말 없이 기능만 사라집니다. 그래서 "회사에서만 답이 얕다"는 느낌은 착각이 아닐 수 있습니다. 보기만 하고 고치지 말 것, 살아있다는 신호는 반드시 넘길 것 — 이 둘만 지켜도 대부분이 해결됩니다. 회사망에서 막히는 다른 원인은 회사망에서 막힐 때, 끊긴 답을 되살리는 법은 끊긴 답을 이어받기, 합치기 전 마지막 점검은 무료 세 번뿐인 코드 리뷰, 값을 통으로 보는 흐름은 AI 지출 관리 허브에 모아뒀습니다.

※ 출처: Claude Code 중계 서버 규격 공식 문서(2026년 8월 27일 열람). 전달해야 하는 항목과 기능 목록은 도구 판올림에 따라 계속 바뀌므로, 실제 구성 전에는 원문과 최신 버전을 함께 확인하시길 권합니다.