목록전체 글 (602)

잘 돌아가던 서비스가 어느 날 갑자기 "그런 모델 없다"며 요청을 거부하기 시작합니다. 코드를 건드린 적도 없는데요. 원인은 하나입니다 — 내가 쓰던 모델이 은퇴했습니다. 새 모델을 낼 자리를 만들려고 옛 모델을 정리하는데, 이게 예고 없이 벌어지는 일은 아닙니다. 공식 문서에 생애주기 네 단계와 모델별 종료 날짜가 표로 정리돼 있고, 심지어 지금 쓰는 현역 모델에도 "빨라야 언제"라는 잠정 시점이 붙어 있습니다. 문제는 그걸 아무도 안 본다는 것이죠.📌 30초 요약네 단계입니다 — 현역 · 구형 · 지원 중단 · 은퇴. 은퇴하면 요청이 실패합니다.최소 60일 전 통지가 약속인데, 실제 이력은 전부 딱 두 달이었습니다.현역 모델에도 잠정 종료 시점이 적혀 있습니다. 미리 볼 수 있다는 뜻입니다.클라우드..

AI를 코드로 다루는 글과 강의에 오래 실려 온 기법이 둘 있습니다. 하나는 "창의성을 올리려면 온도를 높이세요", 다른 하나는 "답변 첫머리를 대신 써 두면 그 형식대로 이어 씁니다"입니다. 둘 다 잘 먹히던 방법이었죠. 그런데 공식 문서를 보면 지금은 사정이 달라졌습니다 — 최신 세대 모델에서는 둘 다 요청 자체가 거부됩니다. 예전 예제를 그대로 복사해 쓰면 코드가 아니라 요청이 통째로 튕깁니다.📌 30초 요약무작위성 조절 인자 세 가지가 막혔습니다. 기본값이 아닌 값을 넣으면 요청이 거부됩니다.답변 첫머리를 대신 써 주는 방식도 막혔습니다. 대신 정해진 틀로 받는 기능을 쓰라고 안내합니다.대화는 상태가 없습니다. 매번 전체 기록을 다시 보냅니다.대신 예전 차례를 지어 넣어도 됩니다. AI가 실제로..

내 문서로 답하는 챗봇을 만들면 곧 같은 요구가 옵니다. "그래서 이 답이 어느 문서에서 나온 건데?" 답 밑에 출처가 붙어야 사람들이 믿고 씁니다. 다행히 이걸 손으로 짜 넣지 않아도 됩니다 — 검색 결과를 정해진 모양으로 넘기면 웹 검색 결과처럼 출처와 제목을 자동으로 달아 줍니다. 실험 기능도 아니고 표준으로 들어 있고요. 그런데 붙여 놓고 "왜 출처가 안 나오지" 하는 경우가 많습니다. 기본이 꺼져 있기 때문입니다.📌 30초 요약내 검색 결과에도 출처가 자동으로 붙습니다. 별도 실험 표시가 필요 없는 표준 기능입니다.다만 기본이 꺼져 있습니다. 켜지 않으면 아무 표시도 안 나옵니다.전부 켜거나 전부 끄거나입니다. 요청 안에서 섞으면 오류가 납니다.인용은 덩어리 통째로 붙습니다. 촘촘하게 하려면 ..

내 문서로 답하는 챗봇을 만들려면 "의미가 비슷한 문단 찾기"가 먼저입니다. 그러려면 문장을 숫자 뭉치로 바꿔야 하고, 그걸 해 주는 게 임베딩 모델입니다. 그래서 공식 문서에서 임베딩 항목을 열면 — 좀 당황스러운 문장이 첫 줄에 있습니다. "우리는 자체 임베딩 모델을 제공하지 않습니다." 그러고는 다른 회사를 소개하고, 문서 나머지 전체가 그 회사 사용법입니다. 심지어 "여러 업체를 두루 살펴보고 고르라"고까지 씁니다.📌 30초 요약클로드를 만드는 회사는 임베딩 모델을 안 만듭니다. 문서가 직접 그렇게 밝힙니다.그래서 검색 기능을 붙이면 열쇠가 둘, 청구서도 둘이 됩니다.질문과 문서를 다르게 임베딩해야 합니다. 구분을 비워 두면 검색 품질이 떨어집니다.숫자 개수를 줄여도 됩니다. 기본은 1024개인..

AI에게 이미지를 주고 "표가 어디 있는지 네모로 짚어 줘"라거나 "이 버튼을 누르려면 어디를 클릭해야 해?"라고 물으면 좌표를 돌려줍니다. 서류에서 항목을 뽑거나 화면을 자동으로 조작하는 일에 쓰이죠. 그런데 그 좌표를 원본 이미지에 그대로 찍으면 묘하게 어긋나 있습니다. 이유는 하나입니다 — AI가 본 이미지는 내가 올린 이미지가 아닙니다. 보내는 순간 서버가 크기를 줄이고, 좌표는 그 줄어든 이미지 기준으로 나옵니다.📌 30초 요약좌표는 줄어든 이미지 기준입니다. 원본에 그대로 찍으면 어긋납니다.양변이 크기 제한 안이어도 줄어듭니다. 시각 토큰 예산이 따로 걸려 있어서입니다 — 어긋남의 가장 흔한 원인.긴 변으로 어림잡으면 틀립니다. 1920×1080은 1568이 아니라 1456×819로 줄어듭니..

AI를 서비스에 붙여 놓으면 언젠가 "서버가 지금 붐빈다"는 오류를 만납니다. 내 코드 문제가 아니라 그쪽이 몰린 겁니다. 이럴 때 돈을 더 내고 줄 앞으로 가는 선택지가 있었습니다. 그런데 공식 문서 맨 위에 경고 상자가 하나 붙었습니다 — 그 선택지는 더 이상 새로 살 수 없습니다. 이미 계약한 곳만 계약 끝날 때까지 쓰고, 문서는 그들을 위한 참고 자료로 남습니다. 그리고 남아 있는 사람에게도 함정이 둘 더 있습니다.📌 30초 요약등급은 셋입니다 — 표준(기본), 우선(기존 계약자만), 묶음 처리(기다려도 되는 일).우선 등급은 신규 판매가 끝났습니다. 이제 돈으로 새치기하는 길은 없습니다.계약이 있어도 가장 최신 세대 모델에는 안 먹습니다. 새 모델로 갈아타면 표준으로 돌아갑니다.우선 용량과 일..

AI를 코드에 붙여 돌리다 보면 곧 같은 고민이 옵니다. 어느 요청이 얼마나 걸렸는지, 어느 기능에서 나간 건지 기록하고 싶어집니다. 요청마다 그 코드를 붙이자니 지저분하고요. 공식 라이브러리에는 요청이 나가기 직전과 응답이 돌아온 직후에 내 코드를 끼워 넣는 자리가 마련돼 있습니다. 반가운 소식은 일곱 언어 전부 된다는 것이고, 조심할 소식은 순서 규칙을 모르면 내가 단 코드가 엉뚱한 자리에 놓인다는 것입니다.📌 30초 요약보내기 전과 받은 뒤에 끼어드는 층입니다. 기록·표시 달기·자체 재시도·거절 대응에 씁니다.일곱 언어 전부 지원합니다. 언어마다 되는 게 갈리던 다른 기능들과 다릅니다.등록 순서대로 나가고 역순으로 돌아옵니다. 첫 번째로 등록한 것의 뒷부분이 가장 마지막에 돕니다.클라이언트에 붙인..

AI를 코드에 붙일 때 제일 먼저 하는 선택이 "무슨 언어로 짤까"입니다. 다행히 공식 라이브러리가 일곱 언어로 나와 있습니다 — 파이썬, 타입스크립트, C#, 고, 자바, PHP, 루비. 문제는 이름과 겉모습이 비슷해서 "어느 걸 골라도 똑같겠지"라고 믿게 된다는 점입니다. 문서를 나란히 펴 놓고 보면 아닙니다. 어떤 언어에는 있는 편의 기능이 다른 언어엔 없고, 어떤 언어는 아직 판이 바뀌면 규격도 바뀐다고 스스로 적어 놨습니다.📌 30초 요약일곱 언어 전부 공식입니다. 자동 재시도·시간 제한·목록 자동 넘김·오류 분류는 어디서나 똑같이 됩니다.PHP는 아직 베타입니다. 게다가 HTTP 쪽을 잘못 고르면 스트리밍이 오류 없이 통째로 쏟아집니다.C#은 그 이름의 주인이 바뀌었습니다. 예전 판대에는 커..

AI를 자동화에 물리려면 결국 셸에서 부를 수 있어야 합니다. 클로드를 만드는 회사가 공식 명령줄 도구를 내놨습니다. 에이전트를 파일로 적어 저장소에 넣고, 목록을 뽑아 다음 명령에 물리고, 세션이 도는 걸 그대로 지켜볼 수 있습니다. 그런데 문서를 끝까지 읽다 보면 가장 무서운 문장이 맨 아래 주석 상자에 들어 있습니다. 로그인을 해 뒀어도, 예전에 쓰던 열쇠가 환경에 남아 있으면 그쪽이 이깁니다. 그것도 조용히요.📌 30초 요약열쇠를 담아 둔 환경 값이 로그인을 이깁니다. 오류 없이 다른 조직·다른 작업 공간으로 요청이 갑니다 — 문서가 직접 "지워 두라"고 씁니다.에이전트와 실행 환경을 파일로 적어 저장소에 넣고 자동 배포 단계에서 맞춰 둘 수 있습니다.목록 명령은 터미널에서 대화형 탐색기를 엽니..

개인 개발자가 앱에 AI를 붙일 때 늘 막히는 지점이 있습니다 — "열쇠를 앱에 넣으면 털리고, 안 넣으려면 서버를 돌려야 한다." 그런데 애플 프레임워크에 클로드를 꽂는 공식 패키지를 열어 보니 그 딜레마를 아예 없애는 인증 방식이 들어 있더군요. 기기가 "나는 정품 앱이다"를 증명하면 짧은 출입증을 받아 쓰는 구조라, 앱에 열쇠를 안 넣고 서버도 안 돌리면서 출시할 수 있습니다.📌 30초 요약★★열쇠도 중계 서버도 없이 출시할 수 있는 인증 방식이 있습니다.★단 시뮬레이터에선 안 됩니다 — 실제 기기가 있어야 해요.★애플은 요청 경로에 없습니다 — 프롬프트도 답도 못 봅니다.⚠️ 통합을 폐기하면 되돌릴 수 없습니다 — 새로 만들어야 해요.온디바이스 모델과 같은 방식으로 바꿔 끼웁니다.못 쓰는 기능이..