전체 글672 OpenAI Decisions API GA 마이그레이션: gpt-6-luna 400개 질문·프롬프트 캐싱 요금·SDK 타입 변경·400 에러 지난 목요일(10월 23일) 새벽 4시(한국 시간)에 OpenAI가 Decisions API를 정식 출시(GA)로 돌렸습니다. 저는 그 시간에 자고 있었고, 아침에 일어나 보니 Dependabot이 openai 3.36.1 → 3.37.0 PR을 올려 놓고 CI를 빨갛게 칠해 둔 상태였어요. 마이너 버전 올리는 PR이 타입 체크에서 떨어진 건 오랜만이라 커피를 내리다 말고 로그부터 열었습니다.제가 Decisions에 올려 둔 건 고객 문의 분류 워커 하나입니다. 이달 초 베타가 열리자마자 붙였어요. 문의가 들어오면 담당 부서(choice), 급한 정도(score), 환불 대상인지(predicate) 세 가지를 한 번에 묻고, 결과대로 큐를 나눕니다. 그 옆에 FAQ 태그 250개를 한꺼번에 찍는 배치 스.. 2026. 10. 26. Anthropic API 2026-10-21 마이그레이션: anthropic-version 헤더·Python SDK 2.0·temperature 400 에러 아침에 저장소를 열었더니 Renovate가 PR을 두 개 올려 놨더라고요. 하나는 anthropic 1.17.0 → 2.1.0, 다른 하나는 @anthropic-ai/sdk 0.137.0 → 1.1.0. 둘 다 메이저 버전이 바뀌는 PR이라 그냥 머지 버튼을 누를 수가 없었습니다. 제가 굴리는 건 대단한 게 아니에요. Python으로 된 요약 API 서버 하나, TypeScript로 된 큐 워커 하나, 그리고 그 앞에 사내 게이트웨이가 하나 서 있는 구조입니다. 그런데 이번 변경은 바로 그 게이트웨이 쪽을 건드리더라고요.원인은 Anthropic이 한국 시간으로 어제 밤부터 오늘 새벽 사이에 내놓은 새 API 버전 2026-10-21입니다. 릴리스 노트 10월 21일 항목에 올라왔고, PyPI에 Pytho.. 2026. 10. 22. Mistral Voxtral 3 API 마이그레이션: voxtral-mini-transcribe-3-0 모델 ID·분당 가격·실시간 WebSocket 변경점 혼자 굴리는 회의록 파이프라인이 하나 있습니다. 녹음 파일이 올라오면 voxtral-mini-2602로 받아 적고, 단어마다 붙는 타임스탬프로 자막 하이라이트를 만들어요. 주 1회 온라인 스터디 때는 실시간 자막을 띄우고, 정리된 요약은 TTS로 읽어서 음성 파일로 같이 보냅니다. 세 덩어리 모두 Mistral Voxtral 2 위에 올라가 있었죠. 그런데 어젯밤 9시쯤(한국 시간) Voxtral 3 발표가 올라왔고, 문서 쪽에는 Migrate from Voxtral 2라는 페이지가 새로 생겼습니다.모델 ID만 갈아 끼우면 되겠지 하고 오늘 오후에 브랜치를 땄는데, 첫 배치 잡에서 바로 400이 떨어졌어요. 원인은 단어 타임스탬프였습니다. 그래서 마이그레이션 페이지, 실시간 전사 문서, 모델 카드, 트러.. 2026. 10. 21. OpenAI 12시간 프롬프트 캐싱 마이그레이션: prompt_cache_options.ttl·12h 쓰기 2.5배 요금·400 에러 사내 코드 리뷰 봇 하나를 gpt-6.1-sol에 붙여서 쓰고 있습니다. 리뷰 규칙 문서, 팀 코딩 컨벤션, 자주 틀리는 패턴 예시까지 합치면 앞부분 프롬프트만 4만 토큰 가까이 돼요. 문제는 PR이 몰려서 들어오지 않는다는 겁니다. 오전 9시에 몇 개, 11시쯤 몇 개, 점심 지나서 또 몇 개. 그 사이 공백이 30분을 넘기 일쑤라 캐시가 매번 식어 있었고, 사용량 화면을 보면 같은 4만 토큰을 하루에 여덟 번씩 다시 쓰고(write) 있었습니다. 쓰기 요금이 입력 단가의 1.25배라서, 캐시를 켜놓고도 오히려 손해 보는 날이 있었어요.그러다 OpenAI API 변경 기록에 10월 20일 자로 한 줄이 올라왔습니다. Responses API에서 12시간 프롬프트 캐싱을 고를 수 있고, 쓰기 요금은 입력.. 2026. 10. 21. MiniMax M3.1 Flash API 마이그레이션: MiniMax-M3.1-Flash 모델 ID·effort 기본값 max·M3 대비 가격·400 에러 여름부터 MiniMax-M3에 PR 리뷰 에이전트를 하나 물려두고 쓰고 있습니다. 깃허브에 PR이 올라오면 diff와 관련 파일을 모아서 넘기고, 리뷰 코멘트 초안과 "이 테스트는 왜 빠졌나요" 같은 질문을 받아오는 정도의 도구예요. 엔드포인트는 Anthropic 호환 쪽을 쓰고, 같은 키로 Claude Code도 MiniMax에 연결해 둔 상태입니다. 어제(10월 19일) MiniMax가 M3.1 Flash를 냈다는 소식을 보고 단가표부터 열었는데, 입력과 출력이 M3의 딱 절반이더라고요. 모델 이름 한 줄 바꾸면 끝이겠다 싶었습니다.그런데 문서를 읽다가 한 문장에서 멈췄어요. effort를 생략하면 기본값은 max. 제 리뷰 에이전트는 M3 시절에 thinking을 아예 켜지 않고 돌렸던 코드라 ef.. 2026. 10. 20. Claude Haiku 5.5 API 마이그레이션: 모델 ID·가격·100k 토큰 경계·400 에러 Haiku 5.5 가격표를 처음 봤을 때 숫자를 잘못 읽은 줄 알았습니다. 입력 100만 토큰에 0.10달러. 제가 문의 메일 분류랑 요약에 쓰는 작은 서비스가 Haiku 4.5 위에서 돌고 있는데, 그 모델 입력 단가가 1달러거든요. 발표 페이지를 다시 띄워보니 맞는 숫자였습니다. 다만 표 머리에 작게 "prompts up to / over 100k"라는 말이 붙어 있었고, 결국 그 한 줄 때문에 모델 ID 한 줄 바꾸면 끝날 줄 알았던 작업이 꽤 길어졌어요.Haiku 5.5는 미국 시간 10월 7일, 한국 시간으로 10월 8일에 나왔으니 벌써 2주쯤 됐습니다. 처음 옮겨 적은 메모를 10월 20일 기준 문서와 다시 맞춰봤는데, 그사이 공식 문서가 조용히 몇 군데 바뀌어 있더군요. 특히 제가 "확인 못.. 2026. 10. 20. 이전 1 2 3 4 ··· 112 다음
