AI 기술 설명 – 캐시 진단(Cache Diagnostics) – 프롬프트 캐싱이 빗나간 이유를 알려 주는 Claude API 기능
캐시 진단은 이전 응답 id를 넘기면 프롬프트 캐싱이 빗나간 지점을 model, system, tools, messages로 알려 줍니다. 원인 여섯 종류와 한계를 정리했습니다.
캐시 진단은 이전 응답 id를 넘기면 프롬프트 캐싱이 빗나간 지점을 model, system, tools, messages로 알려 줍니다. 원인 여섯 종류와 한계를 정리했습니다.