Prompt Caching

Bedrock 프롬프트 캐싱: 대부분의 팀이 놓치는 90% 할인

Bedrock 프롬프트 캐싱은 반복되는 프리픽스를 90% 할인된 가격에 읽지만, 캐시 쓰기는 일반 입력 토큰보다 비싸다. 브레이크포인트 위치가 결과를 가른다.