Prompt Caching

Bedrockのプロンプトキャッシング: ほとんどのチームが見過ごす90%割引

Bedrockのプロンプトキャッシングはキャッシュされたプレフィックスの読み取りをおよそ90%割引にするが、キャッシュ書き込みは通常より高くつく。ブレークポイントの置き場所がすべてを決める。