Finops
Filed under
3 posts
モデルへの扉はひとつに。第5回 アイデンティティ、quota、chargeback
カスタムメトリクスのdimensionは5つしか使えず、time seriesは掛け算で増える。第5回はカーディナリティに耐えるテナントのアイデンティティ、quota、chargebackを構築する。
推論プロファイルによるアプリ単位のBedrockコスト追跡
アプリケーション推論プロファイルはBedrock呼び出しにコスト配分タグを付与し、共有された請求をチーム別の明細へと変える。難しいのはタグ設計の方だ。
Amazon Bedrock Knowledge Baseのコストを約90%削減: OpenSearch ServerlessからAurora Serverless v2 + pgvectorへの移行
OpenSearch Serverlessのベクトルストアはドキュメントを1件も投入する前から月額約700ドルかかる。Aurora Serverless v2とpgvectorならその下限を50ドル未満に抑えられる。