Posts
All posts
Agents on Call, Teil 8. Produktion: Observability, Evals und der Tag, an dem die Plattform lügt
OTEL-Traces in CloudWatch, Bedrock Invocation Logging nach S3, ein Eval-Harness mit Golden Incident Set, und der Tag, an dem der Triage-Agent überzeugt log.
Kiro nach dem Hype: Was KI-IDEs wirklich verändert haben
Acht Monate nach Kiros GA hat die Spec überlebt, die IDE größtenteils nicht. Verändert hat sich, wo die Prüfung stattfindet, und nicht, wer den Code schreibt.
Warum Ihr KI-Pilot in der Beschaffung gestorben ist
Die meisten KI-Piloten scheitern nicht an der Genauigkeit. Sie stocken bei Sicherheitsprüfung und AV-Verträgen, weil niemand die zwölf Wochen danach einplante.
Bedrock-Kostenverfolgung pro App mit Inference Profiles
Application Inference Profiles versehen Bedrock-Aufrufe mit Kosten-Tags und machen aus einer Rechnung Zeilen pro Team. Das Tag-Design ist der harte Teil.
Agents on Call, Teil 7. Sizing: Die Token-Rechnung, die niemand vorab macht
Die Sizing-Rechnung, die niemand vorab macht: Tokens pro Vorfall, Quota-Obergrenzen, wann sich Provisioned Throughput rechnet, und die Monatsrechnung.
EU AI Act, 2. August: Die Frist, die sich nicht verschoben hat
Das Digital Omnibus verschob die Hochrisiko-Fristen auf 2027 und 2028. Artikel 50 gilt weiter ab 2. August 2026 und trifft die meisten Teams.
SageMaker vs. Bedrock: Eine Organisationsentscheidung, keine technische
Die Frage SageMaker oder Bedrock dreht sich darum, ob Ihre Organisation ein Team hat, das Modelle verantwortet. Entscheiden Sie nach der echten Teamtopologie.
Prompt Injection über die eigene Doku: Die RAG-Angriffsfläche
Ihre Wissensdatenbank ist nicht vertrauenswürdig. Retrieval liefert dem Modell von Angreifern verfassten Text, daher lohnt sich Scannen beim Ingest.
M365 Security 101: AI Pilot und Business Impact Reports
Wo AI in Security zählt: Remediation hinter einem Freigabe-Gate pro Änderung, Berichte für die Führung. Ein 101 mit Aether365 als Beispiel.
Agents on Call, Teil 6. Guardrails: Der Teil, den alle überspringen
Erst Threat Model, dann Guardrails: Bedrock Guardrails in Terraform, warum IAM weiterhin die Schwerarbeit macht, und die Fehlerbilder, die keine Demo zeigt.
Dem Modell vertrauen, das Binary auditieren
Der Client eines Coding-Agenten ist das privilegierteste Binary auf deiner Maschine. Claude Codes versteckter Prompt-Fingerprint zeigt, warum du es auditierst.
AWS Monthly (Juni '26): Agenten bekommen eine Feedback-Schleife
Juni 2026 bei AWS: Der Summit in New York verwandelte Produktions-Traces in Agenten-Verbesserung, brachte Continuum für Security und die Harness zur GA.
Agents on Call, Teil 5. Das Team: Supervisor und drei Spezialisten
Ein Supervisor delegiert über das Netzwerk an Triage-, Runbook- und Cost-Agenten, AgentCore Memory verbindet ihre Befunde, und wann ein Agent reicht.
AWS hat eine Sandbox für KI-generierten Code gebaut: Lambda MicroVMs
AWS Lambda MicroVMs geben KI-Agents einen Ort, um generierten Code isoliert auf VM-Ebene auszuführen. Das fehlende Stück für Produktions-Agents: die Laufzeit.
Das echte Limit Ihres Multi-Agent-Systems sind Tokens pro Minute
Amazon Bedrock zeigt jetzt Tokens-pro-Minute-Quotas pro Modell in Service Quotas. Für Agenten ist TPM die echte Skalierungsgrenze, planen Sie rechtzeitig.
Estland gibt KI-Agenten eine ID. Das ist der einfache Teil
Estland will KI-Agenten AI-ID-Codes ausstellen, eine Weltpremiere. Identität ist einfach. Befugnis, Delegation, Verantwortlichkeit sind die eigentliche Arbeit.
Le Chaton Fat: Das fetteste KI-Modell, das es nie gab
Es gibt kein KI-Modell namens Le Chaton Fat. Keine Gewichte, keine API, kein Benchmark. So wurde ein Mistral-Witz zum Lieblings-Running-Gag der KI-Community.
Agents on Call, Teil 4. Tools und das Gateway: MCP, Allowlists, Read-Only per Default
Tools wandern hinter AgentCore Gateway: gescopte Lambdas, kontoübergreifende Read-only-Rollen und der eine gated Pfad, der etwas ändern darf.
KI-Coding-Agenten brauchen auch Staging-Umgebungen
Teams gaben Coding-Agenten Produktions-Credentials und nannten es Geschwindigkeit. Ein Agent braucht dieselbe Umgebungsleiter wie jeder neue Mitarbeiter.
Agents on Call, Teil 3. Erster Agent: Incident Triage in Strands
Der erste Agent geht live: Strands-Triage-Agent auf AgentCore Runtime, evidenzbasierter System-Prompt, zwei Read-only-Tools, plus das deployende Terraform.
Claude Code in CI: Einen Agenten den Build reparieren lassen
Einen Coding-Agenten in die Pipeline zu stellen ist einfach. Die eigentliche Arbeit sind die Leitplanken: was er anfassen darf, wann er stoppt, wer prüft.
Agents on Call, Teil 2. Das Fundament: Terraform vor den Tokens
Bevor der erste Bedrock-Token fließt: das ops-tooling-Konto, zwei Spoke-IAM-Rollen, Modellzugriff und die Inference-Profile-Entscheidung, alles in Terraform.
Das Kontextfenster ist nicht dein Freund
Ein riesiges Kontextfenster ersetzt kein Retrieval: Die Trefferquote sinkt mit wachsendem Prompt, jeder Token kostet, und die Mitte wird nur überflogen.
AWS Monthly (Mai '26): Agenten bekommen eine Geldbörse
Mai 2026 bei AWS: AgentCore Payments lässt Agenten Transaktionen ausführen, das Agent Toolkit for AWS und ein GA-MCP-Server härten die Toolchain dahinter.
Agents on Call, Teil 1. Das Szenario: Warum ein Ops-Team Agenten einstellt
Ein mittelgroßes SaaS-Unternehmen versinkt im On-Call-Aufwand und stellt Agenten ein. Teil 1: Szenario, Stack-Entscheidung und AWS-Bedrock-Architektur.
Prompts loggen, ohne PII zu loggen
Prompt-Logs braucht man zum Debuggen einer LLM-App, aber PII darf darin nicht bleiben. Vor der Speicherung mit Comprehend redigieren, dann Retention setzen.
Wenn Haiku Opus schlägt: Model Right-Sizing auf Bedrock
Jeden Aufruf standardmäßig an Opus zu schicken, lässt die LLM-Rechnung explodieren. Nach Aufgabenklasse routen: Haiku für die Mehrheit, Opus nur zur Eskalation.
Agentic RAG ist meistens Latenz, die man nicht braucht
Agentic RAG durchläuft Retrieval-Hops, jeder ein Modell-Roundtrip. Bei den meisten Fragen gewinnt eine gute Query, die Schleife lohnt sich selten.
Evals vor Agenten: Man kann nicht ausliefern, was man nicht bewerten kann
Ohne Eval-Harness ist jede Änderung am Agenten ein Bauchgefühl-Check. Erst die Anzeigetafel bauen, dann den Agenten, und den LLM-Judge als fehlbar behandeln.
Semantic Caching: Zwei verschiedene Fragen, eine Antwort
Semantic Caching liefert eine gespeicherte Antwort für ähnlich formulierte Fragen. Das senkt Kosten und Latenz, ein False Hit liefert die falsche Antwort.
Step Functions ist der am meisten unterschätzte Agent-Orchestrator
Die meisten Agent-Workflows brauchen kein Modell für den Kontrollfluss. Step Functions liefert deterministische Orchestrierung, Retries und Human-in-the-Loop.
LLM-Gateways: Warum jedes Platform-Team irgendwann eines baut
Ruft ein zweites Team ein Modell auf, entsteht unkontrollierter Fan-out. Ein LLM-Gateway bündelt Auth, Quota, Routing und Audit: Eigenbau, LiteLLM, API Gateway.
AWS Monatsrückblick (Apr '26): OpenAI landet auf Bedrock
April 2026 auf AWS: OpenAI-Modelle, Codex und Managed Agents kommen zu Bedrock, und AgentCore bekommt ein verwaltetes Harness plus CLI für den Weg zum Agenten.
Cross-Region Inference: Günstige Resilienz oder Residency-Falle?
Bedrock Cross-Region Inference glättet Durchsatz und Throttling, aber ein globales Profil kann den Prompt aus seiner Geografie routen. Erst Residency prüfen.
Eure LLM-Rechnung ist ein Observability-Problem
Eine überraschende Bedrock-Rechnung ist kein Preisproblem, sondern ein Sichtbarkeitsproblem. Ohne Zuordnung von Tokens zu Feature fehlt die Kontrolle.
Batch Inference auf Bedrock: Halber Preis, wenn ihr warten könnt
Amazon Bedrock Batch Inference läuft zu 50 Prozent des On-Demand-Preises. Die einzigen Kosten sind Latenz. Wo niemand wartet, ist der Tausch geschenktes Geld.
Multi-Tenant-LLM-Apps: Kunden auf einem gemeinsam genutzten Modell isolieren
Ein gemeinsames Bedrock-Modell, viele Kunden. Das Modell ist zustandslos, Isolation ist eure Aufgabe: Retrieval eingrenzen, Quote deckeln, Identität pro Tenant.
Agenten-Gedächtnis ist ein Datenbankproblem, kein Prompt-Problem
Die gesamte Historie eines Agenten in den Prompt zu stopfen ist kein Gedächtnis, nur eine wachsende Rechnung. Echtes Gedächtnis heißt Datenbank mit Retrieval.
Structured Output schlägt cleveres Parsing
Noch immer JSON per Regex aus Modelltext parsen? Bedrock Structured Outputs erzwingen ein JSON Schema beim Decoding, die Antwort ist automatisch gültig.
Prompt Caching auf Bedrock: Der 90-Prozent-Rabatt, den die meisten Teams ignorieren
Bedrock Prompt Caching liest ein wiederholtes Präfix mit 90 Prozent Rabatt, aber ein Cache-Write kostet mehr als gar kein Caching. Der Breakpoint entscheidet.
AWS Monthly (Mar '26): Governance holt die Agenten ein
März 2026 auf AWS: AgentCore Policy und Evaluations erreichen GA, Elemental Inference launcht, Agenten-Governance wird zur Produktions-Kontrollebene.
Streaming-Antworten sind eine UX-Entscheidung, keine Performance-Entscheidung
Streaming ist eine UX-Entscheidung über Time to First Token, kein Geschwindigkeits-Fix. Es kann strukturierte Ausgabe und Tool-Use sogar verschlechtern.
Bedrock Agents vs. die eigene Loop bauen
Amazon Bedrock Agents übernimmt Orchestrierung, Memory und Tool-Aufrufe. Wann das Managed Framework echte Arbeit spart und wann es dich still übernimmt.
IAM für LLM-Apps: Least Privilege, wenn der Aufrufer ein Modell ist
Ist der Aufrufer ein Modell, gilt Least Privilege trotzdem. Jedes Agenten-Tool braucht eine enge IAM-Rolle und Session Policy, keine breiten Admin-Credentials.
Jemand hat antrophic.com registriert und leitet es direkt zu OpenAI weiter
Hier ist die echte Domain: anthropic.com. Das KI-Sicherheitsunternehmen hinter Claude, gegründet von Ex-OpenAI-Forschern, mit wichtiger Arbeit an KI-Sicherheit.
Hör auf mit Fine-Tuning. Du brauchst RAG, einen Cache und bessere Prompts
Fine-Tuning plus Provisioned Throughput ist die teure Antwort auf die meisten LLM-Probleme. Günstiger sind Retrieval, Prompt Caching und bessere Prompts.
Knowledge-Base-Chunking ist der Ort, an dem deine RAG-Qualität stirbt
Schlechte RAG-Antworten sind meist ein Retrieval-, kein Modellproblem. Fixed-, Semantic- und Hierarchical-Chunking in Knowledge Bases legen die Qualität fest.
Bedrock Guardrails schützt nicht vor Prompt Injection
Amazon Bedrock Guardrails filtert Inhalte, autorisiert keine Aktionen. Schutz vor Prompt Injection braucht Input-Isolation, Tool-Allowlists und IAM-Scoping.
Amazon Bedrock Knowledge Base Kosten um ~90% senken: Migration von OpenSearch Serverless zu Aurora Serverless v2 mit pgvector
OpenSearch Serverless kostet rund 700 US-Dollar im Monat, bevor ein Dokument eingeht. Aurora Serverless v2 mit pgvector senkt das unter 50 US-Dollar.
AWS Monthly (Dez '25): Die Kiro-Ara beginnt
Das Jahr endete mit der General Availability von Kiro (Frontier Agents). Kiro ist nicht nur ein Chatbot, sondern ein virtuelles Softwareentwicklungsteam.
AWS re:Invent 2025: Die "Agentic"-Ara
re:Invent 2025 durch eine agentische Linse gelesen: Die Nova-2-Familie teilte sich in spezialisierte Rollen auf, und AWS lieferte plötzlich Arbeit statt Chat.
AWS Monthly (Okt '25): Die Industrialisierung des KI-Trainings
Oktober 2025 bei AWS: Project Rainier bündelte über 500.000 Trainium2-Chips in einem Cluster, mit besserer Preis-Leistung als vergleichbare GPUs.
AWS Monthly (Juni '25): S3 wird zu deiner Vektordatenbank
In den letzten zwei Jahren hat man uns gesagt, wir brauchen eine spezialisierte Vektordatenbank (Pinecone, Milvus, etc.) fur Retrieval-Augmented Gene...
AWS Monthly (Feb '25): Automatisierte Code-Evolution
Februar 2025 bei AWS: Q Developer wechselte von Code-Vervollständigung zu autonomem Refactoring und migrierte selbst Legacy-Java-Code.