AI, LLMs, and applied ML.
Σημειώσεις πεδίου ανώτερου μηχανικού για AI, LLMs, πράκτορες και εφαρμοσμένη μηχανική μάθηση από τον Ercan Ermis.
All posts
Το Step Functions Είναι ο Πιο Υποτιμημένος Orchestrator Agents
Οι περισσότερες ροές agent δεν χρειάζονται μοντέλο για τη ροή ελέγχου. Το Step Functions δίνει ντετερμινιστικό orchestration, retries και human-in-the-loop.
LLM Gateways: Γιατί Κάθε Ομάδα Πλατφόρμας Χτίζει Ένα Τελικά
Μια δεύτερη ομάδα που καλεί ένα μοντέλο σημαίνει ανεξέλεγκτο fan-out. Το LLM gateway συγκεντρώνει auth, quota, routing, audit. Build vs LiteLLM vs API Gateway.
AWS Μηνιαία (Απρ '26): Το OpenAI Προσγειώνεται στο Bedrock
Απρίλιος 2026 στο AWS: μοντέλα OpenAI, Codex και Managed Agents φτάνουν στο Bedrock. Το AgentCore προσθέτει harness και CLI για γρηγορότερο agent.
Cross-Region Inference: Φθηνή Ανθεκτικότητα ή Παγίδα Κατοικίας Δεδομένων;
Το Bedrock cross-region inference εξομαλύνει throughput, αλλά ένα global profile μπορεί να δρομολογήσει prompt εκτός γεωγραφίας. Πρόσεξε την κατοικία δεδομένων.
Ο Λογαριασμός LLM Σου Είναι Πρόβλημα Παρατηρησιμότητας
Ένας απροσδόκητος λογαριασμός Bedrock δεν είναι πρόβλημα τιμολόγησης, αλλά ορατότητας. Χωρίς απόδοση tokens σε feature, πελάτη ή agent, δεν το διαχειρίζεσαι.
Batch Inference στο Bedrock: Μισή Τιμή Αν Μπορείς να Περιμένεις
Το Amazon Bedrock batch inference τρέχει στο 50% της τιμής on-demand. Το μόνο κόστος είναι η καθυστέρηση, ιδανικό για εργασίες όπου κανείς δεν περιμένει.
Multi-Tenant Εφαρμογές LLM: Απομόνωση Πελατών σε Κοινό Μοντέλο
Ένα κοινό μοντέλο Bedrock, πολλοί πελάτες. Το μοντέλο είναι stateless, άρα η απομόνωση είναι δική σου δουλειά: ανάκτηση, όριο ποσόστωσης, ταυτότητα ανά πελάτη.
Η Μνήμη Agent Είναι Πρόβλημα Βάσης Δεδομένων, Όχι Πρόβλημα Prompt
Το να χώνεις όλο το ιστορικό ενός agent στο prompt δεν είναι μνήμη, είναι αυξανόμενος λογαριασμός. Η πραγματική μνήμη είναι βάση δεδομένων με ανάκτηση.
Το Structured Output Νικά το Έξυπνο Parsing
Ακόμα κάνεις regex-parsing JSON από κείμενο μοντέλου; Το Bedrock structured output επιβάλλει JSON Schema, η απάντηση είναι έγκυρη εξ ορισμού.
Prompt Caching στο Bedrock: Η Έκπτωση 90% που οι Περισσότερες Ομάδες Αγνοούν
Το prompt caching στο Bedrock διαβάζει πρόθεμα με περίπου 90% έκπτωση, αλλά η εγγραφή στην cache κοστίζει περισσότερο. Το breakpoint αποφασίζει τι θα πάρεις.
Περισσότερα από τον Ercan
Δύο ακόμη ιστότοποι, ίδιος συγγραφέας, διαφορετικό έδαφος.
Cloud, AWS, EKS, Terraform, platform engineering.
Σημειώσεις πεδίου από συστήματα παραγωγής. EKS, IAM, Terraform σε κλίμακα οργανισμού, observability, βελτιστοποίηση κόστους.
Επισκεφθείτε ercan.cloud →Ο κόμβος. Σχετικά, συμβουλευτική, επικοινωνία.
Προσωπικός κόμβος και για τις δύο διαδρομές γραφής. Ποιος είμαι, πώς λειτουργεί η συμβουλευτική, πώς να επικοινωνήσετε.
Επισκεφθείτε ercanermis.com →