AI, LLMs, and applied ML.
Σημειώσεις πεδίου ανώτερου μηχανικού για AI, LLMs, πράκτορες και εφαρμοσμένη μηχανική μάθηση από τον Ercan Ermis.
All posts
Το Structured Output Νικά το Έξυπνο Parsing
Ακόμα κάνεις regex-parsing JSON από κείμενο μοντέλου; Το Bedrock structured output επιβάλλει JSON Schema, η απάντηση είναι έγκυρη εξ ορισμού.
Prompt Caching στο Bedrock: Η Έκπτωση 90% που οι Περισσότερες Ομάδες Αγνοούν
Το prompt caching στο Bedrock διαβάζει πρόθεμα με περίπου 90% έκπτωση, αλλά η εγγραφή στην cache κοστίζει περισσότερο. Το breakpoint αποφασίζει τι θα πάρεις.
AWS Μηνιαία (Μαρ '26): Η Διακυβέρνηση Έρχεται για τους Agents
Μάρτιος 2026 στο AWS: το AgentCore Policy και τα Evaluations φτάνουν σε GA, το Elemental Inference κυκλοφορεί, η διακυβέρνηση agents περνά σε control plane.
Οι Streaming Απαντήσεις Είναι Απόφαση UX, Όχι Απόδοσης
Το streaming απαντήσεων είναι επιλογή UX για τον χρόνο πρώτου token, όχι διόρθωση ταχύτητας. Μπορεί να χειροτερέψει structured output και χρήση εργαλείων.
Bedrock Agents Έναντι της Δικής σου Loop
Τα Bedrock Agents χειρίζονται orchestration, μνήμη και κλήσεις εργαλείων για σένα. Πότε το managed framework γλιτώνει δουλειά και πότε σιωπηλά σε κατέχει.
IAM για Εφαρμογές LLM: Ελάχιστο Προνόμιο Όταν ο Καλών Είναι Μοντέλο
Όταν ο καλών είναι μοντέλο, το ελάχιστο προνόμιο ισχύει ακόμα. Δώσε σε κάθε εργαλείο agent περιορισμένο ρόλο IAM, όχι ευρύ σύνολο διαπιστευτηρίων admin.
Κάποιος Κατοχύρωσε το antrophic.com και το Στρέφει Κατευθείαν στο OpenAI
Το domain είναι anthropic.com. Η εταιρεία AI safety πίσω από το Claude, ιδρυμένη από πρώην ερευνητές OpenAI, δουλεύει για ασφαλή και ερμηνεύσιμα AI συστήματα.
Σταμάτα το Fine-Tuning. Χρειάζεσαι RAG, Cache και Καλύτερα Prompts
Το fine-tuning με provisioned throughput είναι η ακριβή απάντηση σε προβλήματα LLM. Ο φθηνότερος δρόμος: retrieval, prompt caching και καλύτερα prompts.
Το Chunking της Knowledge Base Είναι Εκεί Που Πεθαίνει η Ποιότητα του RAG Σου
Οι περισσότερες κακές απαντήσεις RAG είναι πρόβλημα ανάκτησης, όχι μοντέλου. Το fixed, semantic και hierarchical chunking καθορίζουν την ποιότητά σου.
Τα Bedrock Guardrails Δεν Θα Σε Σώσουν Από το Prompt Injection
Τα Bedrock Guardrails φιλτράρουν περιεχόμενο, όχι ενέργειες. Η άμυνα στο prompt injection είναι απομόνωση εισόδου, allowlist εργαλείων και IAM scoping.
Περισσότερα από τον Ercan
Δύο ακόμη ιστότοποι, ίδιος συγγραφέας, διαφορετικό έδαφος.
Cloud, AWS, EKS, Terraform, platform engineering.
Σημειώσεις πεδίου από συστήματα παραγωγής. EKS, IAM, Terraform σε κλίμακα οργανισμού, observability, βελτιστοποίηση κόστους.
Επισκεφθείτε ercan.cloud →Ο κόμβος. Σχετικά, συμβουλευτική, επικοινωνία.
Προσωπικός κόμβος και για τις δύο διαδρομές γραφής. Ποιος είμαι, πώς λειτουργεί η συμβουλευτική, πώς να επικοινωνήσετε.
Επισκεφθείτε ercanermis.com →