ercan.ai

Agents on Call, Μέρος 8. Παραγωγή: Observability, Evals, και η Μέρα που Θα Πει Ψέματα

Thu, 16 Jul 2026 09:00:00 +0200

Τρεις μήνες αφότου ο incident-triage agent από το Μέρος 3 μπήκε σε λειτουργία, παρήγαγε μια σίγουρη, καλογραμμένη, λάθος διάγνωση για ένα πραγματικό περιστατικό, και κανείς δεν το έπιασε μέχρι το postmortem, γιατί το trace που θα το είχε πιάσει σε πραγματικό χρόνο δεν υπήρχε ακόμα. Αυτό είναι το σχήμα κάθε αποτυχίας που πραγματικά αφορά αυτό το τελευταίο μέρος: όχι ένα crash, όχι μια εξαίρεση, μια εύλογη πρόταση που έτυχε να είναι ψευδής. Αυτό το άρθρο κλείνει τη σειρά χτίζοντας τα τρία πράγματα που μετατρέπουν το «έτσι είπε ο agent» σε κάτι που ένας άνθρωπος μπορεί να επαληθεύσει, παρακολουθεί τη συγκεκριμένη μέρα που είπε ψέματα, και βαθμολογεί ολόκληρη την πλατφόρμα απέναντι στους αριθμούς που υποσχέθηκε το Μέρος 1.

Το Kiro Μετά τον Θόρυβο: Τι Άλλαξαν Πραγματικά τα AI IDEs

Wed, 15 Jul 2026 17:00:00 +0200

Οκτώ μήνες μετά τη γενική διαθεσιμότητα του Kiro, η διαρκής ιδέα αποδεικνύεται ότι είναι το spec, και το λιγότερο διαρκές κομμάτι αποδεικνύεται ότι είναι το IDE. Το Kiro κυκλοφόρησε ως ένα agentic IDE του οποίου το επιχείρημα ήταν ότι δουλεύεις στο επίπεδο της προδιαγραφής και αφήνεις τον agent να υλοποιήσει. Το κομμάτι που κόλλησε είναι το artifact: μια γραπτή δήλωση πρόθεσης που ένας άνθρωπος αναθεωρεί πριν υπάρξει κώδικας. Το κομμάτι που σιωπηλά έχασε είναι η υπόθεση ότι ο editor είναι εκεί που συμβαίνει αυτό. Το Kiro κυκλοφόρησε ένα CLI κατά το GA, πρόσθεσε λειτουργία headless, και το terminal είναι εκεί που πήγε η ενδιαφέρουσα χρήση.

Γιατί το AI Pilot σου Πέθανε στις Προμήθειες

Mon, 13 Jul 2026 19:00:00 +0200

Το pilot δούλεψε. Αυτό δεν ήταν ποτέ το ερώτημα. Το demo πέτυχε, η ακρίβεια ήταν υπερασπίσιμη, οι χρήστες το συμπάθησαν, και μετά πέρασε πέντε μήνες σε μια ουρά και σιωπηλά σταμάτησε να αναφέρεται. Κανείς δεν το σκότωσε. Έληξε. Αν το έχεις δει να συμβαίνει δύο φορές, μάλλον έχεις καταλήξει ότι ο οργανισμός είναι χαλασμένος, και θέλω να υποστηρίξω μια λιγότερο ικανοποιητική εξήγηση: το pilot ήταν σχεδιασμένο να απαντήσει σε μια ερώτηση που κανείς δεν περίμενε.

Παρακολούθηση Κόστους Bedrock ανά Εφαρμογή με Inference Profiles

Fri, 10 Jul 2026 14:00:00 +0200

Ένα application inference profile είναι ένα ετικετοποιημένο wrapper γύρω από ένα model ARN, και είναι το μόνο πράγμα που στέκεται ανάμεσα σε σένα και έναν λογαριασμό Bedrock που λέει έναν αριθμό για ολόκληρη την εταιρεία. Δημιουργείς ένα profile που δείχνει σε ένα μοντέλο, προσαρτάς ετικέτες κατανομής κόστους, και καλείς το profile ARN αντί για το model ID. Οι ετικέτες ταξιδεύουν μαζί μέχρι το Cost Explorer και την Cost and Usage Report. Αυτός είναι όλος ο μηχανισμός, και παίρνει ένα απόγευμα.

Agents on Call, Μέρος 7. Διαστασιολόγηση: Τα Μαθηματικά των Tokens που Κανείς δεν Κάνει από Πριν

Thu, 09 Jul 2026 09:00:00 +0200

Μία μόνο βαθιά διερεύνηση περιστατικού σε αυτή την πλατφόρμα, οκτώ γύροι κλήσεων εργαλείων μέχρι ο triage agent να έχει αρκετά στοιχεία για να προτείνει μια διάγνωση, κοστίζει 32.950 tokens, και τα 31.600 από αυτά είναι είσοδος, γιατί το Converse API του Bedrock ξαναστέλνει ολόκληρο το διαρκώς αυξανόμενο transcript σε κάθε γύρο. Πολλαπλασίασέ το με πραγματικό όγκο ειδοποιήσεων και ολόκληρος ο μηνιαίος on-demand λογαριασμός μοντέλου της πλατφόρμας βγαίνει περίπου 14 $, μία από τις μικρότερες γραμμές σε ένα συνολικό μηνιαίο κόστος κοντά στα 21 $. Η αγορά Provisioned Throughput από την πρώτη μέρα, αυτό που το Μέρος 1 ρητά ανέβαλε, θα κόστιζε 15.768 $ τον μήνα για ένα φορτίο που τρέχει περίπου στο ένα τετρακοσιοστό της χρησιμοποίησης που χρειάζεται για να ισοφαρίσει. Τίποτα από αυτά δεν είναι προφανές από ένα διάγραμμα. Εμφανίζεται μόνο όταν κάποιος κάνει την αριθμητική, που είναι αυτό που κάνει αυτό το μέρος, από άκρη σε άκρη, με κάθε αριθμό ανιχνεύσιμο είτε σε έναν τιμοκατάλογο Bedrock είτε σε έναν τύπο που δείχνεται πλήρως.

EU AI Act, 2 Αυγούστου: Η Προθεσμία Που Δεν Μετακινήθηκε

Wed, 08 Jul 2026 11:00:00 +0200

Ο Digital Omnibus για το AI μετακίνησε τις προθεσμίες που έκαναν τίτλους και άφησε ανέγγιχτη εκείνη που θα επηρεάσει πραγματικά τη δουλειά σου. Οι υποχρεώσεις υψηλού κινδύνου γλίστρησαν πάνω από έναν χρόνο. Η διαφάνεια του Άρθρου 50 δεν γλίστρησε. Ισχύει από 2 Αυγούστου 2026, που είναι περίπου τρεις εβδομάδες μακριά, και είναι η διάταξη που πιάνει συνηθισμένες ομάδες να κάνουν συνηθισμένα πράγματα: να παράγουν κείμενο, εικόνες, ή ήχο με ένα μοντέλο και να βάζουν το αποτέλεσμα μπροστά σε έναν άνθρωπο.

SageMaker εναντίον Bedrock: Μια Οργανωτική Απόφαση, Όχι Τεχνική

Mon, 06 Jul 2026 09:00:00 +0200

SageMaker εναντίον Bedrock δεν είναι τεχνική σύγκριση. Είναι μια ερώτηση για το αν ο οργανισμός σου απασχολεί ανθρώπους των οποίων η δουλειά είναι να κατέχουν μοντέλα. Αν έχεις μια ομάδα που εκπαιδεύει, αξιολογεί, και κρατά εφημερία για ένα model artifact, το SageMaker περιγράφει δουλειά που ήδη κάνουν. Αν δεν έχεις εκείνη την ομάδα, και οι περισσότερες εταιρείες που κυκλοφορούν AI features δεν την έχουν, το Bedrock δεν είναι συμβιβασμός. Είναι μια σωστή ανάγνωση του οργανογράμματός σου.

Prompt Injection Μέσω των Δικών σου Εγγράφων: Η Επιφάνεια Επίθεσης του RAG

Sat, 04 Jul 2026 10:00:00 +0200

Τη στιγμή που βάζεις ανάκτηση μπροστά από ένα μοντέλο, κάθε έγγραφο στη βάση γνώσης σου γίνεται εκτελέσιμη είσοδος. Όχι εκτελέσιμη με την έννοια του shell. Εκτελέσιμη με την έννοια ότι μια παράγραφος σε μια σελίδα Confluence μπορεί να αλλάξει τι κάνει ο agent σου, επειδή η ανάκτηση θα την φέρει, θα την επικολλήσει στο context window, και το μοντέλο θα τη διαβάσει με την ίδια προσοχή που δίνει στο system prompt σου. Οι ομάδες κάνουν threat modeling προσεκτικά στο πλαίσιο μηνυμάτων του χρήστη και μετά προσλαμβάνουν 40.000 σελίδες από έξι συστήματα χωρίς να ρωτήσουν ποιος μπορεί να γράψει σε αυτά.

M365 Security 101: AI Pilot και Business Impact Reports

Fri, 03 Jul 2026 13:30:00 +0200

Οι ομάδες ασφαλείας δεν έχουν πρόβλημα ανίχνευσης. Έχουν πρόβλημα αποκατάστασης και πρόβλημα επικοινωνίας, και αυτά είναι τα δύο σημεία όπου το AI στην ασφάλεια πραγματικά αποδίδει. Ένας σύγχρονος scanner θα σας παραδώσει ευχαρίστως 800 ευρήματα απέναντι σε ένα benchmark συμμόρφωσης. Τα ευρήματα δεν είναι το δύσκολο κομμάτι. Το δύσκολο είναι ότι τα περισσότερα δεν διορθώνονται ποτέ, και όσα διορθώνονται παραμένουν αόρατα για τους ανθρώπους που εγκρίνουν τον προϋπολογισμό. Αυτό το άρθρο είναι ένα 101 για τις δύο λειτουργίες AI που πιστεύω ότι αντιμετωπίζουν το πρόβλημα άμεσα: αυτοματοποιημένη αποκατάσταση με πύλη έγκρισης, και αναφορές παραγόμενες από AI για μη τεχνικούς αναγνώστες. Θα χρησιμοποιήσω το Aether365, μια πλατφόρμα ασφάλειας Microsoft 365, ως το παράδειγμα σε όλο το κείμενο. Πλήρης διαφάνεια εξαρχής: το Aether365 είναι δικό μου προϊόν. Κρίνετε τα επιχειρήματα με βάση την ουσία τους.

Agents on Call, Μέρος 6. Guardrails: Το Κομμάτι που Όλοι Προσπερνούν

Thu, 02 Jul 2026 09:00:00 +0200

Ένα Bedrock Guardrail προσαρτημένο σε κάθε κλήση agent πιάνει τρία πράγματα που το IAM δεν μπορεί να δει καθόλου: μια prompt-injected οδηγία κρυμμένη μέσα σε μια γραμμή log, τα PII ενός πελάτη που φτάνουν σε ένα αποτέλεσμα εργαλείου πριν το μοντέλο τα συνοψίσει, και το ίδιο το κείμενο ενός agent να κατευθύνει έναν άνθρωπο προς την παράκαμψη της πύλης έγκρισης. Τίποτα από αυτά δεν είναι πρόβλημα ελέγχου πρόσβασης, οπότε τίποτα από αυτά δεν εμφανίζεται σε μια πολιτική IAM, όσο προσεκτικά κι αν την καθόρισαν τα Μέρη 2 έως 4. Αυτό το μέρος χτίζει εκείνο το guardrail σε Terraform, στο terraform/30-guardrails/, και ξοδεύει περισσότερο χρόνο σε ό,τι δεν πιάνει παρά στα φιλικά προς demo κομμάτια, γιατί το κενό ανάμεσα στα δύο είναι ακριβώς εκεί όπου ένα περιστατικό στραβώνει.

Εμπιστεύσου το Model, Έλεγξε το Binary

Thu, 02 Jul 2026 03:30:00 +0200

Το client binary ενός coding agent είναι το πιο προνομιούχο κομμάτι λογισμικού στο μηχάνημά σου, και σχεδόν κανείς δεν το ελέγχει. Διαβάζει το repo σου, τρέχει το shell σου, κρατάει τα credentials σου και κάνει auto-update σε ένα χρονοδιάγραμμα που δεν ελέγχεις εσύ. Έχουμε συλλογικά αποφασίσει να αντιμετωπίζουμε αυτό το binary ως βαρετή υδραυλική εγκατάσταση, ενώ διαφωνούμε για το alignment των models. Την περασμένη εβδομάδα το Claude Code έδειξε γιατί αυτό είναι ακριβώς ανάποδα: για περίπου τρεις μήνες κυκλοφορούσε με κρυφή λογική που ταξινομούσε τα requests που δρομολογούνταν μέσω proxies συνδεδεμένων με την Κίνα και κωδικοποιούσε το αποτέλεσμα στεγανογραφικά μέσα στο ίδιο του το system prompt. Κανείς δεν το πρόσεξε μέχρι που ένας developer έκανε decompile το binary.

AWS Μηνιαία Σύνοψη (Ιούνιος '26): Οι Agents Αποκτούν Feedback Loop

Tue, 30 Jun 2026 18:00:00 +0200

Ο Ιούνιος 2026 ήταν ο μήνας που το AWS σταμάτησε να κυκλοφορεί δυνατότητες agents και άρχισε να κυκλοφορεί το loop που τις βελτιώνει. Το Summit στη Νέα Υόρκη στις 17 Ιουνίου ήταν το κέντρο του: το AgentCore απέκτησε δυνατότητες optimization που διαβάζουν production traces και σου λένε τι κάνουν λάθος οι agents σου, το Web Search πήγε σε γενική διαθεσιμότητα, το managed harness έφτασε σε GA μια μέρα αργότερα, και το AWS Continuum ήρθε σαν μια AI-native υπηρεσία ασφάλειας που κερδίζει την άδεια να ενεργήσει αντί να την υποθέτει. Αλλού μέσα στον μήνα, η Anthropic κυκλοφόρησε και μετά έχασε το Claude Fable 5 σε μια οδηγία εξαγωγών, κάτι που δίδαξε σε όλους όσους χτίζουν πάνω σε ένα frontier μοντέλο κάτι άβολο για τις εφοδιαστικές αλυσίδες.

Agents on Call, Μέρος 5. Η Ομάδα: Supervisor και Τρεις Ειδικοί

Thu, 25 Jun 2026 09:00:00 +0200

Τέσσερις agents υπάρχουν τώρα εκεί όπου το Μέρος 4 άφησε έναν: ένας supervisor, ένας runbook agent και ένας cost agent προστίθενται στο incident-triage, συντονισμένοι όχι με κλήσεις συναρτήσεων Python μέσα σε μία διεργασία αλλά μέσω του ίδιου του InvokeAgentRuntime API του AgentCore Runtime, επειδή και οι τέσσερις εξακολουθούν να αναπτύσσονται ως ξεχωριστοί, απομονωμένοι πόροι Runtime, η ίδια απομόνωση για την οποία το Μέρος 3 επέλεξε εξαρχής το AgentCore Runtime. Ένας ακόμα πόρος AWS τους δένει μεταξύ τους: ένα μοναδικό instance AgentCore Memory, κοινόχρηστο και από τους τέσσερις ανά actor ID, ώστε μια διάγνωση που γράφει το triage στις 3 τα ξημερώματα να παραμένει αναγνώσιμη από τον runbook agent στον οποίο την παραδίδει δευτερόλεπτα αργότερα, και από όποιον agent κοιτάξει ξανά τον επόμενο μήνα ένα περιστατικό με παρόμοιο σχήμα.

Η AWS Έφτιαξε ένα Sandbox για Κώδικα Παραγόμενο από AI: Lambda MicroVMs

Tue, 23 Jun 2026 02:00:00 +0200

Τα AWS Lambda MicroVMs είναι ένα νέο serverless primitive, χτισμένο, με τη διατύπωση της ίδιας της AWS, για να εκτελεί κώδικα παραγόμενο από χρήστες ή AI σε απομονωμένα, stateful περιβάλλοντα. Αυτή η δεύτερη λέξη είναι που πρέπει να προσέξετε. Η κυκλοφορία δεν αφορά πραγματικά τα functions. Αφορά το να δοθεί σε έναν AI agent ένας ασφαλής χώρος για να εκτελέσει τον κώδικα που μόλις έγραψε, και το γεγονός ότι η AWS ξεκίνησε με το "χρήστες ή AI" σας λέει για ποιον προορίζεται.

Το πραγματικό όριο του multi-agent συστήματός σας είναι τα tokens ανά λεπτό

Sun, 21 Jun 2026 16:00:00 +0200

Το Amazon Bedrock εκθέτει πλέον τα όρια tokens ανά λεπτό του Mantle endpoint του στην τυπική κονσόλα AWS Service Quotas. Μπορείτε να διαβάσετε απευθείας τα ανά μοντέλο όρια input-tokens-per-minute και output-tokens-per-minute, και να ζητήσετε αυξήσεις μέσα από την ίδια ροή εργασίας που χρησιμοποιείτε ήδη για όλα τα υπόλοιπα στο AWS. Αυτό ακούγεται σαν μια μικρή αλλαγή στην κονσόλα. Για όποιον τρέχει multi-agent συστήματα στην παραγωγή, είναι η διαφορά ανάμεσα στο να σχεδιάζετε τη χωρητικότητά σας και στο να την ανακαλύπτετε ως ένα τείχος από 429.

Η Εσθονία Δίνει Ταυτότητα στους AI Agents. Αυτό Είναι το Εύκολο Μέρος

Sat, 20 Jun 2026 16:00:00 +0200

Η Εσθονία προτίθεται να εκδώσει επίσημες ψηφιακές ταυτότητες, "AI ID codes", σε AI agents. Το γραφείο του Πρωθυπουργού Kristen Michal αναφέρει ότι ο στόχος είναι να επιτρέψει στην AI να "ενεργεί εκ μέρους ανθρώπων, εταιρειών ή οργανισμών εντός σαφώς καθορισμένων ορίων και με τρόπο που είναι τόσο επαληθεύσιμος όσο και ελέγξιμος". Αν υλοποιηθεί, η Εσθονία γίνεται η πρώτη χώρα που δίνει στους AI agents μια ταυτότητα αναγνωρισμένη από το κράτος. Πρόκειται για μια πραγματικά χρήσιμη κίνηση, και επίσης είναι το εύκολο μέρος. Το δύσκολο μέρος είναι όλα όσα υποτίθεται ότι κουβαλάει αυτή η ταυτότητα.

Le Chaton Fat: Το πιο χοντρό μοντέλο AI που δεν υπήρξε ποτέ

Thu, 18 Jun 2026 11:00:00 +0200

Να σου γλιτώσω μια αναζήτηση: δεν υπάρχει μοντέλο που να λέγεται Le Chaton Fat. Ούτε βάρη, ούτε API, ούτε benchmark. Δεν είναι leak, δεν είναι roadmap, δεν είναι προϊόν της Mistral. Είναι ένα αστείο, και τις τελευταίες μέρες έγινε το πιο αστείο πράγμα που έχει πει στον εαυτό της η κοινότητα AI εδώ και καιρό.

Επειδή μερικοί άνθρωποι ψάξανε στα σοβαρά να βρουν το link για κατέβασμα, νομίζω πως το αστείο αξίζει ένα κανονικό κείμενο. Οπότε να τι παίζει με το πιο χοντρό μοντέλο που δεν υπήρξε ποτέ.

Agents on Call, Μέρος 4. Εργαλεία και το Gateway: MCP, Allowlists, Read-Only ως προεπιλογή

Thu, 18 Jun 2026 09:00:00 +0200

Τέσσερα εργαλεία βρίσκονται τώρα πίσω από ένα AgentCore Gateway αντί να είναι συνδεδεμένα μία συνάρτηση Python τη φορά σε κάθε agent: τα cloudwatch-read, logs-read και cost-read αναλαμβάνουν έναν read-only ρόλο σε έναν λογαριασμό spoke και δεν μπορούν ποτέ να μεταβάλουν τίποτα, ενώ το ssm-execute, το μοναδικό εργαλείο της πλατφόρμας που μεταβάλλει κατάσταση, δεν μπορεί ούτε αυτό να φτάσει απευθείας σε ένα spoke, μπορεί μόνο να ξεκινήσει μια εκτέλεση Step Functions που παύει και περιμένει έγκριση ανθρώπου στο Slack. Αυτή η παύση δεν είναι μια ευκολία στο UI. Είναι το μοναδικό σημείο σε ολόκληρη την πλατφόρμα όπου δημιουργείται ένα AWS credential ικανό να αλλάξει κάτι σε έναν λογαριασμό spoke, και δημιουργείται μόνο αφού ένας άνθρωπος πατήσει έγκριση.

Οι AI Coding Agents Χρειάζονται Κι Αυτοί Staging Environments

Fri, 12 Jun 2026 09:00:00 +0200

Κάθε πειθαρχία περιβάλλοντος που έχτισε η ομάδα σου για ανθρώπους ισχύει και για coding agents, και οι περισσότερες ομάδες την εγκατέλειψαν σιωπηλά τη στιγμή που ο agent έγινε καλός. Ο ίδιος οργανισμός που δεν θα άφηνε έναν νέο υπάλληλο κοντά στο production την πρώτη μέρα θα δώσει σε έναν agent ένα μακρόβιο credential και μια περιγραφή εργασίας, και μετά θα εκπλαγεί όταν κάτι διαγραφεί που δεν έπρεπε.

Η θέση είναι σκόπιμα βαρετή: ένας agent είναι ένας ασυνήθιστα γρήγορος contributor χωρίς θεσμική κρίση, και η κλίμακα περιβαλλόντων υπάρχει ακριβώς για contributors σαν αυτόν. Dev, staging, production, με μια πύλη ανάμεσα σε κάθε ένα. Ποτέ δεν αφορούσε τον άνθρωπο. Πάντα αφορούσε την ακτίνα έκρηξης.

Agents on Call, Μέρος 3. Πρώτος Agent: Incident Triage στο Strands

Thu, 11 Jun 2026 09:00:00 +0200

Ο πρώτος agent που δουλεύει πραγματικά σε αυτή τη σειρά είναι περίπου 260 γραμμές Python: ένας Strands Agent, δύο read-only εργαλεία που αναλαμβάνουν έναν cross-account ρόλο IAM πριν καλέσουν το boto3, και ένα system prompt του οποίου η αποκλειστική δουλειά είναι να εμποδίσει το μοντέλο να ακούγεται σίγουρο για κάτι που στην πραγματικότητα δεν έχει ελέγξει. Ακόμα χωρίς AgentCore Gateway, χωρίς supervisor, χωρίς multi-agent handoff: αυτά έρχονται σε επόμενα μέρη. Αυτό το μέρος αφορά το να κάνει ένας agent σωστά μία δουλειά, αναπτυγμένος στο AgentCore Runtime, πριν προστεθεί οτιδήποτε κάνει το debugging του πιο δύσκολο.

Το Claude Code στο CI: Αφήνοντας έναν Agent να Διορθώσει το Build

Mon, 08 Jun 2026 14:00:00 +0200

Το να βάλεις έναν coding agent στο CI είναι ένα πρόβλημα σχεδιασμού permissions ντυμένο με κοστούμι παραγωγικότητας. Η μηχανική είναι δουλειά ενός απογεύματος: το headless mode κυκλοφορεί από το Claude Code 2.0 τον Σεπτέμβριο του 2025, και το anthropics/claude-code-action@v1 τυλίγει όλο το πράγμα σε ένα GitHub Action. Μπορείς να έχεις έναν agent να σχολιάζει pull requests πριν το μεσημέρι. Το αν πρέπει να τον αφήσεις να κάνει push commits είναι διαφορετικό ερώτημα, και είναι το μόνο που έχει σημασία.

Agents on Call, Μέρος 2. Το θεμέλιο: Terraform πριν τα tokens

Thu, 04 Jun 2026 09:00:00 +0200

Πριν οποιοσδήποτε από τους τέσσερις agents του Μέρους 1 μπορέσει να κοιτάξει ένα log, να τιμολογήσει ένα workload, ή να προτείνει μια διόρθωση, αυτή η πλατφόρμα χρειάζεται ένα όριο λογαριασμού και δύο ρόλους IAM που κάνουν το «read-only by default» μια ιδιότητα επιβεβλημένη από την AWS, όχι μια υπόσχεση μέσα σε ένα system prompt. Αυτό το όριο, το αίτημα πρόσβασης σε μοντέλα που πρέπει να γίνει μέρες πριν σχεδιάσει κανείς να κάνει κάποιο demo, και η απόφαση ανάμεσα σε on-demand, provisioned throughput, και cross-region inference profiles είναι αυτά που χτίζονται σε αυτό το μέρος, εξ ολοκλήρου σε Terraform, πριν υπάρξει έστω μία γραμμή κώδικα agent.

Το Context Window Δεν Είναι Φίλος Σου

Wed, 03 Jun 2026 10:00:00 +0200

Ένα μεγάλο context window είναι ένα όριο χωρητικότητας, όχι μια στρατηγική retrieval. Το ότι ένα μοντέλο δέχεται αρκετές εκατοντάδες χιλιάδες tokens δεν σημαίνει ότι τα διαβάζει με ομοιόμορφη προσοχή, και σίγουρα δεν σημαίνει ότι πρέπει να πληρώνεις για να τα στέλνεις. Κάθε long-context benchmark που μπήκε στον κόπο να μετρήσει θέση και μήκος λέει το ίδιο πράγμα: η ακρίβεια πέφτει καθώς μεγαλώνει η είσοδος, και τα στοιχεία που είναι θαμμένα στη μέση ενός prompt χρησιμοποιούνται λιγότερο.

AWS Μηνιαία Σύνοψη (Μάιος '26): Οι Agents Αποκτούν Πορτοφόλι

Sun, 31 May 2026 19:00:00 +0200

Ο Μάιος 2026 ήταν ο μήνας που το AWS έδωσε στους agents ένα πορτοφόλι και ενίσχυσε το toolchain που τους χτίζει. Ο τίτλος ήταν το Amazon Bedrock AgentCore Payments σε preview, ο πρώτος managed τρόπος για έναν agent να πληρώνει αυτόνομα για τα APIs, το περιεχόμενο και τις υπηρεσίες που χρησιμοποιεί. Γύρω του, το AWS κυκλοφόρησε το Agent Toolkit for AWS και πήγε ένα managed Model Context Protocol server σε γενική διαθεσιμότητα, και τα δύο με στόχο να κάνουν τους AI coding agents να χτίζουν στο AWS με λιγότερα λάθη και πιο σφιχτούς ελέγχους. Διαβασμένος μαζί, ο μήνας λέει ότι η ιστορία των agents προχωρά πέρα από το "μπορεί να συλλογιστεί" προς το "μπορεί να κάνει συναλλαγές, και μπορούμε να εμπιστευτούμε τα εργαλεία που τον χτίζουν."

Agents on Call, Μέρος 1. Το σενάριο: Γιατί μια ομάδα Ops προσλαμβάνει agents

Thu, 28 May 2026 09:00:00 +0200

Μια μεσαίου μεγέθους B2B SaaS εταιρεία με περίπου 50 μηχανικούς σε γύρω στους 30 λογαριασμούς AWS ειδοποιεί κάποιον on-call περίπου 40 φορές την εβδομάδα, και η ειδοποίηση παίρνει πραγματική απάντηση μόνο μετά από 25 έως 35 λεπτά χειρωνακτικής συλλογής πλαισίου: ποιος λογαριασμός, ποιο dashboard, ποιο runbook, αν αυτό το runbook είναι έστω ακόμα ακριβές. Αυτό συμβαίνει πριν ξεκινήσει η διάγνωση, όχι αντί για αυτήν. Αυτή η σειρά χτίζει τη λύση: μια μικρή πλατφόρμα από AI agents που κάνει αυτό το πρώτο πέρασμα αυτόματα, διαβάζει ό,τι της επιτρέπεται να διαβάσει, δεν αλλάζει τίποτα χωρίς την έγκριση ενός ανθρώπου, και σταματά να είναι χρήσιμη τη στιγμή που σταματά να είναι τόσο πειθαρχημένη.

Logging Prompts Χωρίς Logging PII

Wed, 27 May 2026 14:00:00 +0200

Δεν μπορείς να κάνεις αποσφαλμάτωση σε μια εφαρμογή LLM χωρίς logging prompts, και δεν μπορείς να κρατάς αυτά τα prompts αν είναι γεμάτα ονόματα, emails και αριθμούς λογαριασμών. Οι χρήστες πληκτρολογούν προσωπικά αναγνωρίσιμες πληροφορίες κατευθείαν στο κουτί, οπότε το log που σε βοηθά να καταλάβεις μια κακή απόκριση είναι επίσης ένα αυξανόμενο απόθεμα ρυθμιζόμενων δεδομένων που κάθεται στο CloudWatch ή στο S3 με λάθος retention και λάθος ελέγχους πρόσβασης. Η λύση δεν είναι να σταματήσεις το logging. Είναι να κάνεις redact πριν την αποθήκευση και να βάλεις μια πολιτική retention σε ό,τι απομένει, ώστε η αξία αποσφαλμάτωσης να επιβιώνει και η ευθύνη να μην επιβιώνει.

Τώρα

Mon, 25 May 2026 10:00:00 +0200

(Τελευταία ενημέρωση: Μάιος 2026)

Γραφή

Δημοσιεύω εδώ σημειώσεις πεδίου για την ΤΝ, τα LLMs και το εφαρμοσμένο ML. Διατηρώ επίσης το ercan.cloud για cloud και platform engineering, και σύντομα νέα ΤΝ στο news.ercan.ai. Χτίζω το awsmonthly.cloud, ένα μηνιαίο digest νέων για το AWS (δεν έχει κυκλοφορήσει ακόμα).

Συμβουλευτική

Αναλαμβάνω μικρό αριθμό συμβουλευτικών έργων σε ΤΝ και εφαρμοσμένο ML. Αρχιτεκτονική Bedrock, βελτιστοποίηση κόστους LLM, σχεδιασμός agentic pipelines, interim επικεφαλής πλατφόρμας ΤΝ. Αν αυτό που αναπτύσσετε επικαλύπτεται με τη θεματολογία μου, επικοινωνήστε μέσω LinkedIn.

Consulting & Advisory

Sun, 24 May 2026 10:00:00 +0200

Analamvano ena mikro arithmo sumbouleutikon ergon kathe chrono. Mou aresei aute e douleia. Me kratei mesa se pragmatikous paragogikous periorismous, ekei opou genniountai ta chresima patterns. Kathe ergo trofodotei ta arthra auto tou site, kai ta arthra trofodotoun ta erga.

Uperesies

Architektonike platformas Bedrock kai LLM. Themeliognosia kostous gia paragogika fortia LLM. Dromologese montelon, katagrafi epidoson sunagogis, schediasmos guardrail, anakatapse se pollaples perioches. Paradideis charak teristika, ochi upodome.
Beltistopoiese kostous LLM. Oi perissoteres omades pleronoun 60-90% parapano se Bedrock Knowledge Base, OpenSearch Serverless kai provisioned throughput giati to montelo timologeses den einai profanes. Entopizo te spatal e, anadiatasso to stack kai sou paradido to dashboard kostous.
Schediasmos agentikon pipelines. E metabase apo to chat stous praktores. Architektonike tool-use, schediasmos agent loop, semeia elenchou human-in-the-loop, katagrafi kai parateresimoteta gia me aitiokrates roes ergasias.
S3 Vectors kai architektonike RAG. Egenis anazetese dianusmaton S3, strategike katatmematos, epiloge montelou endomatoses, axiologese anakteses. Parakampse to antanaklastiko “aplos prosthese mia dianusmatike base”.

Pos douleuo

Basei ergou. Echeis ena sugkekrimeno charak teristiko, mia pipeline e mia metanasteuse. To chtizo mazi me ten omada sou kai metavivazo ten idioktesia me tekm e riosi.

Σχετικά

Sat, 23 May 2026 10:00:00 +0200

Είμαι ο Ercan Ermis. Ανώτερος μηχανικός πλατφόρμας cloud με έδρα τις Κάτω Χώρες. Γράφω εδώ για AI, LLMs, πράκτορες και τη μηχανική εργασία που απαιτείται για να βγουν στην παραγωγή.

Πώς έφτασα εδώ

Ο πρώτος υπολογιστής στη ζωή μου ήταν ένας Amstrad με δύο μονάδες δισκέτας 5,25 ιντσών (Floppy A και Floppy B), αγορασμένος από τον πατέρα μου το 1986 για την επιχείρησή του. Ο πραγματικός έρωτας ξεκίνησε το 1998, στην τετάρτη δημοτικού, όταν ο δάσκαλός μου εγκατέστησε Linux σε ένα από τα μηχανήματα Windows 95 του εργαστηρίου πληροφορικής του σχολείου και είπε “αυτό είναι το Linux, είναι ελεύθερο λογισμικό.” Μετά εμφανίστηκε ο Pac-Man σε εκείνη τη μαύρη οθόνη και τελείωσα.

Όταν το Haiku Νικά το Opus: Model Right-Sizing στο Bedrock

Fri, 22 May 2026 11:00:00 +0200

Η περισσότερη κίνηση LLM σε παραγωγή δεν είναι δύσκολη. Είναι ταξινόμηση, εξαγωγή, σύντομες αναδιατυπώσεις και δρομολόγηση, το είδος δουλειάς που ένα μικρό γρήγορο μοντέλο κάνει σωστά και φθηνά. Ωστόσο το κοινό πρότυπο είναι να συνδέεις κάθε κλήση με το μεγαλύτερο διαθέσιμο μοντέλο, επειδή "απλά δουλεύει", και μετά να αναρωτιέσαι γιατί ο λογαριασμός και το latency είναι και τα δύο ψηλά. Στο Amazon Bedrock, το Claude Haiku 4.5 και το Claude Opus 4.5 είναι και τα δύο διαθέσιμα, και η μηχανική νίκη δεν είναι να διαλέξεις ένα, είναι να δρομολογείς ανά κατηγορία εργασίας ώστε το φθηνό μοντέλο να χειρίζεται την πλειοψηφία και το ακριβό να είναι διαδρομή κλιμάκωσης, όχι προεπιλογή.

Το Agentic RAG Είναι Ως Επί Το Πλείστον Latency Που Δεν Χρειάζεσαι

Mon, 18 May 2026 16:00:00 +0200

Το agentic RAG αντικαθιστά μία ανάκτηση με ένα loop: το μοντέλο ανακτά, διαβάζει, αποφασίζει ότι χρειάζεται περισσότερα, ανακτά ξανά, και επαναλαμβάνει μέχρι να ικανοποιηθεί. Κάθε hop είναι ένα πλήρες round trip μοντέλου συν μια αναζήτηση, και τα hops είναι διαδοχικά επειδή το καθένα εξαρτάται από το προηγούμενο. Για τις περισσότερες ερωτήσεις, αυτό αγοράζει μια οριακά καλύτερη απάντηση σε πολλαπλάσιο latency, όταν ένα καλά κατασκευασμένο query θα είχε επιστρέψει το ίδιο context σε ένα μόνο πέρασμα. Η ανάκτηση πολλαπλών hops είναι ένα πραγματικό εργαλείο για μια στενή κατηγορία ερωτήσεων, και μια προεπιλογή που σιωπηλά τριπλασιάζει τον χρόνο απόκρισής σου παντού αλλού.

Evals Πριν τους Agents: Δεν Μπορείς να Κυκλοφορήσεις Ό,τι Δεν Μπορείς να Βαθμολογήσεις

Thu, 14 May 2026 13:00:00 +0200

Αν δεν μπορείς να βάλεις έναν αριθμό στο αν μια αλλαγή έκανε τον agent σου καλύτερο ή χειρότερο, δεν τον μηχανικοποιείς, μαντεύεις με επιπλέον βήματα. Ο πιο συχνός λόγος που τα agent projects κολλάνε δεν είναι ένα αδύναμο μοντέλο, είναι η απουσία ενός eval harness. Χωρίς αυτό, κάθε αλλαγή prompt, αλλαγή εργαλείου και αλλαγή μοντέλου αξιολογείται από κάποιον που κοιτάζει μερικά outputs και δηλώνει ότι "φαίνεται καλύτερο", που είναι ο τρόπος να κυκλοφορήσεις μια οπισθοδρόμηση και να το μάθεις από έναν χρήστη. Ο πίνακας βαθμολογίας πρέπει να υπάρχει πριν τον agent, γιατί δεν μπορείς να βελτιώσεις ό,τι δεν μπορείς να βαθμολογήσεις.

Semantic Caching: Δύο Διαφορετικές Ερωτήσεις, Μία Απάντηση

Mon, 11 May 2026 09:00:00 +0200

Ένα semantic cache απαντά στο "πώς επαναφέρω τον κωδικό μου" με την απόκριση που έχει ήδη παράγει για το "ξέχασα τα στοιχεία σύνδεσής μου", επειδή τα δύο σημαίνουν το ίδιο πράγμα. Αντί να ταιριάζει το ακριβές string ενός αιτήματος, ενσωματώνει (embeds) το αίτημα και ψάχνει για ένα αποθηκευμένο αίτημα του οποίου το embedding είναι αρκετά κοντά, και μετά επιστρέφει αυτή την cached απάντηση χωρίς να καλέσει το μοντέλο. Όταν δουλεύει, παρακάμπτεις εντελώς μια κλήση μοντέλου: καθόλου tokens, καθόλου latency, καθόλου κόστος. Όταν κρίνει λάθος το "αρκετά κοντά", δίνει μια σίγουρη απάντηση σε μια ερώτηση που ο χρήστης δεν έκανε.

Το Step Functions Είναι ο Πιο Υποτιμημένος Orchestrator Agents

Thu, 07 May 2026 15:00:00 +0200

Ό,τι οι περισσότεροι αποκαλούν agent είναι στην πραγματικότητα μια σταθερή ακολουθία βημάτων με μία ή δύο κλήσεις μοντέλου στη μέση. Η ροή ελέγχου είναι γνωστή εκ των προτέρων, αλλά οι ομάδες την παραδίδουν στο μοντέλο έτσι κι αλλιώς, και μετά ξοδεύουν εβδομάδες κάνοντας ένα μη ντετερμινιστικό loop να συμπεριφέρεται σωστά. Όταν το σχήμα της εργασίας είναι γνωστό, ο orchestrator πρέπει να είναι ντετερμινιστικός, και το AWS Step Functions ταιριάζει καλύτερα σε αυτή τη δουλειά από ένα χειροποίητο agent loop. Λύνει ήδη retries, timeouts, χειρισμό σφαλμάτων, παραλληλισμό και ανθρώπινη έγκριση, ακριβώς τα πράγματα που ένα agent framework σου ζητά να επανυλοποιήσεις.

LLM Gateways: Γιατί Κάθε Ομάδα Πλατφόρμας Χτίζει Ένα Τελικά

Mon, 04 May 2026 10:00:00 +0200

Το πρώτο LLM feature ξεκινά ως άμεση κλήση από μια υπηρεσία προς το Bedrock. Το δέκατο ξεκινά με τον ίδιο τρόπο, από δέκα υπηρεσίες, με δέκα σετ διαπιστευτηρίων, δέκα πολιτικές retry, και κανένα ενιαίο σημείο για να δει κανείς τι ξοδεύει ο καθένας. Εκείνη είναι η στιγμή που μια ομάδα πλατφόρμας ανακαλύπτει ότι χρειάζεται ένα LLM gateway, συνήθως ένα τρίμηνο μετά το σημείο όπου θα ήταν φθηνό να το χτίσει. Το gateway είναι η κοινή είσοδος από την οποία περνά κάθε κλήση μοντέλου, και υπάρχει για να κατέχει τα τέσσερα πράγματα που οι μεμονωμένες ομάδες συνεχίζουν να επανεφευρίσκουν άσχημα: authentication, quota, routing και audit.

AWS Μηνιαία (Απρ '26): Το OpenAI Προσγειώνεται στο Bedrock

Thu, 30 Apr 2026 18:00:00 +0200

Ο Απρίλιος του 2026 ήταν ο μήνας που το μενού μοντέλων στο Amazon Bedrock άλλαξε σχήμα. Ο τίτλος δεν ήταν μια νέα δυνατότητα AWS αλλά ένας νέος ένοικος: τα frontier μοντέλα της OpenAI, ο coding agent της Codex, και τα OpenAI-powered Managed Agents έφτασαν στο Bedrock σε περιορισμένη προεπισκόπηση. Παράλληλα, το AgentCore πέρασε τον μήνα μειώνοντας την προσπάθεια που χρειάζεται για να φτάσεις από μια ιδέα σε έναν λειτουργικό agent. Διαβασμένες μαζί, οι δύο ιστορίες λένε το ίδιο πράγμα. Το Bedrock τοποθετείται ως ο ουδέτερος χώρος όπου οι επιχειρήσεις τρέχουν όποιο frontier μοντέλο θέλουν, και το AWS αγωνίζεται να κάνει τη γύρω ροή εργασίας developer αρκετά γρήγορη ώστε η επιλογή μοντέλου να είναι η μόνη απόφαση που απομένει.

Cross-Region Inference: Φθηνή Ανθεκτικότητα ή Παγίδα Κατοικίας Δεδομένων;

Sun, 26 Apr 2026 13:00:00 +0200

Το Amazon Bedrock cross-region inference σου δίνει υψηλότερο πραγματικό throughput και λιγότερα regional σφάλματα throttling χωρίς επιπλέον χρέωση δρομολόγησης, κάτι που είναι σχεδόν δωρεάν ανθεκτικότητα. Η παγίδα είναι ότι ένα global inference profile μπορεί να στείλει το prompt σου σε όποια περιοχή έχει χωρητικότητα, και αν αυτό το prompt κουβαλάει ρυθμιζόμενα δεδομένα, το «όπου υπάρχει χωρητικότητα» δεν είναι απάντηση που θα δεχτεί η ομάδα συμμόρφωσής σου. Το χαρακτηριστικό είναι πραγματικά χρήσιμο. Το αν είναι νίκη ή παραβίαση εξαρτάται εξ ολοκλήρου από το ποιο είδος inference profile επιλέγεις, και αυτή η επιλογή είναι εύκολο να γίνει χωρίς να διαβάσεις τι σημαίνει.

Ο Λογαριασμός LLM Σου Είναι Πρόβλημα Παρατηρησιμότητας

Tue, 21 Apr 2026 15:00:00 +0200

Όταν ο λογαριασμός σου στο Amazon Bedrock εκτοξεύεται και κανείς δεν μπορεί να πει ποιο feature το προκάλεσε, δεν έχεις πρόβλημα τιμολόγησης. Έχεις πρόβλημα παρατηρησιμότητας. Το τιμολόγιο σου λέει ότι ο λογαριασμός ξόδεψε περισσότερα σε tokens. Δεν σου λέει ποιος agent, ποιος πελάτης, ή ποιο μονοπάτι κώδικα έκανε την ξοδεία, και χωρίς αυτή την απόδοση κάθε συζήτηση κόστους είναι μαντεψιά. Δεν μπορείς να βελτιστοποιήσεις αυτό που δεν μπορείς να μετρήσεις, και οι περισσότερες ομάδες μετράνε το σύνολο και τίποτα από κάτω του.

Batch Inference στο Bedrock: Μισή Τιμή Αν Μπορείς να Περιμένεις

Fri, 17 Apr 2026 11:00:00 +0200

Το Amazon Bedrock τρέχει batch inference στο 50% της τιμολόγησης tokens on-demand, και το μόνο που παραιτείσαι είναι η αμεσότητα. Υποβάλλεις ένα αρχείο με requests, η εργασία τρέχει ασύγχρονα όταν υπάρχει χωρητικότητα, και συλλέγεις τα αποτελέσματα αργότερα. Για κάθε φόρτο εργασίας όπου κανένας άνθρωπος δεν κάθεται να περιμένει την απάντηση, το να πληρώνεις πλήρη τιμή για inference σε πραγματικό χρόνο αφήνει τα μισά χρήματα στο τραπέζι για μια ταχύτητα που κανείς δεν χρειαζόταν.

Multi-Tenant Εφαρμογές LLM: Απομόνωση Πελατών σε Κοινό Μοντέλο

Mon, 13 Apr 2026 16:00:00 +0200

Όταν πολλοί πελάτες μοιράζονται ένα μοντέλο Bedrock, το μοντέλο δεν σου δίνει καμία απομόνωση και ποτέ δεν επρόκειτο να δώσει. Είναι μια stateless συνάρτηση: ίδιο input, ίδια συμπεριφορά, καμία μνήμη του ποιος κάλεσε. Κάθε όριο μεταξύ πελατών πρέπει να χτιστεί στα επίπεδα γύρω από το μοντέλο, όχι να αναμένεται από αυτό. Οι ομάδες το κάνουν αντίστροφα, υποθέτουν ότι η διαχειριζόμενη υπηρεσία χειρίζεται τον διαχωρισμό, και παραδίδουν μια εφαρμογή όπου τα δεδομένα, το κόστος, και το φορτίο ενός πελάτη διαρρέουν σε άλλον. Το κοινό μοντέλο είναι εντάξει. Το κοινό οτιδήποτε-άλλο είναι το πρόβλημα.

Η Μνήμη Agent Είναι Πρόβλημα Βάσης Δεδομένων, Όχι Πρόβλημα Prompt

Thu, 09 Apr 2026 09:00:00 +0200

Ένας agent που θυμάται επικολλώντας ολόκληρο το ιστορικό του στο επόμενο prompt δεν έχει μνήμη. Έχει έναν αυξανόμενο λογαριασμό, ένα σκληρό όριο tokens, και μια καμπύλη καθυστέρησης που χειροτερεύει με κάθε turn. Η πραγματική μνήμη είναι μια απόφαση αποθήκευσης: τι διατηρείς, πού το βάζεις, και πώς ανακτάς μόνο το σχετικό κομμάτι πίσω κατά τη στιγμή του inference. Αυτό είναι πρόβλημα βάσης δεδομένων, και το να το αντιμετωπίζεις σαν πρόβλημα prompt είναι ο τρόπος με τον οποίο agents που κάνουν καλό demo καταρρέουν τη δεύτερη εβδομάδα.

Το Structured Output Νικά το Έξυπνο Parsing

Mon, 06 Apr 2026 14:00:00 +0200

Αν η εφαρμογή σου εξακολουθεί να τραβά JSON από την πεζογραφία του μοντέλου με ένα regex και ένα retry loop, λύνεις ένα πρόβλημα που το Amazon Bedrock πλέον λύνει στο επίπεδο της αποκωδικοποίησης. Το structured output, γενικά διαθέσιμο στο Bedrock από τον Φεβρουάριο του 2026, περιορίζει το μοντέλο σε ένα JSON Schema καθώς παράγει tokens, οπότε η απάντηση συμμορφώνεται με το σχήμα σου εξ ορισμού και όχι από ελπίδα. Το regex ποτέ δεν ήταν η λύση. Ήταν το σύμπτωμα του να ζητάς από ένα μοντέλο «παρακαλώ επίστρεψε JSON» και μετά να καθαρίζεις όταν δεν το έκανε.

Prompt Caching στο Bedrock: Η Έκπτωση 90% που οι Περισσότερες Ομάδες Αγνοούν

Thu, 02 Apr 2026 10:00:00 +0200

Το Amazon Bedrock prompt caching διαβάζει ένα cached πρόθεμα με περίπου 90% έκπτωση, αλλά η εγγραφή σε cache κοστίζει περισσότερο από ένα κανονικό input token, άρα μια cache που δεν πετυχαίνει ποτέ hit κάνει τον λογαριασμό σου χειρότερο, όχι καλύτερο. Το χαρακτηριστικό είναι γενικά διαθέσιμο από τον Απρίλιο του 2025, και η διάρκεια cache μίας ώρας που κυκλοφόρησε τον Ιανουάριο του 2026 το κάνει χρήσιμο για ολόκληρες συνεδρίες και batch jobs. Οι περισσότερες ομάδες το αφήνουν ακόμα απενεργοποιημένο, ή το ενεργοποιούν στο λάθος σημείο και πληρώνουν σιωπηλά ένα premium. Η έκπτωση είναι πραγματική. Το αν θα την κερδίσεις εξαρτάται εξ ολοκλήρου από το πού βάζεις το cache breakpoint.

AWS Μηνιαία (Μαρ '26): Η Διακυβέρνηση Έρχεται για τους Agents

Tue, 31 Mar 2026 20:00:00 +0200

Ο Μάρτιος 2026 ήταν ο μήνας που η AWS σταμάτησε να στέλνει δυνατότητες agent και άρχισε να στέλνει ελέγχους agent. Οι κύριες κυκλοφορίες δεν ήταν νέα μοντέλα ή πιο εντυπωσιακά demo. Ήταν τα βαρετά, φέροντα κομμάτια που χρειάζεσαι πριν επιτραπεί σε έναν agent να πλησιάσει την παραγωγή: ένα επίπεδο εξουσιοδότησης, ένα επίπεδο αξιολόγησης ποιότητας, και ένα stack υγείας που έπρεπε να διακυβερνηθεί για να υπάρξει καν. Το μοτίβο σε όλον τον μήνα είναι το ίδιο που χτυπά κάθε τεχνολογία όταν ωριμάζει. Η ενδιαφέρουσα δουλειά μετακινείται από το "μπορεί να κάνει το πράγμα" στο "μπορείς να αποδείξεις τι έκανε και να το σταματήσεις να κάνει το λάθος".

Οι Streaming Απαντήσεις Είναι Απόφαση UX, Όχι Απόδοσης

Tue, 24 Mar 2026 15:00:00 +0200

Το streaming δεν κάνει το μοντέλο σου πιο γρήγορο. Κάνει την αναμονή να νιώθεται πιο σύντομη. Ο συνολικός χρόνος παραγωγής μιας απάντησης είναι σχεδόν ίδιος είτε τη στέλνεις σε streaming είτε όχι. Αυτό που αλλάζει το streaming είναι πότε βλέπει ο χρήστης το πρώτο token, και αυτός ο ένας αριθμός, ο χρόνος μέχρι το πρώτο token, οδηγεί ολόκληρη την αντίληψη ταχύτητας. Αντιμετώπισε το streaming ως απόφαση UX, γιατί αυτό είναι, και θα κάνεις καλύτερες επιλογές για το πότε να το χρησιμοποιείς και πότε ενεργά βλάπτει.

Bedrock Agents Έναντι της Δικής σου Loop

Wed, 18 Mar 2026 10:00:00 +0200

Ένα managed framework agent ανταλλάσσει έλεγχο με ταχύτητα, και η ανταλλαγή αξίζει μέχρι τη μέρα που δεν αξίζει. Το Amazon Bedrock Agents θα τρέξει τη loop reason-act για σένα: σχεδιάζει, αποφασίζει ποιο εργαλείο να καλέσει, το καλεί, τροφοδοτεί το αποτέλεσμα πίσω στο μοντέλο, και επαναλαμβάνει μέχρι να ολοκληρωθεί η εργασία. Αυτή είναι πραγματική δουλειά που δεν χρειάζεται να γράψεις. Το ερώτημα δεν είναι αν σου γλιτώνει χρόνο. Είναι αν τα μέρη που κρύβει είναι μέρη που μπορείς να αντέξεις να μη βλέπεις.

IAM για Εφαρμογές LLM: Ελάχιστο Προνόμιο Όταν ο Καλών Είναι Μοντέλο

Sat, 14 Mar 2026 17:00:00 +0200

Ένας agent είναι ένας καλών που δεν μπορείς να προβλέψεις πλήρως, κάτι που είναι ακριβώς ο καλών που πρέπει να κρατά το ελάχιστο προνόμιο. Το ένστικτο με έναν νέο agent είναι να του δώσεις έναν ευρύ ρόλο ώστε "απλά να δουλεύει" ενώ επαναλαμβάνεις. Αυτό το ένστικτο είναι πώς καταλήγεις με ένα γλωσσικό μοντέλο να κρατά διαπιστευτήρια που μπορούν να διαβάσουν κάθε bucket και να διαγράψουν κάθε πίνακα, οδηγούμενο από κείμενο που μπορεί να επηρεάσει ένας επιτιθέμενος. Το ελάχιστο προνόμιο ήταν πάντα ο κανόνας. Ένας μη-ντετερμινιστικός καλών τον κάνει μη διαπραγματεύσιμο.

Κάποιος Κατοχύρωσε το antrophic.com και το Στρέφει Κατευθείαν στο OpenAI

Wed, 11 Mar 2026 12:34:48 +0300

Ένα typosquatted domain, μια ύποπτη ανακατεύθυνση, και λίγο παραπάνω απ' όσο χρειάζεται για να το πεις σύμπτωση.

Το πραγματικό domain: anthropic.com. Η εταιρεία AI safety πίσω από το Claude, που ιδρύθηκε από πρώην ερευνητές του OpenAI, κάνοντας πραγματικά σημαντική δουλειά στο να κάνει τα AI συστήματα ασφαλή και ερμηνεύσιμα.

Τώρα δοκίμασε να το πληκτρολογήσεις λάθος. Παράλειψε το δεύτερο "h". Φτάνεις στο antrophic.com -- ένα domain που υπάρχει, είναι κατοχυρωμένο, και σύμφωνα με πολλαπλές αναφορές, ανακατευθύνει απευθείας στο openai.com.

Σταμάτα το Fine-Tuning. Χρειάζεσαι RAG, Cache και Καλύτερα Prompts

Mon, 09 Mar 2026 11:00:00 +0200

Για τις περισσότερες ομάδες που καταφεύγουν στο fine-tuning στο Amazon Bedrock, η σωστή απάντηση είναι retrieval, ένα prompt cache, και καλύτερα prompts, με αυτή τη σειρά. Το fine-tuning είναι το εργαλείο που εξετάζεις αφού εξαντλήσεις αυτά τα τρία, όχι πριν. Ο λόγος δεν είναι ιδεολογία. Είναι ο λογαριασμός. Ένα προσαρμοσμένο fine-tuned μοντέλο στο Bedrock πρέπει να σερβίρεται μέσω Provisioned Throughput, και αυτό το μοντέλο τιμολόγησης αλλάζει τα οικονομικά ολόκληρης της εφαρμογής σου.

Το Chunking της Knowledge Base Είναι Εκεί Που Πεθαίνει η Ποιότητα του RAG Σου

Thu, 05 Mar 2026 14:00:00 +0200

Όταν ένα σύστημα RAG δίνει λάθος ή μισή απάντηση, το μοντέλο συνήθως δεν φταίει. Φταίει το chunking. Αν το απόσπασμα που κρατά την απάντηση δεν φτάσει ποτέ στο ανακτημένο context, κανένα μοντέλο δεν μπορεί να απαντήσει από αυτό, και καμία ρύθμιση prompt δεν το αλλάζει αυτό. Το chunking αποφασίζει τι μπορεί να ανακτηθεί εν γένει, κάτι που το κάνει το πρώτο πράγμα που πρέπει να εξετάσεις και το τελευταίο που κοιτάζουν οι περισσότερες ομάδες.

Τα Bedrock Guardrails Δεν Θα Σε Σώσουν Από το Prompt Injection

Tue, 03 Mar 2026 09:00:00 +0200

Το Amazon Bedrock Guardrails είναι φίλτρο περιεχομένου, όχι όριο ασφαλείας. Ταξινομεί κείμενο βάσει πολιτικών θέματος, τοξικότητας και PII και μπλοκάρει ό,τι ξεπερνά ένα κατώφλι. Αυτό είναι πραγματικά χρήσιμο για να μη μιλήσει ένα bot υποστήριξης πελατών για κάποιον ανταγωνιστή ή να μη διαρρεύσει ένα τηλέφωνο. Δεν είναι όμως αυτό που σταματά ένα prompt injection να μετατρέψει τον agent σου σε confused deputy, γιατί το prompt injection είναι πρόβλημα εξουσιοδότησης και το Guardrails δεν εξουσιοδοτεί τίποτα.

Κόβοντας το Κόστος του Amazon Bedrock Knowledge Base κατά ~90%: Μετάβαση από OpenSearch Serverless σε Aurora Serverless v2 με pgvector

Sat, 21 Feb 2026 21:30:00 +0300

TL;DR

Αν τρέχεις ένα Amazon Bedrock Knowledge Base με OpenSearch Serverless (AOSS), πληρώνεις ένα κατώφλι ~$700/μήνα πριν καν εισάγεις το πρώτο έγγραφο. Για τα περισσότερα μικρά και μεσαία RAG workloads, η αντικατάσταση του AOSS με Aurora PostgreSQL Serverless v2 με το pgvector extension ρίχνει αυτό το κατώφλι κάτω από $50/μήνα, μείωση κόστους ~90%, παραμένοντας ένα πλήρως υποστηριζόμενο, first-class vector store για Bedrock Knowledge Bases.

Αυτό το post εξετάζει το γιατί, τα μαθηματικά, τα trade-offs και τη διαδρομή μετάβασης, χρησιμοποιώντας μια πραγματική production υποδομή ως reference implementation.

AWS Monthly (Δεκ '25): Η Εποχή του Kiro Ξεκινά

Wed, 31 Dec 2025 20:23:45 +0300

Κλείσαμε τη χρονιά με τη General Availability του Kiro (Frontier Agents). Το Kiro δεν είναι απλά ένα chatbot; είναι μια Virtual Software Development Team.

Τεχνικά, το Kiro είναι ένας Autonomous Coding Agent. Μπορείς να του αναθέσεις ένα ticket από το Jira και θα:

Αντλήσει context από τα Git repos σου.
Συντάξει την υλοποίηση σε ένα ασφαλές sandbox.
Τρέξει τα unit και integration tests.
Υποβάλει το Pull Request για review.

Κατανοεί το context ολόκληρου του codebase, όχι μόνο ενός αρχείου. Είδαμε επίσης το λανσάρισμα των Database Savings Plans, που πλέον συγκεντρώνουν το spend σου σε RDS, Aurora και DynamoDB σε ένα ευέλικτο commitment.

AWS re:Invent 2025: Η "Agentic" Εποχή

Sun, 14 Dec 2025 20:25:19 +0300

Αν το 2024 ήταν η χρονιά που μιλούσαμε στα LLMs, το re:Invent 2025 ήταν η χρονιά που τα αφήσαμε να κάνουν πραγματικά τη δουλειά. Ακολουθεί η αναλυτική καταγραφή των πιο σημαντικών ανακοινώσεων.

1. Η Οικογένεια Μοντέλων Amazon Nova 2

Η AWS δεν αναβάθμισε απλά τα μοντέλα της· έχτισε έναν εξειδικευμένο στόλο για διαφορετικούς agentic ρόλους:

Nova 2 Lite: Βελτιστοποιημένο για ταχύτητα και κόστος. Ισάξιο ή καλύτερο από το Gemini Flash 2.5 σε 14/18 benchmarks.
Nova 2 Pro: Το «βαρύ πυροβολικό» reasoning. Ιδανικό για πολύπλοκες multi-step εργασίες και μακροπρόθεσμο σχεδιασμό.
Nova 2 Sonic: Ένα speech-to-speech μοντέλο για conversational AI με χαμηλό latency.
Nova 2 Omni: Το πραγματικό multimodal αστέρι. Επεξεργάζεται κείμενο, εικόνες, βίντεο και ομιλία ταυτόχρονα με context window 1M token.
Nova Act: Generally Available και σχεδιασμένο ειδικά για UI automation (browser-based tasks) με αξιοπιστία >90%.

2. Custom Silicon: Graviton5 & Trainium3

Η ιστορία στο hardware αφορούσε την αποσύνδεση της απόδοσης από το κόστος:

AWS Monthly (Οκτ '25): Βιομηχανοποιώντας το AI Training

Fri, 31 Oct 2025 20:18:03 +0300

Ο Οκτώβριος ήταν η «ηρεμία πριν από την καταιγίδα του re:Invent», αλλά έφερε την αποκάλυψη του Project Rainier.

Το Project Rainier είναι ένα τεράστιο AI compute cluster με πάνω από 500.000 Trainium2 chips. Τεχνικά, αυτό είναι ένα από τα μεγαλύτερα dedicated AI training environments στον πλανήτη. Για εμάς, σημαίνει την «Βιομηχανοποίηση του AI». Ο λόγος price-to-performance του Trainium2 μέσω του Neuron SDK είναι πλέον σημαντικά καλύτερος από συγκρίσιμα GPU instances για transformer workloads.

AWS Monthly (Ιουν '25): Το S3 Γίνεται το Vector DB Σου

Mon, 30 Jun 2025 20:08:00 +0300

Ο Ιούνιος έφερε μια τεκτονική αλλαγή στο AI data stack με το preview του Amazon S3 Vector Search.

Τα τελευταία δύο χρόνια, μας έλεγαν ότι χρειαζόμαστε μια εξειδικευμένη vector database (Pinecone, Milvus, κλπ.) για Retrieval-Augmented Generation (RAG). Η AWS απλοποίησε την εξίσωση: «Απλά αποθήκευσε τα vectors σου στο S3.» Τεχνικά, αυτό προσθέτει ένα native vector indexing layer στα S3 buckets. Μπορείς να αποθηκεύσεις embeddings ως metadata στα objects σου και να εκτελέσεις KNN (K-Nearest Neighbor) searches απευθείας μέσω API.

AWS Monthly (Φεβ '25): Automated Code Evolution

Fri, 28 Feb 2025 19:49:00 +0300

Ο Φεβρουάριος ήταν ο μήνας που το Amazon Q Developer σταμάτησε να είναι "βοηθός" και άρχισε να λειτουργεί σαν "senior engineer". Η είδηση ήταν το λανσάρισμα του Q-driven Refactoring.

Δεν πρόκειται για απλό code completion. Τεχνικά, το Q χρησιμοποιεί πλέον έναν συνδυασμό Symbolic AI και LLMs για να εκτελέσει πλήρες repository dependency mapping. Μπορεί να διαχειριστεί αυτόνομα πολύπλοκα migrations, όπως το refactoring ενός legacy Java 8 microservice σε Java 21. Εντοπίζει deprecated libraries, προτείνει σύγχρονα replacements και ξαναγράφει boilerplate για να ευθυγραμμιστεί με μοντέρνα design patterns, όπως το Hexagonal Architecture.