AI, LLMs, and applied ML.
Σημειώσεις πεδίου ανώτερου μηχανικού για AI, LLMs, πράκτορες και εφαρμοσμένη μηχανική μάθηση από τον Ercan Ermis.
All posts
One Door to the Models, Μέρος 2: Terraform, Bicep ή ARM
Το Bicep δεν έχει state file και δεν αγγίζει το Entra ID. Το Μέρος 2 διαλέγει το επίπεδο IaC για το gateway και βρίσκει το default που μετακινεί το production.
One Door to the Models, Μέρος 1: Τα επιχειρήματα για ένα κεντρικό LLM Gateway
Μια εταιρεία τρέχει πέντε εφαρμογές GenAI και δεν ξέρει τι κοστίζει καθεμία. Μέρος 1: το σενάριο, build ή buy στο Azure, και το gateway που χτίζει αυτή η σειρά.
Agents on Call, Μέρος 8. Παραγωγή: Observability, Evals, και η Μέρα που Θα Πει Ψέματα
OTEL traces στο CloudWatch, Bedrock invocation logging σε S3, ένα eval harness με golden set περιστατικών, και η μέρα που ο triage agent είπε πειστικά ψέματα.
Το Kiro Μετά τον Θόρυβο: Τι Άλλαξαν Πραγματικά τα AI IDEs
Οκτώ μήνες μετά το GA του Kiro, το spec επέζησε, το IDE ως επί το πλείστον όχι. Αυτό που άλλαξε είναι πού γίνεται ο έλεγχος, όχι ποιος γράφει τον κώδικα.
Γιατί το AI Pilot σου Πέθανε στις Προμήθειες
Τα AI pilots δεν αποτυγχάνουν στην ακρίβεια. Κολλάνε στον έλεγχο ασφάλειας, γιατί κανείς δεν προγραμμάτισε τις δώδεκα εβδομάδες που ακολουθούν.
Παρακολούθηση Κόστους Bedrock ανά Εφαρμογή με Inference Profiles
Τα inference profiles βάζουν ετικέτες κόστους στις κλήσεις Bedrock, μετατρέποντας τον λογαριασμό σε γραμμές ανά ομάδα. Ο σχεδιασμός ετικετών είναι δύσκολος.
Agents on Call, Μέρος 7. Διαστασιολόγηση: Τα Μαθηματικά των Tokens που Κανείς δεν Κάνει από Πριν
Τα μαθηματικά διαστασιολόγησης που όλοι αναβάλλουν: tokens ανά περιστατικό, όρια quotas, πότε συμφέρει το Provisioned Throughput, και ο μηνιαίος λογαριασμός.
EU AI Act, 2 Αυγούστου: Η Προθεσμία Που Δεν Μετακινήθηκε
Ο Digital Omnibus ανέβαλε τις προθεσμίες υψηλού κινδύνου. Η διαφάνεια του Άρθρου 50 ισχύει από 2 Αυγούστου 2026, και αυτή χτυπά τις περισσότερες ομάδες.
SageMaker εναντίον Bedrock: Μια Οργανωτική Απόφαση, Όχι Τεχνική
Το ερώτημα SageMaker ή Bedrock αφορά αν ο οργανισμός σου έχει ομάδα που κατέχει μοντέλα. Επίλεξε για την τοπολογία ομάδων που έχεις, όχι αυτήν της παρουσίασης.
Prompt Injection Μέσω των Δικών σου Εγγράφων: Η Επιφάνεια Επίθεσης του RAG
Η βάση γνώσης σου είναι μη έμπιστη είσοδος. Η ανάκτηση δίνει στο μοντέλο κείμενο του επιτιθέμενου, οπότε ο έλεγχος που αποδίδει είναι η σάρωση στην πρόσληψη.
Περισσότερα από τον Ercan
Δύο ακόμη ιστότοποι, ίδιος συγγραφέας, διαφορετικό έδαφος.
Cloud, AWS, EKS, Terraform, platform engineering.
Σημειώσεις πεδίου από συστήματα παραγωγής. EKS, IAM, Terraform σε κλίμακα οργανισμού, observability, βελτιστοποίηση κόστους.
Επισκεφθείτε ercan.cloud →Ο κόμβος. Σχετικά, συμβουλευτική, επικοινωνία.
Προσωπικός κόμβος και για τις δύο διαδρομές γραφής. Ποιος είμαι, πώς λειτουργεί η συμβουλευτική, πώς να επικοινωνήσετε.
Επισκεφθείτε ercanermis.com →