Η Εσθονία προτίθεται να εκδώσει επίσημες ψηφιακές ταυτότητες, "AI ID codes", σε AI agents. Το γραφείο του Πρωθυπουργού Kristen Michal αναφέρει ότι ο στόχος είναι να επιτρέψει στην AI να "ενεργεί εκ μέρους ανθρώπων, εταιρειών ή οργανισμών εντός σαφώς καθορισμένων ορίων και με τρόπο που είναι τόσο επαληθεύσιμος όσο και ελέγξιμος". Αν υλοποιηθεί, η Εσθονία γίνεται η πρώτη χώρα που δίνει στους AI agents μια ταυτότητα αναγνωρισμένη από το κράτος. Πρόκειται για μια πραγματικά χρήσιμη κίνηση, και επίσης είναι το εύκολο μέρος. Το δύσκολο μέρος είναι όλα όσα υποτίθεται ότι κουβαλάει αυτή η ταυτότητα.

Φτιάχνω συστήματα με agents που κατέχουν πραγματικά credentials, οπότε η αντίδρασή μου είναι λιγότερο "είναι αυτό δυστοπικό" και περισσότερο "τι πρέπει στην πραγματικότητα να συνδέει αυτή η ταυτότητα". Ένα αναγνωριστικό από μόνο του είναι ένας αριθμός. Αυτό που του δίνει σημασία είναι όσα του προσαρτάς: εξουσιοδότηση, μια αλυσίδα ανάθεσης και λογοδοσία. Αν τα κάνεις αυτά λάθος, έχεις παραδώσει ένα πολύ επίσημης όψης primary key.

Τι ανακοίνωσε στην πραγματικότητα η Εσθονία

Το σχέδιο είναι να αποδοθεί σε κάθε agent ένα αναγνωριστικό του οποίου ο σκοπός είναι διττός: η ταυτοποίηση και ο περιορισμός του εύρους των ενεργειών που επιτρέπεται να κάνει ο agent. Η διατύπωση από το γραφείο του Michal είναι η σωστή: "πρέπει να είναι σαφές ποιος ενεργεί εκ μέρους ποιου, με ποια δικαιώματα, και ποιος είναι τελικά υπεύθυνος". Ο Philipp Pointner, επικεφαλής ψηφιακής ταυτότητας στην Jumio, το χαρακτήρισε προηγούμενο για το "πώς πρέπει να ελέγχουμε τι μπορούν να κάνουν οι agents εκ μέρους ενός ατόμου", και τόνισε ότι τα συστήματα ταυτότητας πρέπει πλέον να διακρίνουν μεταξύ ανθρώπινης ταυτότητας και εξουσιοδότησης του agent.

Αυτή η διάκριση είναι όλο το παιχνίδι. Μια ανθρώπινη ταυτότητα απαντά στο "ποιος είσαι". Μια ταυτότητα agent πρέπει να απαντήσει σε ένα δυσκολότερο ερώτημα: "ποιος σου το επέτρεψε, για να κάνεις τι, και για πόσο".

Γιατί αυτό δεν είναι απλώς γραφειοκρατία

Αν έχεις συνδέσει ένα LLM με tools, ήδη ξέρεις ότι η τρέχουσα κατάσταση της τεχνολογίας είναι δανεικά credentials. Ο agent τρέχει ως service account, ή χειρότερα, με το OAuth token κάποιου ανθρώπου και ένα μακρόβιο API key αντιγραμμένο σε μια μεταβλητή περιβάλλοντος. Το ανθρωποκεντρικό IAM χτίστηκε γύρω από ένα άτομο που συνδέεται περιστασιακά, κάνει κλικ σε μια οθόνη συγκατάθεσης και ενεργεί με ανθρώπινη ταχύτητα. Ένας agent δεν συνδέεται ποτέ, του δόθηκε η πρόσβασή του από κάποιον άλλον, και ενεργεί χιλιάδες φορές το λεπτό.

Έτσι, όταν ένας agent κάνει κάτι λάθος, τα logs λένε ότι το έκανε ένα service account, ή ότι το έκανε ένας άνθρωπος, επειδή αυτού το token ήταν στο request. Η ενέργεια είναι πραγματική και η λογοδοσία είναι φαντασία. Το ένστικτο της Εσθονίας, να δώσει στον agent τη δική του ταυτότητα ώστε οι ενέργειές του να αποδίδονται σε αυτόν και να ιχνηλατούνται πίσω σε όποιον τον εξουσιοδότησε, είναι ακριβώς το κενό που πρέπει να κλείσει. Το ένστικτο είναι σωστό. Η υλοποίηση είναι εκεί που γίνεται ακριβή.

Τα τρία πράγματα που πρέπει να κουβαλάει μια ταυτότητα agent

1. Εξουσιοδότηση με εύρος, όχι απλώς ένα όνομα

Μια ταυτότητα που αποδεικνύει ότι "αυτός είναι ο agent X" και τίποτα άλλο είναι μια ετικέτα ονόματος. Η αξία βρίσκεται στα δικαιώματα που συνδέονται με αυτήν: ποια συστήματα, ποιες λειτουργίες, ποια δεδομένα, υπό ποιες συνθήκες, με ποια όρια δαπανών ή ρυθμού. Αυτό είναι το μέρος στο οποίο το δελτίο τύπου κάνει νοήμα με τα "σαφώς καθορισμένα όρια" και το μέρος που χρειάζεται χρόνια για να γίνει σωστά, επειδή ένα εύρος που είναι υπερβολικά ευρύ αναπαράγει το αρχικό πρόβλημα και ένα εύρος που είναι υπερβολικά στενό κάνει τον agent άχρηστο. Έχουμε ήδη τα primitives γι' αυτό, OAuth scopes, workload identity, capability tokens, αλλά ένα εθνικό επίπεδο ταυτότητας πρέπει να διαλειτουργεί με αυτά, όχι να κάθεται από πάνω ως μια τέταρτη ανταγωνιστική πηγή αλήθειας.

2. Μια αλυσίδα ανάθεσης που μπορείς πραγματικά να ακολουθήσεις

Το "ποιος ενεργεί εκ μέρους ποιου" δεν είναι ένα μόνο βήμα. Ένα άτομο εξουσιοδοτεί έναν agent, ο agent καλεί ένα tool, το tool δημιουργεί έναν sub-agent, ο sub-agent χτυπά ένα API τρίτου. Κάθε βήμα στενεύει ή πρέπει να στενεύει την εξουσιοδότηση. Αν η ταυτότητα δεν αποτυπώνει την αλυσίδα, παίρνεις το κλασικό confused-deputy problem με μηχανική ταχύτητα: ένα component με νόμιμη πρόσβαση ξεγελιέται ώστε να τη χρησιμοποιήσει για τον σκοπό κάποιου άλλου, και το audit log δείχνει μια καθαρή, εξουσιοδοτημένη κλήση. Μια ταυτότητα agent αξίζει τόσο όσο η ικανότητά της να καταγράφει και να περιορίζει αυτή την αλυσίδα, όχι μόνο τον τελικό δράστη.

3. Λογοδοσία που καταλήγει σε έναν άνθρωπο

Εδώ είναι το μέρος που η τεχνολογία δεν μπορεί να λύσει. Μπορείς να δώσεις σε έναν agent μια ταυτότητα, ένα wallet και ένα εύρος, αλλά όταν αδειάζει έναν λογαριασμό ή υπογράφει ένα κακό συμβόλαιο, η ευθύνη δεν σταματά στον agent. Επιστρέφει σε ένα άτομο ή έναν οργανισμό. Η ταυτότητα είναι ο μηχανισμός που καθιστά αυτή την ιχνηλάτηση δυνατή, κάτι που είναι καλό, αλλά δεν αποφασίζει ποιος είναι υπεύθυνος, ο εντολέας που ανέθεσε, ο developer που έφτιαξε τον agent, ή ο vendor που παρέδωσε το model. Η Εσθονία κάνει το υπεύθυνο πράγμα φέρνοντας αυτό το ερώτημα στο φως νωρίς. Κανείς δεν έχει ακόμη μια καθαρή απάντηση.

Η ταυτότητα είναι αναγκαία, όχι επαρκής

Μια πρόσφατη φράση της BCG, που αναφέρεται στην κάλυψη, αγγίζει το βαθύτερο ζήτημα: "Οι αξίες δεν είναι κανόνες. Είναι πεποιθήσεις και αρχές που διαμορφώνονται μέσα από χιλιάδες ανθρώπινες αποφάσεις, σχηματισμένες από το πλαίσιο, την εξαίρεση και το προηγούμενο." Ένα ID code μπορεί να κωδικοποιήσει κανόνες. Δεν μπορεί να κωδικοποιήσει κρίση. Ένας agent με μια τέλεια, πλήρως οριοθετημένη, πλήρως ελεγμένη ταυτότητα μπορεί ακόμη να κάνει μια ενέργεια που είναι τεχνικά επιτρεπτή και προφανώς λάθος. Η ταυτότητα σου δίνει απόδοση και ανάκληση. Δεν σου δίνει καλή συμπεριφορά. Αυτά είναι διαφορετικά προβλήματα, και η σύγχυσή τους είναι ο τρόπος με τον οποίο καταλήγεις να εμπιστεύεσαι έναν agent περισσότερο από όσο δικαιολογεί ο σχεδιασμός του, επειδή έχει ένα ωραίο σήμα.

Τι σημαίνει αυτό αν φτιάχνεις με agents

Δεν χρειάζεται να περιμένεις ένα κρατικό μητρώο για να εφαρμόσεις τη σκέψη. Το σχέδιο της Εσθονίας είναι απλώς η εκδοχή σε εθνική κλίμακα των επιλογών που θα έπρεπε ήδη να κάνεις:

  • Δώσε σε κάθε agent τη δική του ταυτότητα. Όχι ένα κοινόχρηστο service account, όχι το token κάποιου ανθρώπου. Ένας principal ανά agent, ώστε οι ενέργειές του να αποδίδονται σε αυτόν και μόνο.
  • Όρισε το εύρος στην εργασία, και μετά ληξε το. Τα βραχύβια, στενά οριοθετημένα credentials υπερτερούν των μακρόβιων keys κάθε φορά. Ένας agent που χρειάζεται μόνο να διαβάζει δεν πρέπει ποτέ να κατέχει ένα token που μπορεί να γράψει.
  • Κατέγραψε την αλυσίδα ανάθεσης, όχι μόνο την κλήση. Κατέγραψε ποιος εξουσιοδότησε τον agent και υπό ποιο εύρος, ώστε το "ποιος ενεργεί εκ μέρους ποιου" να είναι ένα query, όχι μια εγκληματολογική σκαπάνη.
  • Κάνε την ανάκληση ακαριαία. Το πρώτο πράγμα που θέλεις όταν ένας agent συμπεριφέρεται άσχημα είναι ένας διακόπτης off που δουλεύει σε δευτερόλεπτα, όχι μια εναλλαγή key που παίρνει μια μέρα.
  • Κράτησε σκόπιμα έναν άνθρωπο υπόλογο. Αποφάσισε, πριν την ανάπτυξη, ποιος κατέχει τις ενέργειες του agent. Μην αφήσεις το οργανόγραμμα να το ανακαλύψει κατά τη διάρκεια ενός περιστατικού.

Η Εσθονία έχει δίκιο ότι οι agents που λειτουργούν με μηχανική ταχύτητα χρειάζονται ενσωματωμένη λογοδοσία, και δίκιο ότι μια ταυτότητα είναι εκεί που αυτό ξεκινά. Απλώς κράτησε καθαρή τη σειρά της δυσκολίας. Η έκδοση της ταυτότητας είναι η ανακοίνωση. Η σύνδεση της εξουσιοδότησης, η ιχνηλάτηση της ανάθεσης και η απόφαση για το ποιος απαντά για τον agent είναι η δουλειά, και είναι η ίδια δουλειά είτε είσαι μια μικρή ομάδα που συνδέει ένα model με tools είτε μια χώρα που εκδίδει codes σε όλη την οικονομία των agents.

Διάβασε αυτό στη συνέχεια

Για την πλευρά της υποδομής και της πλατφόρμας στη ασφαλή λειτουργία των agents, οι σημειώσεις πεδίου για το cloud βρίσκονται στο ercan.cloud. Για συμβουλευτική σε AI, ταυτότητα και πλατφόρμες, ή απλώς για να πεις ένα γεια, ξεκίνα από το ercanermis.com.