Μια ομάδα ήθελε να δοκιμάσει κάτι. Ένα chatbot για ερωτήσεις πελατών, ένα script που συνοψίζει αναφορές, μια σύνδεση με ένα γλωσσικό μοντέλο για την ταξινόμηση email. Δεν χρειάστηκε καμία μεγάλη απόφαση: κάποιος είχε έναν λογαριασμό, ένα κλειδί API ή μια δωρεάν δοκιμαστική περίοδο, και μέσα σε ένα απόγευμα κάτι λειτουργούσε. Το πιλοτικό πρόγραμμα λειτουργούσε, ή λειτουργούσε επαρκώς, και κανείς δεν είχε πλέον λόγο να το απενεργοποιήσει.
Αυτό δεν είναι εξαίρεση. Είναι ο συνηθισμένος τρόπος με τον οποίο η AI εισέρχεται σε έναν οργανισμό. Όχι μέσω διαγωνισμού ή εγκεκριμένου προϋπολογισμού, αλλά μέσω μιας δοκιμαστικής διάταξης που επιζεί της δικής της δοκιμαστικής κατάστασης. Η δοκιμαστική φάση δεν κλείνει ποτέ επισήμως, επειδή δεν υπήρξε ποτέ ούτε επίσημη αρχή για να κλείσει.
Ένα πιλοτικό πρόγραμμα που λειτουργεί, χρησιμοποιείται. Και αυτό που χρησιμοποιείται, γίνεται εξάρτηση. Η ομάδα που δημιούργησε τον συνοπτικό μηχανισμό αναφορών μπορεί να έχει αποχωρήσει, αλλά η σύνοψη εξακολουθεί να έρχεται κάθε εβδομάδα. Κανείς δεν έχει την εντολή να το απενεργοποιήσει, και κανείς δεν θέλει να πάρει τον κίνδυνο ότι κάτι θα σταματήσει να λειτουργεί χωρίς να γνωρίζει τι θα το αντικαταστήσει.
Επιπλέον, μια δοκιμαστική διάταξη συνήθως δεν έχει ιδιοκτήτη με την έννοια που αναμένει μια δομή διακυβέρνησης. Δεν έχει γίνει καμία κατηγοριοποίηση κινδύνου, καμία ανάλυση δεδομένων, καμία απόφαση σχετικά με το ποιος είναι υπεύθυνος αν κάτι πάει στραβά. Το πιλοτικό πρόγραμμα υπάρχει σε έναν ενδιάμεσο χώρο: πολύ χρησιμοποιημένο για να αγνοηθεί, πολύ ανεπίσημο για να διαχειριστεί. Αυτό είναι ακριβώς το μοτίβο που οδηγεί σε εργαζόμενους που χρησιμοποιούν ένα εργαλείο που κανείς δεν έχει εγκρίνει — μόνο που εδώ συμβαίνει σε επίπεδο ομάδας αντί σε ατομικό επίπεδο.
Η αντίδραση όταν εντοπίζεται μια μη εξουσιοδοτημένη δοκιμαστική διάταξη είναι συχνά: ποιος το επέτρεψε αυτό, και γιατί δεν το γνωρίζαμε. Αυτή η ερώτηση είναι κατανοητή, αλλά λειτουργεί αντίθετα από ό,τι θα θέλαμε. Όποιος αισθανθεί ήδη στην πρώτη συζήτηση ότι έρχεται μια ερώτηση ενοχής, δεν θα πει τίποτα την επόμενη φορά. Και το επόμενο πιλοτικό πρόγραμμα — που αναμφίβολα θα εμφανιστεί — θα εξαφανιστεί εξίσου από το οπτικό πεδίο όπως αυτό.
Μια απογραφή χτισμένη πάνω στην εμπιστοσύνη αποδίδει περισσότερα από έναν έλεγχο χτισμένο πάνω στον έλεγχο. Όχι επειδή οι άνθρωποι δεν θα ήθελαν να έχουν τίποτα να αποκρύψουν, αλλά επειδή η πληροφορία που αναζητάτε βρίσκεται στον χρήστη, και αυτός ο χρήστης μιλάει μόνο όταν δεν θα κριθεί για ό,τι βρίσκει.
Μόλις μια δοκιμαστική διάταξη έρθει στο φως, η πρώτη ερώτηση δεν είναι αν επιτρέπεται να συνεχίσει να υπάρχει, αλλά τι κάνει ακριβώς. Ποια δεδομένα εισέρχονται, ποιος χρησιμοποιεί το αποτέλεσμα, και τι συμβαίνει αν το αποτέλεσμα είναι λάθος. Αυτές είναι οι ίδιες ερωτήσεις που ισχύουν για κάθε άλλη εφαρμογή AI, και η απάντηση καθορίζει αν κάτι είναι ένα ανεπίσημο βοηθητικό εργαλείο ή ένας κίνδυνος που αξίζει προσοχή.
Έπειτα ακολουθεί η κατηγοριοποίηση: εντάσσεται η εφαρμογή σε μια κατηγορία κινδύνου που ήδη υπάρχει, ή απαιτεί μια νέα εκτίμηση. Στη συνέχεια: τι πρέπει να καταγραφεί για να αποδειχθεί ότι ο οργανισμός γνωρίζει τι λειτουργεί και γιατί. Αυτό είναι ακριβώς το θέμα του τι πρέπει να καταγράφετε ανά εφαρμογή — όχι ως πρόσθετη γραφειοκρατία, αλλά ως η ελάχιστη τεκμηρίωση που απαιτείται για να διακρίνετε ένα πιλοτικό πρόγραμμα από έναν κίνδυνο.
Μια δοκιμαστική διάταξη που περνά αυτή τη δοκιμασία μπορεί να συνεχίσει να υπάρχει, τώρα με έναν ιδιοκτήτη και μια κατηγοριοποίηση. Μια δοκιμαστική διάταξη που δεν περνά τη δοκιμασία πρέπει να αποσυρθεί σταδιακά — αλλά αυτό είναι μια ελεγχόμενη διαδικασία, όχι απόλυση του ατόμου που την ξεκίνησε κάποτε.
Η δοκιμαστική διάταξη που δεν απενεργοποιήθηκε ποτέ είναι μια μορφή ενός ευρύτερου μοτίβου. Σκεφτείτε την επέκταση προγράμματος περιήγησης με πρόσβαση στο email σας που κάποιος εγκατέστησε κάποτε για να εξοικονομήσει χρόνο, ή τα δεδομένα της επιχείρησης που καταλήγουν σε ένα δωρεάν παράθυρο συνομιλίας επειδή ήταν πιο γρήγορο από το επίσημο εργαλείο. Όλες αυτές οι καταστάσεις έχουν ένα κοινό χαρακτηριστικό: προέκυψαν από μια πρακτική ανάγκη, όχι από μια επιλογή πολιτικής, και συνεχίζουν να υπάρχουν όσο κανείς δεν ρωτά γι' αυτές.
Η λίστα του IT με εγκεκριμένο λογισμικό δεν είναι λοιπόν το σημείο εκκίνησης μιας απογραφής — είναι το σημείο εκκίνησης μιας αναζήτησης για ό,τι βρίσκεται εκτός αυτής της λίστας. Όποιος θέλει να δει πώς φαίνεται αυτή η αναζήτηση, βρίσκει μια προσέγγιση στο πώς δημιουργείτε μια απογραφή AI.
Μια δοκιμαστική διάταξη που έρχεται στο φως συνήθως εγείρει μια επόμενη ερώτηση που ξεπερνά τη διακυβέρνηση: γιατί λειτούργησε αυτό τόσο καλά που κανείς δεν τόλμησε να το σταματήσει; Αυτή είναι μια ερώτηση για την ίδια την εργασία, όχι μόνο για τον κίνδυνο. Η σάρωση εργασίας της FTE TO AI υπολογίζει ανά εργασία ποιο μέρος της δουλειάς μπορεί να αναληφθεί από την AI, κάνοντας έτσι ορατό ό,τι μια δοκιμαστική διάταξη έδειχνε ήδη έμμεσα: ότι ένα μέρος της εργασίας μπορεί να οργανωθεί διαφορετικά. Ενώ η Responsible AI Scan χαρτογραφεί τι λειτουργεί και υπό ποιον κίνδυνο, η σάρωση εργασίας δείχνει από πού προέρχεται αυτή η χρήση και τι σημαίνει διαρθρωτικά για την κατανομή των εργασιών.
Η Responsible AI Scan, με την απογραφή, την κατηγοριοποίηση και το σύνολο διακυβέρνησης που περιγράφηκαν παραπάνω, βρίσκεται σε ανάπτυξη. Όποιος έχει ήδη να αντιμετωπίσει αυτό το θέμα και θέλει να ενημερωθεί μόλις το εργαλείο γίνει διαθέσιμο, μπορεί να εγγραφεί στη λίστα αναμονής.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.