Μια ομάδα θέλει να εργάζεται ταχύτερα και ενεργοποιεί ένα εργαλείο ΑΙ, συνήθως για να δοκιμάσει κάτι συγκεκριμένο: μια περίληψη, ένα πρώτο προσχέδιο, μια κατηγοριοποίηση. Δεν υπάρχει διαδικασία έγκρισης επειδή είναι «ακόμα μόνο μια δοκιμή». Η δοκιμή λειτουργεί, ή λειτουργεί αρκετά καλά, και χάνεται μέσα στην καθημερινή διαδικασία χωρίς να έχει ληφθεί ποτέ απόφαση να διατηρηθεί. Δεν υπήρξε στιγμή κατά την οποία κάποιος επέλεξε συνειδητά: αυτό το εντάσσουμε στην απογραφή ΑΙ μας, γι' αυτό υπάρχει ένας ιδιοκτήτης, αυτό εμπίπτει σε αυτό το επίπεδο κινδύνου. Υπήρξε μόνο μια στιγμή έναρξης, και αυτή η στιγμή εγγράφεται σε έναν τρόπο εργασίας που κανείς δεν έχει πλέον αγγίξει.
Η διακοπή μιας δοκιμής απαιτεί απόφαση. Η συνέχιση δεν απαιτεί τίποτα. Όσο κανείς δεν αναφέρει περιστατικό ή δεν ζητά κάποιος εξωτερικός φορέας απόδειξη ελέγχου, δεν υπάρχει αφορμή να επανεξεταστεί κάτι που έχει γίνει προ πολλού απλά κανονική εργασία. Οι άνθρωποι που χρησιμοποιούν το εργαλείο δεν έχουν κανένα συμφέρον να το φέρουν στο προσκήνιο: λειτουργεί, εξοικονομεί χρόνο, και η αναφορά μοιάζει με ρίσκο να τους το αφαιρέσουν. Έτσι, μια προσωρινή λύση παραμένει διαρθρωτική, όχι επειδή κανείς δεν το γνωρίζει, αλλά επειδή κανείς δεν θέτει το ερώτημα που θα οδηγούσε στο κλείσιμο.
Είναι λογικό να σκεφτεί κανείς ότι μια επισκόπηση εγκεκριμένου λογισμικού θα το έκανε ορατό. Αυτή η επισκόπηση δείχνει τι έχει αγοραστεί, όχι τι χρησιμοποιείται. Μια δοκιμή συχνά λειτουργεί εκτός αυτού του καναλιού: ένας δωρεάν λογαριασμός, ένα πρόσθετο περιήγησης (plugin), μια μεμονωμένη συνδρομή σε κάρτα ομάδας. Το ίδιο μοτίβο εμφανίζεται με μια επέκταση προγράμματος περιήγησης με πρόσβαση στο email σας, με ένα τμήμα με τη δική του συνδρομή εκτός της κεντρικής προμήθειας, και με εταιρικά δεδομένα που επικολλούνται σε ένα δωρεάν παράθυρο συνομιλίας χωρίς να υπάρχει από πίσω σύμβαση με όρους επεξεργασίας δεδομένων. Καμία από αυτές τις καταστάσεις δεν εμφανίζεται σε λίστα IT, γιατί καμία τους δεν έχει ποτέ δηλωθεί ως έργο.
Ο μόνος τρόπος να γνωρίζετε τι πραγματικά λειτουργεί είναι να ρωτήσετε. Όχι ως εκ των υστέρων έλεγχος, αλλά ως άνοιγμα: τι χρησιμοποιείτε, για τι, και από πότε. Όποιος θέτει αυτό το ερώτημα με την απειλή κυρώσεων στο βάθος, δεν παίρνει απάντηση ή παίρνει ελλιπή απάντηση. Οι εργαζόμενοι που χρησιμοποιούν ένα εργαλείο που κανείς δεν έχει εγκρίνει έχουν κάτι να χάσουν από την ειλικρίνεια και τίποτα να κερδίσουν. Αυτή είναι ακριβώς η τάση που αναδεικνύεται στο εργαζόμενους που χρησιμοποιούν εργαλείο που κανείς δεν έχει εγκρίνει: χωρίς μια πρόσκληση που είναι ασφαλής να απαντηθεί, η δοκιμή παραμένει υπόγεια, και δεν εξαφανίζεται, απλώς γίνεται πιο σιωπηλή.
Μια απογραφή χωρίς συνέπειες για τον καταγγέλλοντα είναι το πρώτο βήμα, όχι το συμπέρασμα. Μετά την ορατοποίηση ακολουθεί η κατηγοριοποίηση: τι είναι αυτό, τι ρόλο παίζει σε μια διαδικασία, και ποιο επίπεδο κινδύνου αντιστοιχεί σε αυτό. Ένα εργαλείο περίληψης για εσωτερικές σημειώσεις απαιτεί διαφορετικό καθεστώς από ένα εργαλείο που συμμετέχει στην αποδοχή πελατών ή στην αξιολόγηση προσωπικού. Αυτή η κατηγοριοποίηση πρέπει να εναρμονίζεται με τη δομή κινδύνου που υπάρχει ήδη, όχι με ένα νέο πλαίσιο δίπλα σε αυτήν. Μια δεύτερη, ανεπίσημη διαδικασία που αγνοείται δίπλα στην υπάρχουσα διαδικασία είναι ακριβώς ο λόγος που μια δεύτερη διαδικασία δίπλα στην υπάρχουσα αγνοείται αποτελεί αναγνωρίσιμο μοτίβο: οι άνθρωποι ακολουθούν τον δρόμο με τη λιγότερη αντίσταση, και αυτός ο δρόμος γίνεται ορατός μόνο όταν κάποιος ρωτήσει γι' αυτόν.
Έπειτα προκύπτει το ερώτημα ποιος το εξετάζει ακόμα. Μια δοκιμή που έχει αφεθεί ελεύθερη μέσα στην καθημερινή εργασία συνήθως δεν έχει πλέον ιδιοκτήτη που αξιολογεί τα αποτελέσματα πριν χρησιμοποιηθούν. Εκεί γίνεται σχετικό τι σημαίνει στην πράξη ο ανθρώπινος εποπτικός έλεγχος: όχι ως αφηρημένη αρχή, αλλά ως συγκεκριμένο ερώτημα ποιος διαβάζει την έξοδο πριν αυτή επηρεάσει έναν πελάτη, έναν φάκελο ή μια απόφαση.
Ένας διευθυντής που ερωτάται σχετικά με αυτό — από εποπτική αρχή, ελεγκτή, εποπτικό συμβούλιο — έχει δύο επιλογές: να πει ότι η επισκόπηση είναι πλήρης, ή να πει ότι υπάρχει η διαδικασία για να την κάνει και να τη διατηρήσει πλήρη. Η δεύτερη επιλογή είναι πιο ειλικρινής και, μακροπρόθεσμα, πιο δυνατή, επειδή έναν οργανισμό που απογράφει ενεργά έχει κάτι αποδεικτικό, ακόμα και όταν η απογραφή δεν έχει ακόμα ολοκληρωθεί. Το ζητούμενο δεν είναι ότι δεν θα προκύψει ποτέ ξανά μια μη εξουσιοδοτημένη δοκιμή. Το ζητούμενο είναι ότι υπάρχει μηχανισμός που τις εντοπίζει πριν το κάνει αυτό για εσάς ένα περιστατικό.
Όταν γίνει ορατό ποια ΑΙ έχει προκύψει χωρίς σχεδιασμό, προκύπτει συχνά ένα άλλο ερώτημα: αν αυτή η ομάδα το έκανε ήδη, χωρίς να το οργανώσει κανείς, τι θα συνέβαινε αν το οργανώναμε πράγματι; Αυτό είναι διαφορετικό ερώτημα από τη διακυβέρνηση, και ανήκει στο εργασιακό σκανάρισμα (werkscan) της FTE TO AI, το οποίο υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί εύλογα να αναληφθεί από ΑΙ. Ενώ αυτή η σελίδα περιγράφει πώς αποκτάτε έλεγχο σε ό,τι ήδη λειτουργεί, αυτό το σκανάρισμα περιγράφει τι μπορεί, με την ίδια νηφάλια ματιά σε εργασίες και κινδύνους, να χτιστεί ακόμα.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.