Ένας υπάλληλος επικολλά ένα κομμάτι κειμένου σε ένα δωρεάν παράθυρο συνομιλίας επειδή λειτουργεί πιο γρήγορα από το εσωτερικό σύστημα. Μια ομάδα συνάπτει συνδρομή σε ένα εργαλείο AI επειδή το αίτημα για κάτι επίσημο θα διαρκούσε εβδομάδες. Ένας προμηθευτής προσθέτει λειτουργικότητα AI σε λογισμικό που χρησιμοποιείται εδώ και χρόνια, χωρίς να έχει προηγηθεί σχετική συζήτηση. Κανείς από αυτούς τους ανθρώπους δεν προσπαθεί να κρύψει κάτι. Προσπαθούν να κάνουν τη δουλειά τους.
Αυτό είναι το κέντρο του σκιώδους AI: δεν προκύπτει από απροθυμία, αλλά από ένα κενό μεταξύ αυτού που χρειάζονται οι άνθρωποι και αυτού που παρέχει η επίσημη διαδικασία. Όσο υπάρχει αυτό το κενό, το σκιώδες AI συνεχίζει να δημιουργείται, όσες πολιτικές και να γραφτούν.
Οι περισσότεροι οργανισμοί έχουν μια επισκόπηση εγκεκριμένου λογισμικού. Αυτή η επισκόπηση είναι ένα σημείο εκκίνησης, όχι μια αντανάκλαση της πραγματικότητας. Αυτό που οι άνθρωποι όντως χρησιμοποιούν, βρίσκεται σχεδόν πάντα ένα βήμα μπροστά: το ερώτημα πώς αποτρέπετε δεδομένα επιχείρησης σε ένα δωρεάν παράθυρο συνομιλίας δείχνει πόσο εύκολα ένα εργαλείο μπορεί να διαφύγει κάθε εποπτείας. Το ίδιο ισχύει για ένα τμήμα που με δική του πρωτοβουλία συνάπτει συνδρομή επειδή η κανονική οδός φαίνεται πολύ αργή, ή για μια επέκταση περιηγητή που αποκτά πρόσβαση στο ηλεκτρονικό ταχυδρομείο χωρίς να υπάρχει ξεχωριστή έγκριση για αυτό. Καμία από αυτές τις καταστάσεις δεν εμφανίζεται σε λίστα της πληροφορικής. Ωστόσο υπάρχουν.
Υπάρχει μια τάση να αντιμετωπίζεται το σκιώδες AI ως πρόβλημα επιβολής κανόνων: απαγόρευση, αποκλεισμός, κύρωση. Αυτό λειτουργεί αντίστροφα. Όποιος γνωρίζει ότι μια ειλικρινής απάντηση οδηγεί σε πρόβλημα, δεν δίνει πλέον ειλικρινή απάντηση. Το εργαλείο δεν εξαφανίζεται, γίνεται πιο αόρατο. Ακριβώς το αντίθετο από αυτό που χρειάζεται ένας οργανισμός.
Ένας δεύτερος λόγος που δεν λύνεται από μόνο του: η υπάρχουσα διακυβέρνηση είναι συχνά σχεδιασμένη για λογισμικό που αγοράζετε και εγκαθιστάτε, όχι για μια υπηρεσία που κάποιος ανοίγει σε έναν περιηγητή και εγκαταλείπει την επόμενη μέρα. Μια δοκιμαστική διάταξη που κάποτε προοριζόταν να είναι προσωρινή δείχνει πώς κάτι μικρό, χωρίς σαφή στιγμή αξιολόγησης, μπορεί να συνεχιστεί για χρόνια χωρίς κανείς να αισθάνεται υπεύθυνος. Χωρίς μια διαδικασία που εντοπίζει διαρθρωτικά αυτού του είδους τη χρήση, παραμένει κάτω από το ραντάρ, όσο καλές και να είναι οι προθέσεις.
Ο μόνος τρόπος να γνωρίζετε τι συμβαίνει είναι να ρωτήσετε. Όχι ως έλεγχο, αλλά ως απογραφή. Οι υπάλληλοι που γνωρίζουν ότι μια ειλικρινής απάντηση δεν οδηγεί σε συζήτηση με το τμήμα ανθρώπινου δυναμικού, δίνουν και αυτήν την απάντηση. Αυτό απαιτεί έναν τόνο και μια διαδικασία που καθιστούν σαφές εκ των προτέρων: αυτό αφορά την απόκτηση εικόνας, όχι την τιμωρία κάποιου.
Σε αυτό εντάσσεται και η προσοχή στον τρόπο με τον οποίο νέες διαδικασίες τοποθετούνται δίπλα σε υπάρχουσες. Μια δεύτερη διαδικασία που τοποθετείται δίπλα στην υπάρχουσα χωρίς να προσαρμόζεται ή να αποσύρεται η πρώτη, αγνοείται συχνά, απλά επειδή οι άνθρωποι παραμένουν στη συνήθειά τους. Μια απογραφή που προστίθεται ως πρόσθετη υποχρέωση πάνω στη δουλειά, τυγχάνει της ίδιας μεταχείρισης.
Μόλις γίνει σαφές τι όντως χρησιμοποιείται, ακολουθεί η επόμενη ερώτηση: τι κάνει αυτό το εργαλείο, και ποιος κίνδυνος συνδέεται με αυτό. Ένα εργαλείο που συνοψίζει κείμενο για εσωτερική χρήση απαιτεί κάτι διαφορετικό από ένα εργαλείο που συμμετέχει στην απόφαση για αποδοχή πελάτη ή αξιολόγηση προσωπικού. Αυτή η ταξινόμηση κατά ρόλο και επίπεδο κινδύνου είναι αυτό που μετατρέπει μια απογραφή σε κάτι χρησιμοποιήσιμο: μια βάση πάνω στην οποία η διοίκηση, ο CIO ή ο General Counsel μπορεί να εξηγήσει τι συμβαίνει και γιατί αυτό μπορεί να λογοδοτηθεί.
Αυτό το επίπεδο διακυβέρνησης εντάσσεται στη δομή κινδύνου που ήδη έχει ένας οργανισμός, όχι σε ένα νέο πλαίσιο δίπλα σε αυτήν. Το περιεχόμενο των κανόνων που πρέπει να πληρούν οι εφαρμογές AI αλλάζει και επικαιροποιείται αλλού· αυτό που μετράει εδώ είναι ότι ο οργανισμός έχει έναν λειτουργικό τρόπο να γνωρίζει τι λειτουργεί, ποιος είναι υπεύθυνος για αυτό, και πώς αυτό γίνεται αποδεικτικό προς τη διοίκηση ή τον επόπτη.
Μόλις γίνει σαφές ποιο AI όντως χρησιμοποιείται και με ποιο κίνδυνο συνδέεται αυτό, προκύπτει αυτόματα ένα άλλο ερώτημα: ποιο μέρος της δουλειάς θα μπορούσε στην πραγματικότητα να αναλάβει μια εφαρμογή AI, και ποιο όχι. Αυτό είναι διαφορετικό ερώτημα από αυτό της έγκρισης και της εποπτείας, αλλά ένα που λογικά ακολουθεί. Η σάρωση εργασίας του FTE TO AI υπολογίζει ανά εργασία ποιο μέρος της δουλειάς μπορεί να αναληφθεί από AI, με βάση το τι στην πραγματικότητα περιλαμβάνει μια θέση εργασίας. Εκεί όπου το Responsible AI Scan φέρνει τάξη σε αυτό που ήδη λειτουργεί, η σάρωση εργασίας απεικονίζει τι υπάρχει ακόμη να κερδηθεί.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.