Υπάρχει μια στιγμή όπου ένας εργαζόμενος έχει ένα πρόβλημα και αναζητά μια λύση. Ένα κείμενο που πρέπει να γίνει πιο γρήγορα, ένα σύνολο δεδομένων που πρέπει να γίνει πιο ευανάγνωστο, ένας πελάτης που θέλει απάντηση ακόμα και σήμερα. Το γραφείο εξυπηρέτησης IT χρειάζεται πολύ χρόνο, ή δεν υπάρχει καν τέτοιο γραφείο. Έτσι δημιουργείται ένας λογαριασμός, εγκαθίσταται μια επέκταση, γίνεται μια συνδρομή σε μια πιστωτική κάρτα που κανείς δεν ελέγχει. Όχι από κακή θέληση. Από φόρτο εργασίας.
Έτσι δημιουργείται το shadow AI. Όχι ως εξέγερση κατά της πολιτικής, αλλά ως πρακτική απάντηση σε ένα κενό της πολιτικής. Και δεν εξαφανίζεται από μόνο του, γιατί ο λόγος για τον οποίο δημιουργήθηκε — μια εργασία που με AI γίνεται πιο γρήγορα από χωρίς — συνεχίζει να υπάρχει όσο η πολιτική δεν προσφέρει εναλλακτική. Η απαγόρευση δεν αλλάζει την εργασία. Αλλάζει μόνο αν γνωρίζετε ότι το εργαλείο χρησιμοποιείται.
Ένα κατάλογος εγκεκριμένου λογισμικού λέει κάτι για ό,τι έχει ζητηθεί και εγκριθεί. Δεν λέει τίποτα για ό,τι πραγματικά χρησιμοποιείται. Ανάμεσα σε αυτές τις δύο λίστες υπάρχει μια διαφορά που μεγαλώνει όσο τα εργαλεία AI γίνονται πιο προσβάσιμα: χωρίς εγκατάσταση, χωρίς διαδικασία προμήθειας, μόνο ένα πρόγραμμα περιήγησης και έναν λογαριασμό. Μια επέκταση προγράμματος περιήγησης με πρόσβαση στο email σας βρίσκεται εκτός κάθε διαδικασίας προμήθειας και εκτός κάθε καταλόγου, ενώ η πρόσβαση που έχει είναι εξίσου ευαίσθητη με ένα εγκεκριμένο σύστημα. Όποιος κοιτάζει μόνο τη λίστα του IT, βλέπει μόνο ένα μέρος της πραγματικότητας και το αποκαλεί σύνολο.
Ο μόνος τρόπος για να γνωρίζετε τι χρησιμοποιείται πραγματικά είναι να ρωτήσετε. Όχι ως ερώτηση ελέγχου με κύρωση στο τέλος, αλλά ως απογραφή χωρίς συνέπειες για όποιον συμμετέχει. Μόλις οι εργαζόμενοι υποψιαστούν ότι μια ειδική απάντηση θα οδηγήσει σε συζήτηση με προϊστάμενο, η πληροφορία δεν εξαφανίζεται — απλά μετακινείται υπόγεια. Το ίδιο εργαλείο συνεχίζει να λειτουργεί, μόνο λιγότερο ορατό. Ένας οργανισμός που θέλει να γνωρίζει την έκταση του shadow AI πρέπει λοιπόν πρώτα να ρυθμίσει την προϋπόθεση υπό την οποία θα λάβει την απάντηση. Αυτό δεν είναι θέμα απώλειας εμπιστοσύνης, είναι θέμα σειράς: πρώτα η επισκόπηση, μετά η πολιτική.
Αφού συγκεντρωθεί η απογραφή, προκύπτει κάτι χρήσιμο: μια λίστα εργαλείων ανά ρόλο και επίπεδο κινδύνου, όχι ανά καλό ή κακό. Ένα εργαλείο που ξαναγράφει κείμενο για εσωτερική χρήση φέρει διαφορετικό κίνδυνο από ένα εργαλείο που επεξεργάζεται δεδομένα πελατών ή προετοιμάζει αποφάσεις. Μερικά από αυτά τα εργαλεία προήλθαν από ατομική χρήση που εξελίχθηκε σε πρότυπο τμήματος — βλέπε ένα τμήμα με τη δική του συνδρομή — και αξίζουν επισημοποίηση παρά απαγόρευση. Άλλα δημιουργήθηκαν μία φορά για ένα έργο που έχει ολοκληρωθεί, αλλά η πρόσβαση παραμένει ανοιχτή· αυτό είναι το μοτίβο που περιγράφεται στο μια δοκιμαστική εγκατάσταση που δεν απενεργοποιήθηκε ποτέ. Η κατηγοριοποίηση καθορίζει τι απαιτείται: μερικές φορές τίποτα, μερικές φορές μια προσαρμογή, μερικές φορές ενσωμάτωση στην υπάρχουσα δομή διακυβέρνησης.
Ο σκοπός αυτής της προσέγγισης δεν είναι να υποδείξει όποιον ξεκίνησε ένα εργαλείο χωρίς άδεια. Ο σκοπός είναι να γνωρίζετε τι λειτουργεί, ποιος το χρησιμοποιεί, και ποιος κίνδυνος συνδέεται με αυτό — έτσι ώστε ένα διοικητικό στέλεχος, CIO ή General Counsel να μπορεί να απαντήσει σε αυτή την ερώτηση όταν του τεθεί, εσωτερικά ή εξωτερικά. Αυτό απαιτεί έναν σταθερό τρόπο απογραφής που δεν σταματά σε έναν γύρο, γιατί συνεχώς προστίθενται νέα εργαλεία. Πώς χτίζεται στην πράξη αυτή η απογραφή, συμπεριλαμβανομένου του ποιος την εκτελεί και πόσο συχνά, περιγράφεται στο πώς χτίζετε μια απογραφή AI.
Η ίδια η δομή διακυβέρνησης — ποιοι κανόνες ισχύουν για ποιο επίπεδο κινδύνου, ποιες προθεσμίες και υποχρεώσεις συνδέονται με αυτό — είναι ξεχωριστό θέμα με δικό του επίκαιρο περιεχόμενο, που δεν επαναλαμβάνεται εδώ. Αυτό που μετράει σε αυτή τη σελίδα είναι ο μηχανισμός: αποκτήστε επισκόπηση χωρίς να κλείσετε τη ροή πληροφορίας, και μεταφράστε αυτή την επισκόπηση σε μια κατηγοριοποίηση που ταιριάζει με ό,τι έχει ήδη οργανώσει ο οργανισμός σε επίπεδο διαχείρισης κινδύνου.
Η απογραφή που αποκαλύπτει το shadow AI, συχνά δεν το κάνει μόνο για μεμονωμένα εργαλεία. Αποκαλύπτει επίσης ότι ένας προμηθευτής προσέθεσε AI σε ένα σύστημα που ήδη χρησιμοποιούνταν, χωρίς να γίνει ξεχωριστή συζήτηση για αυτό — το μοτίβο πίσω από έναν προμηθευτή που ενσωμάτωσε AI στο προϊόν του — και ότι ευαίσθητες επιχειρηματικές πληροφορίες μερικές φορές απλά επικολλούνται σε ένα δημόσιο παράθυρο συνομιλίας, όπως περιγράφεται στο επιχειρηματικά δεδομένα σε ένα δωρεάν παράθυρο συνομιλίας. Όλες αυτές οι μορφές μοιράζονται την ίδια προέλευση: μια εργασία για την οποία η AI λειτουργεί πιο γρήγορα από την υπάρχουσα διαδικασία.
Αυτή η διαπίστωση οδηγεί λογικά σε ένα άλλο ερώτημα, ανεξάρτητο από έγκριση και κίνδυνο: ποιο μέρος της εργασίας καθαυτής είναι κατάλληλο να αναληφθεί από AI. Η σάρωση εργασιών του FTE TO AI υπολογίζει αυτό ανά εργασία, με βάση το τι περιλαμβάνει πραγματικά η εργασία, και δείχνει πού ο αυτοματισμός μπορεί να αναλάβει ένα ρεαλιστικό μέρος του χρόνου — ως αφετηρία για μια συζήτηση σχετικά με τι μπορεί να προγραμματιστεί με αυτό, όχι ως αντικατάσταση του ερωτήματος διακυβέρνησης που βρίσκεται στο κέντρο αυτής της σελίδας.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.