Η ανθρώπινη εποπτεία καταγράφεται συχνά ως ρόλος: κάποιος που είναι υπεύθυνος, ένα όνομα σε ένα μητρώο, ένα κουτάκι που έχει σημειωθεί. Αυτό είναι το σημείο εκκίνησης, όχι ο ίδιος ο μηχανισμός. Εποπτεία υπάρχει μόνο όταν υπάρχει μια στιγμή κατά την οποία ένας άνθρωπος μπορεί να δει το αποτέλεσμα μιας εφαρμογής AI, να το κατανοήσει και να το διορθώσει προτού αυτό το αποτέλεσμα καταλήξει κάπου. Χωρίς αυτή τη στιγμή, το όνομα κάτω από την κατάταξη είναι απλώς μια τυπικότητα.
Το αν η εποπτεία λειτουργεί στην πράξη εξαρτάται από κάποιους παράγοντες που δεν συμπίπτουν αυτόματα. Πρέπει να υπάρχει κάποιος με την εξουσία να σταματήσει ένα αποτέλεσμα, όχι απλώς το καθήκον να το εξετάσει. Πρέπει να υπάρχει χρόνος για να το εξετάσει, κάτι που σημαίνει ότι η διαδικασία δεν είναι διαμορφωμένη έτσι ώστε το αποτέλεσμα της AI να έχει ήδη επεξεργαστεί προτού γίνει ο έλεγχος. Και πρέπει να υπάρχει επαρκής κατανόηση του τι κάνει η εφαρμογή ώστε να αναγνωριστεί μια απόκλιση. Ένας ελεγκτής που δεν μπορεί να αξιολογήσει το αποτέλεσμα δεν ασκεί εποπτεία, ακόμη κι αν ο ρόλος του έχει ανατεθεί επίσημα.
Αυτό συνδέεται με τι σημαίνει ο αλφαβητισμός στην AI για τους εργαζομένους σας: εποπτεία χωρίς κατανόηση της υποκείμενης εφαρμογής είναι εποπτεία μόνο στα χαρτιά.
Μια δομή διακυβέρνησης μπορεί να καθορίσει ποιος είναι υπεύθυνος για τι, ποιο επίπεδο κινδύνου έχει μια εφαρμογή και ποια βήματα αντιστοιχούν σε αυτό. Αυτό που η δομή δεν κάνει είναι να εγγυηθεί ότι το άτομο αυτό αξιολογεί πράγματι το αποτέλεσμα τη στιγμή που έχει σημασία. Αυτό είναι ένα οργανωτικό δεδομένο, όχι τεχνικό δεδομένο. Μια κατάταξη μπορεί να είναι σωστή και η εποπτεία να παραμένει παρόλα αυτά κενή, επειδή το άτομο που είναι επίσημα υπεύθυνο δεν έχει τον χρόνο, την πρόσβαση ή τη γνώση για να ελέγξει το αποτέλεσμα.
Η απογραφή και η κατάταξη αποκαλύπτουν πού είναι μεγαλύτερος αυτός ο κίνδυνος: σε εφαρμογές με υψηλότερο επίπεδο κινδύνου, ή σε εφαρμογές που έχουν εισαχθεί εκτός της κανονικής διαδικασίας IT. Αυτή η τελευταία ομάδα είναι συχνά η πιο δύσκολη, γιατί όποιος θέλει να οργανώσει εποπτεία πάνω σε κάτι που δεν είναι καταγεγραμμένο, πρέπει πρώτα να το εντοπίσει. Αυτό αγγίζει το ερώτημα τι κάνετε με εργαζομένους που χρησιμοποιούν ένα εργαλείο που κανείς δεν έχει εγκρίνει: η εποπτεία στη σκιώδη AI ξεκινά με την αναγνώριση ότι αυτή η εφαρμογή υπάρχει, όχι με μια κύρωση για τη χρήση της.
Μια εφαρμογή που σήμερα βρίσκεται υπό εποπτεία μπορεί αύριο να έχει αλλάξει. Ένα μοντέλο ενημερώνεται, τα δεδομένα εισόδου μεταβάλλονται, ή η χρήση εντός του οργανισμού εξελίσσεται από ένα απλό καθήκον σε κάτι με μεγαλύτερη βαρύτητα. Η εποπτεία που έχει διαμορφωθεί σύμφωνα με την κατάσταση του προηγούμενου έτους δεν ανταποκρίνεται πλέον σε αυτό που συμβαίνει τώρα. Αυτός είναι ένας από τους λόγους για τους οποίους η κατάταξη δεν είναι μια εφάπαξ διαδικασία· το πόσο συχνά πρέπει να επαναλαμβάνεται εξαρτάται από το επίπεδο κινδύνου και τον βαθμό στον οποίο μεταβάλλεται η εφαρμογή, όπως αναλύεται στο πόσο συχνά πρέπει να επανακατατάξετε.
Αυτό σημαίνει επίσης ότι ένα μητρώο έχει αξία μόνο αν συντηρείται. Μια απογραφή που καταρτίστηκε στην πρώτη σάρωση και δεν ενημερώνεται στη συνέχεια, δίνει μια όλο και πιο ανακριβή εικόνα του πού χρειάζεται εποπτεία. Το ερώτημα πώς ένας οργανισμός διατηρεί αυτό το μητρώο ενημερωμένο είναι ανεξάρτητο από το ερώτημα πώς έχει δομηθεί το μητρώο, και αξίζει τη δική του προσοχή: δείτε πώς διατηρείτε ενημερωμένο ένα μητρώο AI.
Ένα διοικητικό συμβούλιο που καλείται να αποδείξει ότι υπάρχει εποπτεία στη χρήση της AI, δεν μπορεί να αρκεστεί σε έναν κατάλογο ρόλων. Η δυνατότητα απόδειξης απαιτεί ένα ίχνος: ποιος εξέτασε ποιο αποτέλεσμα, σε ποια στιγμή, με ποια εξουσία να το διορθώσει. Αυτό το ίχνος είναι επίσης σημαντικό τη στιγμή που κάτι πάει στραβά. Το ερώτημα ποιος είναι υπεύθυνος όταν μια εφαρμογή AI κάνει λάθος δεν απαντάται μόνο από την κατάταξη, αλλά από την αποδείξιμη εποπτεία που ακολούθησε. Αυτά τα δύο ζητήματα συγχέονται εύκολα, ενώ ο διαχωρισμός τους έχει σημασία· δείτε ποιος είναι υπεύθυνος όταν μια εφαρμογή AI κάνει λάθος.
Η εποπτεία αγγίζει επίσης το τι εισάγεται σε μια εφαρμογή. Ένας εργαζόμενος που επικολλά εταιρικά δεδομένα σε ένα δωρεάν παράθυρο συνομιλίας τοποθετεί αυτά τα δεδομένα εκτός κάθε εποπτείας που έχει οργανώσει ο οργανισμός, ανεξάρτητα από το πόσο καλά είναι οργανωμένη η εποπτεία στις εγκεκριμένες εφαρμογές. Αυτό είναι ένα ξεχωριστό πεδίο προσοχής εντός του ευρύτερου ζητήματος, όπως αναλύεται στο τι κάνετε με εταιρικά δεδομένα σε ένα δωρεάν παράθυρο συνομιλίας.
Αυτή η σελίδα περιγράφει πώς λειτουργεί η εποπτεία ως μηχανισμός: ποιος εξετάζει, πότε, με ποια εξουσία, και πώς αυτό γίνεται αποδείξιμο. Οι ουσιαστικές προδιαγραφές που καθορίζουν πότε είναι υποχρεωτική η εποπτεία, πόσο αυστηρή πρέπει να είναι ανά κατηγορία κινδύνου, και εντός ποιων προθεσμιών πρέπει να έχει οργανωθεί, δεν περιλαμβάνονται εδώ. Αυτό το κανονιστικό περιεχόμενο μεταβάλλεται και ενημερώνεται αλλού.
Η οργάνωση εποπτείας πάνω σε ένα καθήκον έχει νόημα μόνο αν είναι σαφές τι ακριβώς περιλαμβάνει αυτό το καθήκον και ποιο μέρος του εκτελείται από μια εφαρμογή AI. Αυτό είναι διαφορετικό ερώτημα από το ποιον ρόλο ή ποιο επίπεδο κινδύνου έχει μια εφαρμογή· αφορά το ίδιο το καθήκον, διαχωρισμένο στα βήματα που μπορεί να αναλάβει μια εφαρμογή AI και στα βήματα που δεν είναι κατάλληλα για αυτό. Η εργασιακή σάρωση της FTE TO AI υπολογίζει αυτό ανά καθήκον, ώστε να γίνεται ορατό ποιο μέρος της εργασίας μπορεί να αναληφθεί και ποιο μέρος πρέπει να παραμείνει εντός του πεδίου της ανθρώπινης εποπτείας.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.