Μια κατηγοριοποίηση μιας εφαρμογής AI περιγράφει μια κατάσταση σε μια συγκεκριμένη στιγμή: ποιο μοντέλο, ποια εφαρμογή, ποιοι χρήστες, ποιος κίνδυνος. Αυτή η κατάσταση αλλάζει. Ένας προμηθευτής προσαρμόζει ένα μοντέλο, μια ομάδα χρησιμοποιεί ένα εργαλείο για κάτι διαφορετικό από αυτό για το οποίο αγοράστηκε, ένας πάροχος προσθέτει μια λειτουργία χωρίς κανείς να ζητήσει άδεια για αυτό. Η κατηγοριοποίηση που κάνατε πέρυσι, επομένως, δεν περιγράφει αυτόματα πλέον την κατάσταση του σήμερα.
Το ερώτημα «πόσο συχνά» δεν έχει μια σταθερή απάντηση που να ισχύει για κάθε οργανισμό. Εξαρτάται από το πόσες εφαρμογές AI υπάρχουν, πόσο γρήγορα αλλάζουν αυτές, πόσο διαφορετικές είναι οι ομάδες που εργάζονται με αυτές, και πόσο αυστηρή είναι η εποπτεία στον τομέα στον οποίο δραστηριοποιείστε. Μια σταθερή ετήσια στιγμή είναι ένα σημείο εκκίνησης, όχι μια εγγύηση ότι δεν θα χάσετε τίποτα στο ενδιάμεσο.
Μια ετήσια ή εξαμηνιαία επανεκτίμηση λειτουργεί καλά για εφαρμογές που ήδη γνωρίζετε και που εισήχθησαν μέσω επίσημης διαδικασίας. Για εφαρμογές που κανείς δεν έχει δηλώσει, ένα σταθερό διάστημα δεν λειτουργεί, απλά επειδή δεν υπάρχει τίποτα να επαναξιολογηθεί σε μια σταθερή ημερομηνία. Το Τι κάνετε με εργαζομένους που χρησιμοποιούν ένα εργαλείο που κανείς δεν έχει εγκρίνει περιγράφει γιατί αυτό το ερώτημα δεν επιλύεται με μια επαναλαμβανόμενη υπενθύμιση στο ημερολόγιο, αλλά με έναν διαφορετικό τρόπο διατύπωσης ερωτημάτων προς τον οργανισμό.
Επιπλέον, ο κίνδυνος δεν αλλάζει μόνο ανάλογα με το τι κάνει μια εφαρμογή, αλλά και ανάλογα με τι της παρέχεται ως δεδομένα. Ένα παράθυρο συνομιλίας που σήμερα χρησιμοποιείται για τη σύνοψη δημόσιου κειμένου, μπορεί αύριο να χρησιμοποιηθεί για τη σύνοψη μιας σύμβασης. Το Τι κάνετε με εταιρικά δεδομένα σε ένα δωρεάν παράθυρο συνομιλίας δείχνει ότι το επίπεδο κινδύνου του ίδιου εργαλείου μπορεί να μετατοπιστεί χωρίς να αλλάξει το ίδιο το εργαλείο.
Πέρα από μια σταθερή στιγμή, υπάρχουν γεγονότα που απαιτούν ενδιάμεση επανεκτίμηση. Μια αλλαγή στη λειτουργία μιας εφαρμογής, μια επέκταση της ομάδας χρηστών, ένα περιστατικό ή παρ' ολίγον περιστατικό, μια αλλαγή στους όρους του προμηθευτή, ή ένα σήμα από έναν εργαζόμενο ότι κάτι χρησιμοποιείται διαφορετικά από ό,τι προβλεπόταν. Αυτά τα σήματα δεν έχουν όλα την ίδια βαρύτητα, και δεν θα τα προσέξει κάθε οργανισμός με την ίδια ταχύτητα.
Το ερώτημα ποιος αντιδρά σε αυτά τα σήματα, και ποιος έχει την ιδιοκτησία της ίδιας της επανεκτίμησης, είναι ένα ξεχωριστό ερώτημα. Το Ποιος είναι υπεύθυνος όταν μια εφαρμογή AI κάνει λάθος περιγράφει ότι η ευθύνη συχνά καθορίζεται μόνο τη στιγμή που κάτι πάει στραβά, ενώ αυτό το ερώτημα θα έπρεπε στην πραγματικότητα να έχει απαντηθεί ήδη κατά την πρώτη κατηγοριοποίηση.
Ένας ρυθμός επανεκτίμησης που τοποθετείται δίπλα στις υπάρχουσες διαδικασίες διαχείρισης κινδύνου, χωρίς να ενσωματώνεται σε αυτές, συνήθως χάνει την προτεραιότητά του εντός ενός έτους. Είναι ένα επιπλέον βήμα που κανείς δεν ζητά μέχρι να πάει κάτι στραβά, και ακριβώς γι' αυτό παραμένει σε εκκρεμότητα. Το Γιατί μια δεύτερη διαδικασία δίπλα στην υπάρχουσα αγνοείται εξηγεί γιατί η επανεκτίμηση λειτουργεί πιο αποτελεσματικά όταν είναι ενσωματωμένη στην υπάρχουσα διαχείριση κινδύνου, αντί να αποτελεί αυτόνομη διαδικασία που ανταγωνίζεται για προσοχή με τον υπόλοιπο οργανισμό.
Μια μέθοδος κατηγοριοποίησης μπορεί να προσφέρει μια δομή για τη συνεπή αξιολόγηση εφαρμογών AI ως προς τον ρόλο και το επίπεδο κινδύνου, και αυτή η δομή μπορεί να εφαρμόζεται επαναλαμβανόμενα. Αυτό που δεν μπορεί να κάνει η μέθοδος είναι να εγγυηθεί ότι βλέπετε τα πάντα. Μια κατηγοριοποίηση είναι τόσο καλή όσο οι πληροφορίες στις οποίες βασίζεται, και αυτές οι πληροφορίες προέρχονται εν μέρει από ανθρώπους που μπορεί να έχουν λόγο να μην αναφέρουν κάτι. Ένας εργαζόμενος που χρησιμοποιεί ένα εργαλείο που δεν έχει εγκριθεί δεν το αναφέρει εθελοντικά αν αναμένει ότι θα ακολουθήσει κύρωση.
Η μέθοδος επίσης δεν μπορεί να προβλέψει πότε ένας προμηθευτής θα τροποποιήσει ένα μοντέλο, ή πότε μια εφαρμογή που σήμερα έχει χαμηλό κίνδυνο θα χρησιμοποιηθεί διαφορετικά αύριο. Η επανεκτίμηση παραμένει, λοιπόν, ζήτημα επανάληψης και οργάνωσης της διαφάνειας, όχι ενός συστήματος που ρυθμίζεται μία φορά και στη συνέχεια παραμένει αυτόνομα επίκαιρο. Πώς διατηρείτε αυτό το μητρώο ενημερωμένο χωρίς να μείνει πίσω μετά από μερικούς μήνες, περιγράφεται στο πώς διατηρείτε ενημερωμένο ένα μητρώο AI, όπου η διάκριση μεταξύ μιας εφάπαξ απογραφής και μιας συνεχούς διαδικασίας βρίσκεται στο επίκεντρο.
Σε αυτό εντάσσεται και το ερώτημα τι σημαίνει στην πράξη η εποπτεία της AI ανάμεσα στις στιγμές επανεκτίμησης: ποιος παρακολουθεί, με ποια συχνότητα, και με βάση ποια σήματα. Το Τι είναι η ανθρώπινη εποπτεία στην πράξη κάνει αυτή τη διάκριση μεταξύ εποπτείας ως τυπικού τσεκαρίσματος και εποπτείας ως κάτι που παρακολουθεί συνεχώς τη χρήση.
Μια κατηγοριοποίηση σας λέει ποιες εφαρμογές υπάρχουν, ποιο ρόλο έχουν και ποιο επίπεδο κινδύνου τους αντιστοιχεί. Αυτή η κατηγοριοποίηση δεν σας λέει πόσο μέρος της εργασίας πραγματικά εκτελείται από την AI, και πόσος χώρος απομένει ακόμη ανά εργασία. Όποιος θέλει να απαντήσει σε αυτό το ερώτημα δεν μπορεί να αρκεστεί σε μια απογραφή κινδύνου· αυτό απαιτεί ένα βλέμμα στην ίδια την εργασία, εργασία προς εργασία. Η σάρωση εργασίας (werkscan) της FTE TO AI υπολογίζει ανά εργασία ποιο μέρος αυτής μπορεί να αναληφθεί από την AI, ως συμπλήρωμα της εικόνας που προσφέρει μια κατηγοριοποίηση.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.