Ως μέλος διοίκησης, δεν εξετάζετε εσείς προσωπικά ποιο μοντέλο AI παράγει ποια έκβαση. Θέτετε ένα διαφορετικό ερώτημα: εάν αυτό πάει στραβά, μπορώ να δείξω ότι το γνωρίζαμε, ότι το εξετάσαμε και ότι κάναμε κάτι. Αυτό το ερώτημα είναι διοικητικό, όχι τεχνικό. Και η απάντηση που δεν αποδέχεστε είναι μια λίστα εγκεκριμένων εφαρμογών από το IT. Όχι επειδή η λίστα αυτή είναι εσφαλμένη, αλλά επειδή είναι ελλιπής. Περιγράφει τι έχει ζητηθεί, όχι τι χρησιμοποιείται.
Ο κίνδυνος για ένα μέλος διοίκησης δεν είναι ότι ένας εργαζόμενος χρησιμοποιεί μια γλωσσική AI για να γράψει ένα προσχέδιο. Ο κίνδυνος είναι ότι δεν μπορείτε να πείτε τίποτα σχετικά με αυτό τη στιγμή που έχει σημασία: σε ένα περιστατικό, ένα ερώτημα εποπτικής αρχής, ένα ζήτημα ευθύνης. Η δυνατότητα απόδειξης είναι τότε το μόνο που μετράει. Όχι αν θα μπορούσατε να το γνωρίζατε τότε, αλλά αν μπορείτε να δείξετε ότι υπήρχε δομή για να το γνωρίζετε. Ένα μέλος διοίκησης που λέει «δεν είχαμε εικόνα γι' αυτό» βρίσκεται σε διαφορετική θέση από ένα μέλος διοίκησης που λέει «αυτό εμπίπτει σε μια κατηγορία την οποία χειριστήκαμε συνειδητά με αυτόν τον τρόπο». Η διαφορά μεταξύ αυτών των δύο προτάσεων είναι αυτό που αποδίδει αυτή η σάρωση.
Δεν πρόκειται να απαγορευτεί ή να επιβραδυνθεί κάθε χρήση AI. Το μεγαλύτερο μέρος αυτού που οι εργαζόμενοι έχουν αρχίσει να χρησιμοποιούν από μόνοι τους είναι λειτουργικό και αποδίδει κάτι. Το κέρδος για ένα μέλος διοίκησης δεν βρίσκεται στο να το επιβραδύνει, αλλά στο να μπορεί να διακρίνει: αυτό είναι χαμηλού κινδύνου και μπορεί να συνεχιστεί, αυτό αγγίζει προσωπικά δεδομένα ή λήψη αποφάσεων για ανθρώπους και πρέπει να αντιμετωπιστεί διαφορετικά, αυτό είναι ασαφές και πρέπει να διερευνηθεί. Χωρίς αυτή τη διάκριση, αντιμετωπίζετε τα πάντα με τον ίδιο τρόπο — και αυτό είναι συνήθως πολύ αυστηρό για το μεγαλύτερο μέρος και πολύ χαλαρό για την εξαίρεση που έχει σημασία.
Το σκιώδες AI δεν προκύπτει από απροθυμία. Προκύπτει επειδή ένας εργαζόμενος είχε ένα πρόβλημα και βρήκε ένα εργαλείο που το έλυσε, χωρίς να υπάρχει διαδικασία αίτησης που να είναι ταχύτερη από το ίδιο το εργαλείο. Αυτά τα εργαλεία δεν εμφανίζονται σε μια λίστα προμηθειών. Εμφανίζονται μόνο όταν κάποιος ρωτήσει γι' αυτά — και μόνο αν η ερώτηση δεν οδηγεί αμέσως σε κύρωση. Ένας οργανισμός που θέλει να δει το σκιώδες AI πρέπει πρώτα να ξεκαθαρίσει ότι η αναφορά δεν αποτελεί κίνδυνο. Αυτή είναι διοικητική επιλογή, όχι τεχνική.
Η Responsible AI Scan ξεκινά με μια απογραφή του τι όντως χρησιμοποιείται, ανεξάρτητα από τι έχει ποτέ εγκριθεί. Στη συνέχεια, κάθε χρήση κατηγοριοποιείται ανά ρόλο — ποιος τη χρησιμοποιεί, για ποιο σκοπό — και ανά επίπεδο κινδύνου. Αυτή η κατηγοριοποίηση οδηγεί σε ένα σύνολο διακυβέρνησης: έναν τρόπο διαχείρισης κάθε κατηγορίας που εναρμονίζεται με τη δομή κινδύνου που ήδη διαθέτει ο οργανισμός σας, αντί για ένα νέο πλαίσιο δίπλα σε αυτό. Το περιεχόμενο των κανόνων αυτών καθαυτό — ποιες ακριβώς υποχρεώσεις ισχύουν, εντός ποιων προθεσμιών — βρίσκεται αλλού· δεν είναι εκεί που εστιάζει αυτή η σάρωση. Αυτή η σάρωση εστιάζει στον μηχανισμό: να γνωρίζετε τι λειτουργεί, να μπορείτε να το κατηγοριοποιήσετε και να μπορείτε να δείξετε ότι το κάνατε.
Με μια κατηγοριοποίηση ανά ρόλο και επίπεδο κινδύνου, μπορείτε να δείξετε σε μια εποπτική αρχή, έναν ελεγκτή ή ένα εποπτικό συμβούλιο μια δομή αντί για μια υπόσχεση. Μπορείτε να υποδείξετε ποιες κατηγορίες χρειάζονται προσοχή και ποιες όχι. Μπορείτε να αναφέρετε σχετικά χωρίς να πρέπει κάθε φορά να εξηγείτε εκ νέου γιατί δεν γνωρίζατε κάτι. Αυτή είναι διαφορετική θέση από το να εξηγείτε αντιδραστικά γιατί ένα εργαλείο διείσδυσε απαρατήρητο.
Το ερώτημα σχετικά με τον κίνδυνο AI διαφέρει ανά λειτουργία. Τι πρέπει να γνωρίζει ένας CIO για τον κίνδυνο AI αφορά συστήματα και υποδομή· τι πρέπει να γνωρίζει ένας General Counsel για τον κίνδυνο AI αφορά ευθύνη και τεκμηρίωση αποδεικτικών στοιχείων· τι πρέπει να γνωρίζει ένας risk manager για τον κίνδυνο AI αφορά πώς ο κίνδυνος AI εντάσσεται στην υπάρχουσα ταξινομία κινδύνου. Ως μέλος διοίκησης έχετε σχέση με όλα τα τρία, αλλά δεν είστε εσείς που εκτελείτε την κατηγοριοποίηση — είστε εκείνος που πρέπει να μπορεί να δει ότι έχει γίνει.
Η Responsible AI Scan βρίσκεται υπό κατασκευή. Προς το παρόν δεν υπάρχει εργαλείο που μπορείτε να ξεκινήσετε και από το οποίο προκύπτει αμέσως μια αναφορά. Όποιος ενδιαφέρεται μπορεί να εγγραφεί στη λίστα αναμονής· δεν προσφέρεται τίποτα που δεν υπάρχει ακόμη, και δεν δίνεται καμία υπόσχεση σχετικά με το πότε ή με ποιο αποτέλεσμα.
Πριν μπορέσετε να διαπιστώσετε αν η χρήση AI είναι επικίνδυνη, είναι συχνά πιο χρήσιμο να γνωρίζετε τι σημαίνει η AI στην ίδια την εργασία: ποιο μέρος μιας εργασίας μπορεί να αναληφθεί και ποιο όχι. Αυτό το ερώτημα βρίσκεται κοντά στο ερώτημα κινδύνου, αλλά δεν είναι το ίδιο — μια εργασία που μπορεί σε μεγάλο βαθμό να αναληφθεί από AI δεν είναι αυτόματα επικίνδυνη, και μια εργασία που δεν μπορεί δεν είναι αυτόματα ασφαλής. Η werkscan του FTE TO AI υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί να αναληφθεί από AI, παρέχοντας έτσι μια βάση επί της οποίας το ερώτημα κινδύνου μπορεί να τεθεί με μεγαλύτερη σαφήνεια από αυτή που προσφέρει μόνο μια λίστα εγκεκριμένων εφαρμογών.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.