Κάθε οργανισμός με κάποιο μέγεθος έχει ήδη μια δομή διαχείρισης κινδύνων. Μια επιτροπή κινδύνων, μια λειτουργία ελέγχου, μια γραμμή αναφοράς προς το διοικητικό συμβούλιο, ένα υπόδειγμα στο οποίο οι κίνδυνοι κατατάσσονται και παρακολουθούνται. Όποιος τοποθετεί δίπλα σε αυτό μια νέα διαδικασία, ειδικά για την τεχνητή νοημοσύνη, με τη δική της επιτροπή, το δικό της χρονοδιάγραμμα και τη δική της γλώσσα, θα καταλήξει εντός ενός έτους με μια διαδικασία που κανείς πλέον δεν συμπληρώνει. Όχι επειδή η τεχνητή νοημοσύνη δεν θεωρείται σημαντική, αλλά επειδή μια δεύτερη δομή ανταγωνίζεται την πρώτη για χρόνο, προσοχή και εντολή. Η υφιστάμενη δομή κερδίζει σχεδόν πάντα, διότι είναι ενσωματωμένη σε αξιολογήσεις, κύκλους αξιολόγησης απόδοσης και ατζέντες διοικητικών συμβουλίων. Η νέα δομή παραμένει εκτός.
Το ερώτημα λοιπόν δεν είναι πώς θα οικοδομήσετε μια δομή διακυβέρνησης για την τεχνητή νοημοσύνη. Το ερώτημα είναι πώς η τεχνητή νοημοσύνη θα βρει μια θέση στη δομή που ήδη υπάρχει.
Οι περισσότερες δομές διαχείρισης κινδύνων περιλαμβάνουν ήδη έναν αριθμό σταθερών στοιχείων: μια απογραφή κινδύνων που ενημερώνεται περιοδικά, μια κατηγοριοποίηση κατά σοβαρότητα και πιθανότητα, έναν υπεύθυνο ανά κίνδυνο, μια γραμμή κλιμάκωσης προς υψηλότερο επίπεδο όταν ένα όριο υπερβαίνεται, και μια αναφορά προς το διοικητικό συμβούλιο σε καθορισμένες στιγμές. Αυτή είναι η δομή στην οποία πρέπει να ενταχθεί η τεχνητή νοημοσύνη, όχι δίπλα της.
Αυτό σημαίνει ότι μια εφαρμογή τεχνητής νοημοσύνης δεν θα πρέπει να καταχωρείται σε ξεχωριστό μητρώο τεχνητής νοημοσύνης, αλλά ως στοιχείο κινδύνου στο υφιστάμενο μητρώο, με τα ίδια πεδία όπως κάθε άλλος κίνδυνος: υπεύθυνος, σοβαρότητα, πιθανότητα, μέτρα μετριασμού, ημερομηνία κατάστασης. Η κατηγοριοποίηση κατά επίπεδο κινδύνου που συνοδεύει μια απογραφή χρήσης τεχνητής νοημοσύνης πρέπει να συνδέεται με την κλίμακα που ήδη χρησιμοποιείται για τον λειτουργικό κίνδυνο, όχι με μια νέα κλίμακα που επινοήθηκε αποκλειστικά για την τεχνητή νοημοσύνη. Όποιος διαβάσει τι πρέπει να γνωρίζει ένας cio για τον κίνδυνο ai θα δει ότι αυτή η σύνδεση είναι ακριβώς το σημείο όπου συχνά τα πράγματα πάνε στραβά: μια τεχνικά ορθή βαθμολόγηση κινδύνου τεχνητής νοημοσύνης που κανείς δεν μπορεί να συγκρίνει με το υπόλοιπο μητρώο κινδύνων.
Δύο πράγματα κάνουν την ενσωμάτωση δύσκολη. Το πρώτο είναι η γλώσσα. Οι διαχειριστές κινδύνων εργάζονται με έννοιες όπως επίπτωση, πιθανότητα και μέτρο μετριασμού. Οι προμηθευτές τεχνητής νοημοσύνης και οι τεχνικές ομάδες εργάζονται με εκδόσεις μοντέλων, δεδομένα εκπαίδευσης και δείκτες απόδοσης. Ένα σύνολο διακυβέρνησης που είναι γραμμένο μόνο στην τεχνική γλώσσα δεν διαβάζεται από την επιτροπή κινδύνων. Ένα σύνολο διακυβέρνησης που είναι γραμμένο μόνο στη γλώσσα κινδύνου δεν συμπληρώνεται από τον τεχνικό υπεύθυνο. Το σύνολο πρέπει να είναι αναγνώσιμο και προς τις δύο κατευθύνσεις: αρκετά τεχνικό για να είναι ορθό, αρκετά διοικητικό για να γίνει κατανοητό. Αυτή η αρχή επανέρχεται στο μια πολιτική ai που διαβάζεται: ένα έγγραφο που συνδέεται με τον τρόπο που οι άνθρωποι ήδη διαβάζουν και αποφασίζουν, αντί να απαιτεί έναν νέο τρόπο ανάγνωσης.
Το δεύτερο είναι ο ρυθμός. Μια επιτροπή κινδύνων συνέρχεται σε σταθερό κύκλο, συχνά τριμηνιαία ή μηνιαία. Η χρήση τεχνητής νοημοσύνης αλλάζει ταχύτερα: μια ομάδα ξεκινά αυτή την εβδομάδα με ένα νέο εργαλείο, χωρίς να προηγηθεί σχετική συνάντηση. Το σύνολο διακυβέρνησης δεν πρέπει επομένως να εξαρτάται από τον κύκλο συνεδριάσεων για να λειτουργεί. Πρέπει να υπάρχει ένας ελαφρύτερος μηχανισμός που καλύπτει αποκλίσεις ανάμεσα στις σταθερές στιγμές, και που επιβεβαιώνεται επισήμως μόνο στον επόμενο κύκλο. Πώς λειτουργεί αυτός ο μηχανισμός στην πράξη περιγράφεται στο διαδρομές κλιμάκωσης που λειτουργούν: μια διαδρομή αρκετά σύντομη ώστε να χρησιμοποιείται πριν συνέλθει η επόμενη τριμηνιαία επιτροπή.
Ένα σύνολο διακυβέρνησης που συνδέεται με μια υφιστάμενη δομή διαχείρισης κινδύνων περιλαμβάνει σε γενικές γραμμές: ένα στοιχείο απογραφής ανά εφαρμογή τεχνητής νοημοσύνης με υπεύθυνο και κατηγορία κινδύνου, μια σύνδεση με την υφιστάμενη διαδρομή κλιμάκωσης ώστε μια απόκλιση να μην χάνεται σε ξεχωριστό κανάλι, και μια σταθερή θέση στην περιοδική αναφορά προς το διοικητικό συμβούλιο. Όχι ως ξεχωριστό κεφάλαιο για την τεχνητή νοημοσύνη, αλλά ως γραμμή στον πίνακα που το διοικητικό συμβούλιο ήδη γνωρίζει. Πώς μπορεί να μοιάζει αυτή η αναφορά χωρίς να εισάγεται νέο υπόδειγμα περιγράφεται στο πώς αποκτάτε μια αναφορά διοικητικού συμβουλίου μιας σελίδας ενσωματωμένη σε ό,τι ήδη κυκλοφορεί.
Το περιεχόμενο των κανόνων αυτών καθαυτό, τι ακριβώς εμπίπτει σε ποιο επίπεδο κινδύνου και ποιες προθεσμίες συνοδεύουν αυτό, καθορίζεται αλλού και μεταβάλλεται· αυτή η σελίδα αφορά τον μηχανισμό που δίνει σε αυτό το περιεχόμενο μια θέση στην υφιστάμενη δομή, όχι το κείμενο αυτών των κανόνων.
Η ενσωμάτωση πετυχαίνει μόνο αν η απογραφή είναι αρχικά ορθή. Και αυτή είναι ορθή μόνο αν οι άνθρωποι τολμούν να πουν τι χρησιμοποιούν. Όποιος, κατά τη συμπλήρωση του στοιχείου κινδύνου, αισθάνεται ότι μια ειλικρινής απάντηση θα οδηγήσει σε σημείωση στην αξιολόγησή του, δεν τη συμπληρώνει ειλικρινά. Το σύνολο διακυβέρνησης πρέπει επομένως από την πρώτη κιόλας έκδοση να διασαφηνίζει ότι ο σκοπός είναι η επισκόπηση, όχι η κύρωση. Χωρίς αυτή τη δέσμευση, ένα μέρος της χρήσης παραμένει εκτός εικόνας, και η σύνδεση με τη δομή διαχείρισης κινδύνων βασίζεται σε μια ελλιπή λίστα. Τι πρέπει να γνωρίζει ένα διοικητικό στέλεχος για αυτό προτού ξεκινήσει η πρώτη απογραφή περιγράφεται στο τι πρέπει να γνωρίζει ένα διοικητικό στέλεχος για τον κίνδυνο ai.
Αυτή η ενσωμάτωση αφορά τον κίνδυνο, την ιδιοκτησία και την αναφορά: εξασφαλίζει ότι όσα κάνει η τεχνητή νοημοσύνη είναι ορατά και διαχειρίσιμα εντός της δομής που ήδη υπάρχει. Ένα άλλο ερώτημα, που ακολουθεί λογικά μόλις υπάρχει η επισκόπηση, είναι τι μπορεί πραγματικά να αναλάβει η τεχνητή νοημοσύνη εντός αυτής της εργασίας. Η σάρωση εργασίας της FTE TO AI υπολογίζει ανά εργασία ποιο μέρος του έργου μπορεί να αναληφθεί από την τεχνητή νοημοσύνη, ως επόμενο βήμα αφού η πλευρά της διακυβέρνησης έχει τακτοποιηθεί.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.