Οι πάροχοι χρηματοοικονομικών υπηρεσιών γνωρίζουν τη διαχείριση κινδύνου ως επάγγελμα. Υπάρχουν ήδη πλαίσια για τον πιστωτικό κίνδυνο, τον λειτουργικό κίνδυνο, τον κίνδυνο μοντέλου και τη συμμόρφωση. Αυτός είναι ακριβώς ο λόγος για τον οποίο η AI-governance εδώ διαφέρει από κλάδους που ξεκινούν από το μηδέν: το ερώτημα δεν είναι αν υπάρχει δομή διαχείρισης κινδύνου, αλλά αν η AI έχει ήδη ενταχθεί σε αυτή ή έχει αναπτυχθεί παράλληλα με αυτήν. Μοντέλα για βαθμολόγηση πιστοληπτικής ικανότητας, εντοπισμό απάτης ή τμηματοποίηση πελατών υπάρχουν συχνά εδώ και περισσότερο καιρό από την στιγμή που τους αποδόθηκε η ετικέτα «AI». Το ερώτημα διακυβέρνησης δεν είναι τότε: χτίζουμε κάτι νέο, αλλά: η υπάρχουσα εποπτεία εξακολουθεί να καλύπτει αυτό που λειτουργεί στην πραγματικότητα.
Η σχέση μεταξύ αυτού που είναι γνωστό σε μια επιτροπή κινδύνου μοντέλου ή σε ένα τμήμα συμμόρφωσης και αυτού που πραγματικά χρησιμοποιείται διαφέρει σημαντικά ανά οργανισμό. Σε κάποιον οργανισμό, σχεδόν όλα έχουν περάσει κάποια στιγμή από μια διαδικασία επικύρωσης, ενώ σε άλλον, εκτός από τα εγκεκριμένα μοντέλα, λειτουργούν επίσης εργαλεία που μεμονωμένοι υπάλληλοι ή ομάδες άρχισαν να χρησιμοποιούν από μόνοι τους, χωρίς κανείς να τα έχει ελέγξει. Ποια σχέση ισχύει για έναν συγκεκριμένο οργανισμό δεν μπορεί να προσδιοριστεί χωρίς να έχει γίνει σχετική εξέταση.
Ένας οργανισμός με ένα ωριμασμένο πλαίσιο κινδύνου μοντέλου υποθέτει μερικές φορές ότι η AI καλύπτεται ήδη από αυτό. Η διαχείριση κινδύνου μοντέλου έχει χτιστεί πάνω σε στατιστικά μοντέλα με σταθερή είσοδο και έξοδο. Ένα γλωσσικό μοντέλο που συνοψίζει ερωτήματα πελατών, ένα εργαλείο που παράγει προσχέδιο κειμένου για μια συμβουλευτική επιστολή, ή ένα σύστημα που αναζητά σε συμβάσεις, δεν εμπίπτει πάντα σε αυτόν τον ορισμό και έτσι διαφεύγει από το υπάρχον δίχτυ. Το ερώτημα διακυβέρνησης δεν είναι λοιπόν μόνο ποια μοντέλα υπάρχουν, αλλά και ποια εργαλεία αναγνωρίζονται ως AI και ποια όχι.
Επιπλέον, ο ρόλος της AI στη διαδικασία είναι καθοριστικός. Ένα εργαλείο που υποστηρίζει έναν σύμβουλο στη σύνταξη μιας συμβουλής είναι κάτι διαφορετικό από ένα εργαλείο που παράγει την ίδια τη συμβουλή ή επηρεάζει μια απόφαση αποδοχής. Η ίδια τεχνολογία μπορεί σε μια εφαρμογή να είναι βοηθητικό μέσο και σε άλλη να αποτελεί κρίκο που άπτεται άμεσα μιας απόφασης προς έναν πελάτη. Η ταξινόμηση κατά ρόλο και επίπεδο κινδύνου είναι επομένως απαραίτητη προτού ένας οργανισμός μπορέσει να πει ποιο επίπεδο εποπτείας αντιστοιχεί σε ποια εφαρμογή.
Η λίστα IT με τις εγκεκριμένες εφαρμογές δεν είναι αυτό που χρησιμοποιείται στην πραγματικότητα. Οι υπάλληλοι στις χρηματοοικονομικές υπηρεσίες εργάζονται με φάκελους πελατών, δεδομένα συναλλαγών και εμπιστευτικές πληροφορίες συμβουλευτικής, και ακριβώς αυτή η ομάδα δεν είναι απρόσβλητη στο να επικολλήσει ένα κείμενο σε ένα δωρεάν παράθυρο συνομιλίας για να λάβει ταχύτερα μια περίληψη ή ένα προσχέδιο απάντησης. Πώς εκδηλώνεται συγκεκριμένα αυτός ο κίνδυνος και τι μπορεί να γίνει γι' αυτό, περιγράφεται στο η προσέγγιση κατά της διαρροής επιχειρηματικών δεδομένων σε ένα δωρεάν παράθυρο συνομιλίας.
Ο λόγος που αυτή η χρήση παραμένει αόρατη σπάνια είναι η απροθυμία. Είναι συχνότερα αποτέλεσμα ασάφειας σχετικά με το τι επιτρέπεται και τι όχι, σε συνδυασμό με πίεση χρόνου. Όποιος θέλει να γνωρίζει τι πραγματικά χρησιμοποιείται, πρέπει να ρωτήσει απευθείας γι' αυτό, και αυτό λειτουργεί μόνο όταν οι υπάλληλοι δεν φοβούνται κάποια κύρωση για την απάντησή τους. Μια προσέγγιση που λαμβάνει αυτό υπόψη περιγράφεται στη σελίδα σχετικά με την αποτύπωση εργαλείων που κανείς δεν έχει εγκρίνει.
Αυτό που επίσης διακρίνει τις χρηματοοικονομικές υπηρεσίες είναι η συνήθεια της λογοδοσίας. Ένας risk manager ή General Counsel σε αυτόν τον κλάδο είναι συνηθισμένος να μπορεί να δείξει σε μια εποπτική αρχή ή στο εποπτικό συμβούλιο πώς αξιολογήθηκε ένας κίνδυνος και ποια μέτρα προκύπτουν από αυτή την αξιολόγηση. Για την AI, αυτό σημαίνει ότι μια απογραφή δεν μπορεί να στέκεται ξεχωριστά από το υπάρχον πλαίσιο διαχείρισης κινδύνου· πρέπει να ενταχθεί σε αυτό, με την ίδια κατηγοριοποίηση σε κλάσεις κινδύνου και τις ίδιες γραμμές αναφοράς που ήδη ισχύουν για άλλες κατηγορίες κινδύνου. Ένα σύνολο διακυβέρνησης που τοποθετείται δίπλα στο υπάρχον πλαίσιο αντί να ενσωματωθεί σε αυτό, δημιουργεί επιπλέον δουλειά στον επόμενο γύρο ελέγχου αντί να προσφέρει στήριξη.
Το περιεχόμενο των κανόνων που εφαρμόζονται στην AI μεταβάλλεται και επικαιροποιείται αλλού. Αυτή η σελίδα περιγράφει τον μηχανισμό: απογραφή αυτού που λειτουργεί, ταξινόμηση κατά ρόλο και κίνδυνο, και ενσωμάτωση του αποτελέσματος στις υπάρχουσες δομές διακυβέρνησης, ώστε ένας οργανισμός να έχει, σε περίπτωση ερωτήματος από την εποπτική αρχή ή το διοικητικό συμβούλιο, μια απάντηση που ευθυγραμμίζεται με τον τρόπο που ο κίνδυνος ήδη διαχειρίζεται.
Η ένταση μεταξύ της υπάρχουσας εποπτείας και της νέας χρήσης της AI δεν είναι μοναδική για τις χρηματοοικονομικές υπηρεσίες. Παρόμοια μοτίβα παρατηρούνται στον τρόπο με τον οποίο οργανώνεται η διακυβέρνηση AI στον κλάδο ενέργειας, στον τρόπο με τον οποίο ο κατασκευαστικός κλάδος διαχειρίζεται εφαρμογές AI στο εργοτάξιο και στη διαδικασία σχεδιασμού, και στον τρόπο με τον οποίο ο κλάδος ακινήτων αντιλαμβάνεται την AI στην εκτίμηση και τη διαχείριση. Αυτό που διαφέρει δεν είναι ο μηχανισμός, αλλά το σημείο όπου προσγειώνεται ο κίνδυνος: σε μια τράπεζα ή ασφαλιστική εταιρεία, αυτό είναι συχνά μια απόφαση που επηρεάζει άμεσα έναν πελάτη.
Μια απογραφή της χρήσης AI και η αντίστοιχη ταξινόμηση κινδύνου δείχνουν τι λειτουργεί και υπό ποια εποπτεία θα έπρεπε να υπάγεται αυτό. Δεν δείχνουν τι σημαίνει αυτή η χρήση για την κατανομή της ίδιας της εργασίας: ποιο μέρος μιας εργασίας, όπως η σύνταξη μιας συμβουλευτικής έκθεσης, ο έλεγχος ενός φακέλου ή η σύνοψη μιας συνομιλίας με πελάτη, μπορεί να ανατεθεί στην AI και ποιο μέρος παραμένει στον υπάλληλο. Αυτό το ερώτημα βρίσκεται εκτός του πεδίου εφαρμογής μιας σκανάρισης διακυβέρνησης και απαντάται από τη σκανάριση εργασίας της FTE TO AI, η οποία υπολογίζει ανά εργασία ποιο μέρος της δουλειάς μπορεί να μεταφερθεί στην AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.