Ένας υπεύθυνος προγράμματος AI λαμβάνει συνήθως μία εντολή: να φροντίσει ώστε η AI να υιοθετηθεί, οι ομάδες να γίνουν ταχύτερες, το πρόγραμμα να δείξει αποτελέσματα. Σπάνια προστίθεται μια δεύτερη εντολή: να φροντίσει ώστε όλα όσα προκύπτουν στο μεταξύ να είναι υπεύθυνα. Κι όμως κρίνεται για τα δύο μαζί τη στιγμή που κάτι πάει στραβά. Αυτό είναι το βασικό στοιχείο του κινδύνου του: είναι υπεύθυνος για ένα πρόγραμμα του οποίου δεν γνωρίζει τα όρια.
Όσα κερδίζει με την υιοθέτηση — ταχύτερες διαδικασίες, ικανοποιημένες ομάδες, μια ορατή αφήγηση καινοτομίας — αντιπαραβάλλονται με όσα χάνει αν κάτι πάει στραβά: ένα περιστατικό με ένα εργαλείο που δεν βρισκόταν στη λίστα του, έναν έλεγχο που θέτει ερωτήματα στα οποία δεν έχει απάντηση, ένα διοικητικό συμβούλιο που ρωτά γιατί το πρόγραμμα δεν είδε τι λειτουργούσε ήδη. Αυτή η ασυμμετρία κάνει τη θέση του ευάλωτη, ακόμη και όταν το ίδιο το πρόγραμμα εξελίσσεται καλά.
Το ερώτημά του δεν είναι «ποια εργαλεία AI έχουμε εγκρίνει». Αυτή τη λίστα την έχει, και συχνά είναι πιο σύντομη από την πραγματικότητα. Το ερώτημά του είναι: τι χρησιμοποιούν οι ομάδες που δεν βρίσκονται στη λίστα μου, και πώς το κάνω αυτό ορατό χωρίς να το αποκρύπτουν οι άνθρωποι. Ένας υπεύθυνος προγράμματος που θέλει να ενθαρρύνει την υιοθέτηση δεν μπορεί να επιτρέψει στους χρήστες να κρύβουν τα εργαλεία τους από φόβο διορθωτικής παρέμβασης. Όποιος ρωτά τι χρησιμοποιείται και στη συνέχεια το μετατρέπει σε πρόβλημα, δεν θα λάβει απάντηση την επόμενη φορά που θα ρωτήσει. Η διακυβέρνηση και η υιοθέτηση λειτουργούν εδώ αντίθετα η μία στην άλλη όταν η προσέγγιση είναι λάθος.
Μια απάντηση που δεν δέχεται είναι ένας απλός αποκλεισμός: «Η χρήση AI δεν επιτρέπεται χωρίς έγκριση.» Αυτή η απάντηση ικανοποιεί έναν ελεγκτή για μια στιγμή, αλλά μεταφέρει τη χρήση σε σημεία που κανείς δεν βλέπει. Είναι το ακριβώς αντίθετο από αυτό που θέλει να πετύχει ένας υπεύθυνος προγράμματος: θέλει η χρήση AI να είναι ορατή και καθοδηγούμενη, όχι να μετακινείται στο υπόγειο. Μια απαγόρευση χωρίς μηχανισμό αναφοράς και μάθησης είναι για εκείνον απώλεια, ακόμη κι αν στα χαρτιά ακούγεται συμβατή.
Δεν δέχεται επίσης μια απάντηση που αντιμετωπίζει όλα με τον ίδιο τρόπο. Ένα εργαλείο που συνοψίζει κείμενο για εσωτερική χρήση δεν αντιπροσωπεύει τον ίδιο κίνδυνο με ένα εργαλείο που λαμβάνει αυτόματα αποφάσεις για πελάτες ή εργαζομένους. Χωρίς διάκριση ανά ρόλο και επίπεδο κινδύνου, ένα πρόγραμμα δεν μπορεί να δώσει προτεραιότητες, και ένας υπεύθυνος προγράμματος που δεν μπορεί να δώσει προτεραιότητες δεν μπορεί να εκτελέσει την εντολή του.
Αυτό που λειτουργεί είναι μια απογραφή που ξεκινά από αυτό που υπάρχει, όχι από αυτό που έχει εγκριθεί. Αυτό σημαίνει να θέτονται ερωτήματα στις ομάδες σχετικά με το τι χρησιμοποιούν στην πραγματικότητα, και να γίνεται αυτό με τρόπο που δεν συνεπάγεται λογοδοσία με τιμωρητικό χαρακτήρα. Μόνο τότε έρχεται στο προσκήνιο η σκιώδης AI — τα συστήματα που εισήχθησαν χωρίς επίσημη διαδικασία, συχνά επειδή διευκόλυναν την εργασία και κανείς δεν είδε λόγο να περιμένει έγκριση.
Έπειτα ακολουθεί η κατηγοριοποίηση: ποια εφαρμογή αγγίζει πελάτες, ποια αγγίζει μόνο εσωτερική διαδικασία, ποια λαμβάνει αποφάσεις χωρίς άνθρωπο ενδιάμεσα. Αυτή η κατάταξη καθορίζει πού πρέπει να είναι αυστηρή η επίβλεψη και πού μπορεί να παραμείνει ελαφριά. Χωρίς αυτή την κατάταξη, ένα πρόγραμμα αντιμετωπίζει τα πάντα με την ίδια αυστηρότητα ή την ίδια χαλαρότητα, και τα δύο αποτελούν πρόβλημα: το πρώτο φρενάρει την υιοθέτηση, το δεύτερο αφήνει τους κινδύνους ανεξέλεγκτους.
Η δομή διακυβέρνησης που προκύπτει στη συνέχεια πρέπει να συνδέεται με ό,τι υπάρχει ήδη εντός του οργανισμού — τις υπάρχουσες επιτροπές κινδύνου, τις υπάρχουσες γραμμές αναφοράς — όχι ένα νέο παράλληλο κύκλωμα. Εδώ ακριβώς διαφοροποιείται ένας υπεύθυνος προγράμματος από άλλους ρόλους στον οργανισμό: ένα μέλος διοικητικού συμβουλίου θέλει να γνωρίζει τι πρέπει να γνωρίζει ένα μέλος διοικητικού συμβουλίου για τον κίνδυνο AI στο επίπεδο της τελικής ευθύνης, ένας CIO την προσεγγίζει από την πλευρά των συστημάτων και της πρόσβασης όπως περιγράφεται στο τι πρέπει να γνωρίζει ένας CIO για τον κίνδυνο AI, και ένας General Counsel εξετάζει την ευθύνη και την υποχρέωση τεκμηρίωσης μέσω του τι πρέπει να γνωρίζει ένας General Counsel για τον κίνδυνο AI. Ένας υπεύθυνος προγράμματος πρέπει να μπορεί να εξυπηρετήσει αυτές τις τρεις οπτικές χωρίς να χάσει το δικό του καθήκον — την υιοθέτηση.
Ποιες συγκεκριμένες υποχρεώσεις ισχύουν για ποια κατηγορία κινδύνου, και εντός ποιων προθεσμιών, δεν αποτελεί το θέμα αυτής της σελίδας. Αυτό το κείμενο μεταβάλλεται, αυστηροποιείται και εξηγείται σε άλλα σημεία. Εδώ πρόκειται για τον μηχανισμό: πώς ένα πρόγραμμα αποκτά εικόνα για ό,τι συμβαίνει, πώς το μεταφράζει σε επίπεδα κινδύνου, και πώς το αποδεικνύει προς το διοικητικό συμβούλιο και την εποπτεία, ανεξάρτητα από το τι ακριβώς ορίζει το κείμενο των κανόνων σε μια δεδομένη στιγμή.
Μόλις γίνει σαφές τι λειτουργεί και ποιος είναι υπεύθυνος για αυτό, προκύπτει ένα άλλο ερώτημα: τι αποδίδει αν αυτή η εργασία οργανωθεί σωστά. Αυτό είναι ένα ερώτημα που πρέπει να απαντηθεί ανά εργασία, όχι ανά οργανισμό. Η σάρωση εργασίας της FTE TO AI υπολογίζει σε αυτό το επίπεδο ποιο μέρος της εργασίας μπορεί να αναλάβει η AI, ώστε ένας υπεύθυνος προγράμματος να γνωρίζει όχι μόνο τι συμβαίνει, αλλά και πού η προσθήκη ικανότητας κάνει πραγματικά τη διαφορά.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.