re-ai-gov Στη λίστα αναμονής

Kennisbank

Η λίστα IT είναι σημείο εκκίνησης, όχι απάντηση

Τι δείχνει η λίστα και τι όχι

Το τμήμα IT καταγράφει τι έχει αγοραστεί, εγκατασταθεί ή εξουσιοδοτηθεί. Αυτό είναι χρήσιμη πληροφορία, αλλά απαντά σε διαφορετική ερώτηση από αυτή που θέτει στην πραγματικότητα ένα μέλος διοικητικού συμβουλίου, ένας CIO ή ένας General Counsel. Η λίστα IT δείχνει τι έχει εγκριθεί. Η ερώτηση που μετράει είναι τι χρησιμοποιείται.

Ανάμεσα στα δύο υπάρχει χώρος. Ένας εργαζόμενος που χρησιμοποιεί ένα δωρεάν εργαλείο AI στο πρόγραμμα περιήγησης δεν είναι καταχωρημένος πουθενά. Μια ομάδα που συμβουλεύεται ένα γλωσσικό μοντέλο μέσω επέκτασης προγράμματος περιήγησης δεν εμφανίζεται σε καμία επισκόπηση αδειών. Ένα τμήμα που έχει ενσωματώσει ένα chatbot σε μια μακροεντολή υπολογιστικού φύλλου δεν εμφανίζεται σε κανένα μητρώο περιουσιακών στοιχείων. Τίποτα από όλα αυτά δεν είναι εξ ορισμού αντίθετο με τους κανόνες. Είναι απλά αόρατο για τη λίστα στην οποία βασίζονται η διοίκηση και η εποπτεία.

Γιατί αυτό δεν είναι ζήτημα αμέλειας

Το χάσμα ανάμεσα στη λίστα και την πράξη δεν προκύπτει επειδή κάποιος είναι απρόσεκτος. Προκύπτει επειδή οι εφαρμογές AI έχουν γίνει εύκολα προσβάσιμες, συχνά χωρίς διαδικασία αγοράς, χωρίς τιμολόγιο, χωρίς εμπλοκή του IT. Ένας εργαζόμενος που θέλει να κάνει μια εργασία πιο γρήγορα αναζητά μια λύση και συχνά τη βρίσκει μέσα σε λίγα λεπτά, έξω από κάθε επίσημο κανάλι. Αυτή η συμπεριφορά είναι προβλέψιμη και δημιουργεί ένα πραγματικό πρόβλημα: κανείς με επισκόπηση του οργανισμού δεν γνωρίζει πλέον ποια AI εργάζεται πραγματικά με ποια δεδομένα.

Σε τι μπορεί να βασιστεί η λίστα

Η λίστα IT δεν είναι άχρηστη. Είναι το σημείο εκκίνησης μιας απογραφής, όχι το τελικό σημείο. Το Τι αποκαλύπτουν τα δεδομένα προμηθειών και αδειών δείχνει ότι τα τιμολόγια και οι συμβάσεις αποκαλύπτουν συχνά περισσότερα από το ίδιο το μητρώο περιουσιακών στοιχείων: μια δοκιμαστική συνδρομή που συνέχισε να τρέχει, μια άδεια που συνήφθη από ένα τμήμα χωρίς διαβούλευση με το IT, μια σύνδεση API που χρεώνεται μηνιαίως χωρίς να υπάρχει επίσημη έγκριση πίσω από αυτήν. Επιπλέον, υπάρχουν σήματα IT που είναι χρήσιμα για τον εντοπισμό σκιώδους AI: δικτυακή κίνηση προς γνωστούς τομείς AI, νέες επεκτάσεις προγράμματος περιήγησης, ασυνήθιστες αιχμές στην κίνηση δεδομένων προς εξωτερικές υπηρεσίες. Καμία από αυτές τις πηγές δεν είναι από μόνη της πλήρης. Μαζί δίνουν μια εικόνα που η επίσημη λίστα δεν προσφέρει.

Γιατί πρέπει και να το ρωτήσετε

Τα τεχνικά σήματα δείχνουν ότι κάτι χρησιμοποιείται, αλλά σπάνια δείχνουν γιατί ή για ποιο σκοπό ακριβώς. Αυτό το πλαίσιο το αποκτάτε μόνο ρωτώντας τους ανθρώπους που το χρησιμοποιούν. Αυτό λειτουργεί μόνο αν η ερώτηση δεν τίθεται ως έρευνα εντοπισμού. Όποιος φοβάται μια κύρωση δεν δίνει ειλικρινή απάντηση, ή δεν απαντά καθόλου. Το Πώς το ρωτάτε τους εργαζομένους χωρίς συνέπειες περιγράφει πώς μπορεί να τεθεί αυτή η ερώτηση ώστε οι άνθρωποι να πουν πράγματι τι χρησιμοποιούν και γιατί, χωρίς να αισθάνονται ότι προδίδουν τον εαυτό τους.

Τι καταγράφετε μόλις το γνωρίζετε

Μια απογραφή είναι κάτι περισσότερο από μια λίστα εφαρμογών. Για κάθε εφαρμογή καταγράφετε: ποιος τη χρησιμοποιεί, για ποια εργασία, με ποια δεδομένα, και αν το αποτέλεσμα παίζει ρόλο σε μια απόφαση που έχει συνέπειες για κάποιον εκτός του οργανισμού. Αυτή η τελευταία ερώτηση καθορίζει το επίπεδο κινδύνου και μαζί με αυτό ποιες απαιτήσεις διακυβέρνησης ισχύουν. Το Τι πρέπει να καταγράφετε ανά εφαρμογή περιγράφει αυτή τη μορφή λεπτομερώς. Για οργανισμούς με πολλά τμήματα, εγκαταστάσεις ή θυγατρικές, προστίθεται ένα επιπλέον επίπεδο: η ίδια εφαρμογή μπορεί σε ένα τμήμα να έχει χαμηλή επίπτωση και σε άλλο να επηρεάζει μια απόφαση σχετικά με πελάτες. Το Πώς δημιουργείτε μια απογραφή AI σε έναν οργανισμό με πολλά τμήματα εξετάζει αυτή την κλίμακα, και το γιατί η λίστα IT απομένει εκεί ακόμη περισσότερο πίσω από την πραγματικότητα απ' ό,τι σε ένα μόνο τμήμα.

Τι αποφέρει αυτό για τη διοίκηση και την εποπτεία

Μια απογραφή που έχει δημιουργηθεί από πολλαπλές πηγές — η λίστα IT, τα δεδομένα προμηθειών, τα τεχνικά σήματα και οι συζητήσεις με τους εργαζομένους — δίνει σε ένα μέλος διοικητικού συμβουλίου κάτι με το οποίο μπορεί να λογοδοτήσει για την κατάσταση, αντί να βασίζεται σε ένα μητρώο για το οποίο γνωρίζει ότι είναι ελλιπές. Αυτό δεν είναι εγγύηση ότι όλα είναι ορατά· η αόρατη χρήση δεν μπορεί ποτέ να αποκλειστεί πλήρως. Αποτελεί όμως μια βάση που έχει δημιουργηθεί με αποδεδειγμένο τρόπο, με σαφή μεθοδολογία, αντί για μια λίστα που απλά υπάρχει τυχαία.

Το επόμενο ερώτημα: τι αναλαμβάνει πραγματικά η AI

Μια απογραφή δείχνει ποιες εφαρμογές AI υπάρχουν και ποιος τις χρησιμοποιεί. Δεν δείχνει πόσο από την υποκείμενη εργασία αναλαμβάνουν πραγματικά αυτές οι εφαρμογές, και πόσος χώρος υπάρχει ακόμη για τη μεταφορά εργασιών. Αυτό είναι ένα διαφορετικό ερώτημα, με ένα διαφορετικό εργαλείο: η ανάλυση εργασιών (werkscan) του FTE TO AI υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί να αναληφθεί από την AI, με βάση το τι πραγματικά περιλαμβάνει αυτή η εργασία και όχι με βάση το όνομα της θέσης.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.