Μια εφαρμογή AI κάνει ένα λάθος. Μια απόφαση δεν είναι σωστή, μια συμβουλή είναι παραπλανητική, ένας πελάτης απορρίπτεται αδίκως. Το ερώτημα που ακολουθεί δεν είναι μόνο τεχνικό. Ποιος έπρεπε να το προβλέψει, ποιος διαχειριζόταν το σύστημα, και ποιος μπορεί να εξηγήσει γιατί χρησιμοποιήθηκε με τον τρόπο που χρησιμοποιήθηκε.
Αυτή η απάντηση δεν υπάρχει ανεξάρτητα από ένα μητρώο. Η ευθύνη προϋποθέτει ότι κάποιος γνωρίζει ότι μια εφαρμογή υπάρχει, σε τι εξυπηρετεί και ποιος είναι υπεύθυνος γι' αυτήν. Χωρίς αυτή τη βάση, το ερώτημα περί ευθύνης είναι ρητορικό: δεν υπάρχει κανείς που να το γνωρίζει, άρα δεν υπάρχει κανείς που να μπορεί να το εξηγήσει.
Ένα Responsible AI Scan χαρτογραφεί τι λειτουργεί, ποιος το χρησιμοποιεί και με ποιο επίπεδο κινδύνου αυτό συνδέεται. Αυτό είναι ένα σημείο εκκίνησης, όχι μια κρίση περί ενοχής. Το scan κατηγοριοποιεί μια εφαρμογή βάσει ρόλου και κινδύνου· δεν αξιολογεί αν μια μεμονωμένη απόφαση ήταν ορθή. Αυτή η αξιολόγηση ανήκει στο ίδιο το περιστατικό, όχι στην απογραφή που το προηγήθηκε.
Αυτό που κάνει όμως το scan είναι να παρέχει τη δομή εντός της οποίας αυτή η αξιολόγηση μπορεί αργότερα να γίνει. Αν είναι γνωστό ποιος έχει αγοράσει μια εφαρμογή, ποιος τη διαχειρίζεται και για ποιο σκοπό έχει εγκριθεί, υπάρχει μια γραμμή αναφοράς. Αν αυτή η δομή απουσιάζει, το ερώτημα περί ευθύνης καταλήγει σε εκ των υστέρων εικασίες.
Οι περισσότερες οργανώσεις έχουν μια επισκόπηση εγκεκριμένου λογισμικού. Αυτή η επισκόπηση σχεδόν ποτέ δεν είναι πλήρης. Οι εργαζόμενοι χρησιμοποιούν εργαλεία που κανείς δεν έχει δηλώσει, συχνά επειδή η εργασία γίνεται πιο γρήγορα και κανείς δεν ρώτησε. Αυτό δεν είναι εξ ορισμού ανεύθυνη συμπεριφορά· είναι αυτό που συμβαίνει όταν μια οργάνωση δεν προσφέρει άλλο δρόμο.
Όποιος θέλει να ξέρει τι πραγματικά χρησιμοποιείται, πρέπει να το ρωτήσει. Και αυτό λειτουργεί μόνο όταν η ερώτηση δεν έχει συνέπειες. Μόλις ένας εργαζόμενος υποψιαστεί ότι μια ειδική απάντηση θα οδηγήσει σε διορθωτική συζήτηση, η απάντηση σταματάει. Τι κάνετε με εργαζόμενους που χρησιμοποιούν ένα εργαλείο που κανείς δεν έχει εγκρίνει αφορά ακριβώς αυτόν τον μηχανισμό: η απογραφή είναι τόσο καλή όσο η εμπιστοσύνη με την οποία συλλέγεται.
Σε αυτό εντάσσεται και το ερώτημα τι συμβαίνει με τις επιχειρηματικές πληροφορίες μόλις πληκτρολογηθούν σε ένα εξωτερικό παράθυρο. Τι κάνετε με επιχειρηματικά δεδομένα σε ένα δωρεάν παράθυρο συνομιλίας περιγράφει έναν κίνδυνο που δεν σχετίζεται με κακή πρόθεση: κάποιος απλά θέλει να ελεγχθεί ένα κείμενο, και στη διαδικασία πληκτρολογεί κάτι που δεν έπρεπε.
Ένα σύνολο κανόνων διακυβέρνησης που ακολουθεί μια απογραφή ρυθμίζει ποιος εγκρίνει μια εφαρμογή, ποιος ασκεί εποπτεία και πώς αυτό καταγράφεται. Αυτό συνδέεται με τη δομή διαχείρισης κινδύνου που μια οργάνωση έχει ήδη για άλλους τομείς: οι ίδιες επιτροπές, οι ίδιες γραμμές αναφοράς, οι ίδιες οδοί κλιμάκωσης. Δεν προστίθεται νέος μηχανισμός δίπλα στον υπάρχοντα· προστίθεται μια κατηγορία σε αυτό που ήδη υπάρχει.
Αυτό αποφέρει αποδεικνυόμενη υπευθυνότητα: μια διοίκηση μπορεί να δείξει ότι έγινε εξέταση, κατηγοριοποίηση και οργανώθηκε εποπτεία. Δεν αποφέρει εγγύηση ότι μια εφαρμογή δεν θα κάνει ποτέ ξανά λάθος. Αυτά τα δύο διαφέρουν και το scan δεν διατυπώνει κρίση για το δεύτερο. Αυτό που προσφέρει είναι μια βάση επί της οποίας μια διοίκηση μπορεί να εξηγήσει τι έγινε, όχι μια ασφάλιση έναντι όσων μπορούν ακόμα να συμβούν.
Ένα συχνό λάθος είναι η δημιουργία μιας ξεχωριστής διαδικασίας AI, ανεξάρτητης από την υπάρχουσα δομή διαχείρισης κινδύνου και συμμόρφωσης. Αυτή η διαδικασία λαμβάνει προσοχή στην αρχή και στη συνέχεια περνάει στο περιθώριο, επειδή κανείς δεν συνεχίζει να συντηρεί ένα δεύτερο σύστημα δίπλα στο πρώτο. Γιατί μια δεύτερη διαδικασία δίπλα στην υπάρχουσα αγνοείται εξηγεί γιατί η ένταξη σε υπάρχουσες δομές δεν είναι θέμα αποδοτικότητας, αλλά προϋπόθεση για να συνεχίσει κάτι να υπάρχει.
Σε αυτό εντάσσεται επίσης ότι μια απογραφή είναι μια στιγμή, όχι ένα τελικό σημείο. Νέες εφαρμογές προστίθενται, υπάρχουσες αλλάζουν λειτουργία, και μια κατηγοριοποίηση που ήταν σωστή κατά την παράδοση δεν είναι αυτόματα σωστή έναν χρόνο μετά. Πόσο συχνά πρέπει να κατηγοριοποιείτε εκ νέου και πώς διατηρείτε ένα μητρώο AI επικαιροποιημένο περιγράφουν τι απαιτεί αυτή η συντήρηση στην πράξη, και γιατί ένα μητρώο που έχει καταρτιστεί μία φορά δεν ανταποκρίνεται πλέον στην πραγματικότητα μέσα σε εύλογο χρονικό διάστημα.
Οι άνθρωποι που εργάζονται με αυτές τις εφαρμογές αποτελούν επιπλέον μέρος της λύσης, όχι μόνο έναν κίνδυνο που πρέπει να τεθεί υπό έλεγχο. Τι κατανοούν και τι δεν κατανοούν οι εργαζόμενοι σχετικά με τα συστήματα που χρησιμοποιούν, καθορίζει αν ένα σύνολο κανόνων διακυβέρνησης σημαίνει κάτι στην πράξη. Τι σημαίνει ο αλφαβητισμός AI για τους εργαζομένους σας εξετάζει αυτή την πτυχή.
Όποιος γνωρίζει πλέον ποιες εφαρμογές AI λειτουργούν και ποιος είναι υπεύθυνος γι' αυτές, φτάνει αναπόφευκτα σε ένα επόμενο ερώτημα: ποιο μέρος της εργασίας που τώρα γίνεται χειρωνακτικά είναι στην ουσία κατάλληλο να ανατεθεί σε μια εφαρμογή AI. Αυτό είναι διαφορετικό ερώτημα από την ευθύνη, αλλά βασίζεται στην ίδια απογραφή. Το werkscan της FTE TO AI υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί να αναληφθεί από την AI, ως επόμενο βήμα μετά την αποσαφήνιση του τι ήδη λειτουργεί και ποιος αποφασίζει γι' αυτό.
Το scan που περιγράφεται σε αυτή τη σελίδα βρίσκεται υπό κατασκευή. Όποιος ενδιαφέρεται μπορεί να εγγραφεί στη λίστα αναμονής· δεν παραδίδεται προς το παρόν τίποτα που δεν είναι έτοιμο.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.