Σε πολλούς οργανισμούς υπάρχει μια πάγια λίστα εφαρμογών που θεωρούνται "εκτός πεδίου εφαρμογής". Μια πρόταση κειμένου σε επεξεργαστή κειμένου, ένα φίλτρο ανεπιθύμητης αλληλογραφίας, ένα chatbot που απαντά μόνο βάσει μιας σταθερής λίστας συχνών ερωτήσεων. Η υπόθεση είναι ότι αυτές οι εφαρμογές είναι πολύ μικρές, πολύ παλιές ή πολύ αθώες για να υπάγονται σε διακυβέρνηση. Αυτή η υπόθεση κάποιες φορές είναι σωστή. Δεν είναι πάντα σωστή, και σπάνια παραμένει σωστή διαρκώς.
Το αν κάτι εμπίπτει εκτός πεδίου εφαρμογής δεν είναι ιδιότητα της τεχνολογίας. Είναι μια κατηγοριοποίηση που προκύπτει από το τι κάνει το σύστημα, για ποιον, και με ποιο αποτέλεσμα αν κάτι πάει στραβά. Η ίδια πρόταση κειμένου που σήμερα βρίσκεται εκτός πεδίου εφαρμογής επειδή απλώς προτείνει μια λέξη σε έναν εργαζόμενο, μπορεί αύριο να εμπίπτει στο πεδίο εφαρμογής μόλις ολοκληρώνει και αποστέλλει αυτόματα μηνύματα ηλεκτρονικού ταχυδρομείου χωρίς παρέμβαση.
Τρεις παράγοντες καθορίζουν μαζί αν μια εφαρμογή εμπίπτει ή όχι στο πεδίο εφαρμογής.
Ο πρώτος είναι η λειτουργία: παίρνει το σύστημα μια απόφαση, ή παρέχει μόνο πληροφορίες που αξιολογεί ένας άνθρωπος; Ένα εργαλείο που κατατάσσει υποψήφιους βρίσκεται πιο κοντά στο πεδίο εφαρμογής από ένα εργαλείο που απλώς κάνει τα βιογραφικά αναζητήσιμα. Σε ποιο σημείο αυτού του φάσματος βρίσκεται ακριβώς μια εφαρμογή και γιατί, διαβάζετε στην ανάλυση για το τι σημαίνει υψηλό επίπεδο κινδύνου για τον οργανισμό σας.
Ο δεύτερος είναι ο ρόλος του ίδιου του οργανισμού. Όποιος αγοράζει ένα σύστημα και το χρησιμοποιεί αμετάβλητο βρίσκεται σε διαφορετική θέση από όποιον το κατασκευάζει, το εκπαιδεύει ή το προσαρμόζει ο ίδιος. Η ίδια εφαρμογή μπορεί για έναν οργανισμό να βρίσκεται εκτός πεδίου εφαρμογής και για έναν άλλο όχι, απλώς με βάση το ποιος φέρει ποια ευθύνη. Αυτή η διάκριση αναλύεται στο το ερώτημα αν είστε πάροχος ή χρήστης, και μεταβάλλεται τη στιγμή που κάποιος στον οργανισμό προσαρμόζει ή επανεκπαιδεύει ένα μοντέλο, όπως περιγράφεται στο τι αλλάζει όταν προσαρμόζετε εσείς οι ίδιοι ένα μοντέλο.
Ο τρίτος παράγοντας είναι ο χρόνος. Ένα σύστημα που τώρα βρίσκεται εκτός πεδίου εφαρμογής, μπορεί ένα χρόνο αργότερα να μην είναι πλέον, όχι επειδή άλλαξαν οι κανόνες, αλλά επειδή άλλαξε η χρήση. Ένα chatbot που ξεκίνησε ως πηγή πληροφοριών μπορεί να εξελιχθεί σε σύστημα που διαχειρίζεται παράπονα. Ο ρόλος μιας ομάδας ή τμήματος σε σχέση με ένα τέτοιο σύστημα μετατοπίζεται ανάλογα, και πότε συμβαίνει αυτό περιγράφεται στο πότε αλλάζει ο ρόλος σας και από τι εξαρτάται αυτό.
Το αποτέλεσμα αυτών των τριών παραγόντων είναι ότι το "εκτός πεδίου εφαρμογής" ποτέ δεν αποτελεί μόνιμη κατάσταση. Είναι μια στιγμιαία εικόνα που πρέπει να επανεξετάζεται μόλις αλλάξει η λειτουργία ενός συστήματος, μόλις ο οργανισμός αποκτήσει διαφορετικό ρόλο σε σχέση με αυτό το σύστημα, ή μόλις η χρήση επεκταθεί σε κάτι που δεν προβλεπόταν κατά την αγορά.
Ακριβώς εδώ η σκιώδης AI διαταράσσει την κατηγοριοποίηση. Μια εφαρμογή που στη λίστα της πληροφορικής σημειώνεται ως "εκτός πεδίου εφαρμογής", μπορεί στην πράξη να χρησιμοποιείται με τρόπο που δεν ταιριάζει πλέον σε αυτή την κατηγορία. Μια ομάδα που χρησιμοποιεί ένα γλωσσικό μοντέλο για να συντάσσει προσχέδια επικοινωνίας με πελάτες, ίσως το χρησιμοποιεί επίσης για να στέλνει τελικές απαντήσεις χωρίς να το αναφέρει. Η κατηγοριοποίηση στα χαρτιά και η χρήση στην πράξη αποκλίνουν τότε, και κανείς που κοιτάζει μόνο τις αγορασμένες άδειες δεν βλέπει αυτή τη διαφορά.
Ο μόνος τρόπος να αποκτήσετε εικόνα γι' αυτό είναι να ρωτήσετε. Όχι ένα σύστημα, αλλά τους ανθρώπους που το χρησιμοποιούν. Αυτό λειτουργεί μόνο αν η υποβολή ερωτήσεων δεν ισοδυναμεί με λογοδοσία: όποιος φοβάται τις συνέπειες, προσαρμόζει την απάντησή του ή δεν δίνει καμία. Μια κατηγοριοποίηση που βασίζεται αποκλειστικά σε αγορασμένες άδειες χάνει επομένως συστηματικά τις εφαρμογές που προέκυψαν από την πρακτική χρήση, και αυτές είναι συχνά ακριβώς οι εφαρμογές για τις οποίες κανείς δεν γνωρίζει πλέον αν βρίσκονται ακόμη εκτός πεδίου εφαρμογής ή αν έχουν πλέον εισέλθει βαθιά σε αυτό.
Η ερώτηση "αυτό εμπίπτει εκτός πεδίου εφαρμογής" δεν μπορεί λοιπόν να απαντηθεί ανεξάρτητα από το ερώτημα τι ακριβώς συμβαίνει, ποιος αποφασίζει γι' αυτό, και πόσο καιρό υπάρχει ήδη αυτή η κατάσταση. Μια απογραφή που καταγράφει αυτούς τους τρεις παράγοντες ανά εφαρμογή, παράγει μια κατηγοριοποίηση που ανταποκρίνεται στην πραγματική κατάσταση αντί στην υπόθεση με βάση την οποία κάποτε αγοράστηκε ένα σύστημα. Τι απαιτεί ήδη τώρα προσοχή και τι μπορεί να προγραμματιστεί με ήσυχο ρυθμό, εξαρτάται από τους ίδιους παράγοντες και αναλύεται στο η διάκριση μεταξύ αυτού που πρέπει να γίνει τώρα και αυτού που μπορεί να προγραμματιστεί.
Μόλις γίνει σαφές ποιες εφαρμογές εμπίπτουν στο πεδίο εφαρμογής και ποιο ρόλο διαδραματίζει ο οργανισμός σας σε αυτό, προκύπτει ένα επόμενο ερώτημα που δεν αφορά τη διακυβέρνηση αλλά την ίδια την εργασία: ποιο μέρος μιας εργασίας αναλαμβάνει στην πραγματικότητα μια τέτοια εφαρμογή, και ποιο μέρος παραμένει ανθρώπινη εργασία; Αυτή την ερώτηση δεν την απαντά η σκανάρισμα διακυβέρνησης (governance-scan). Γι' αυτό προορίζεται η σκανάρισμα εργασίας (werkscan) της FTE TO AI, η οποία υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί να αναληφθεί από την AI, δίνοντας έτσι μια εικόνα της δέσμευσης που κρύβεται πίσω από την κατηγοριοποίηση.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.