Ένας προμηθευτής παρέχει ένα λογιστικό πακέτο, ένα σύστημα HR ή ένα εργαλείο εξυπηρέτησης πελατών. Υπάρχει σύμβαση, σύμβαση επεξεργασίας δεδομένων, ίσως έλεγχος ασφάλειας. Έπειτα ο προμηθευτής προσθέτει σε μια ενημέρωση μια λειτουργία AI: αυτόματη ταξινόμηση, προτάσεις κειμένου, ένα chatbot που έχει αφεθεί ελεύθερο στα δεδομένα σας. Οι σημειώσεις έκδοσης το αποκαλούν βελτίωση. Κανείς στον οργανισμό σας δεν είχε λόγο σε αυτό, επειδή κανείς δεν γνώριζε ότι επρόκειτο να συμβεί.
Αυτό δεν είναι εξαίρεση στον τρόπο παράδοσης λογισμικού. Έχει γίνει ο κανόνας. Οι προμηθευτές ανταγωνίζονται σε λειτουργικότητα AI και την ενσωματώνουν όσο το δυνατόν πιο γρήγορα, συχνά ως μέρος μιας συνδρομής που ήδη πληρώνετε. Το ερώτημα αν αυτό εμπίπτει στις υπάρχουσες συμφωνίες σας σπάνια τίθεται πριν η λειτουργία τεθεί σε λειτουργία.
Ένα τμήμα προμηθειών ελέγχει έναν προμηθευτή κατά την αγορά. Έπειτα η προσοχή μετατοπίζεται σε τιμολόγιο, χρόνο διαθεσιμότητας και υποστήριξη. Οι λειτουργικές ενημερώσεις παρακάμπτουν αυτή τη διαδικασία, καθώς εμπίπτουν στη συντήρηση, όχι σε νέα αγορά. Ποιος θα έπρεπε να το αναφέρει; Ο προμηθευτής το βλέπει ως βελτίωση προϊόντος. Ο υπεύθυνος προμηθειών δεν βλέπει την ενημέρωση, ή τη βλέπει και σκέφτεται ότι αφορά κάποιον άλλο. Ο χρήστης στον οργανισμό παρατηρεί κυρίως ότι ένα κουμπί κάνει κάτι πιο έξυπνο και δεν αναρωτιέται αν από πίσω υπάρχει ένα γλωσσικό μοντέλο που επεξεργάζεται δεδομένα εξωτερικά.
Το μοτίβο μοιάζει με ό,τι συμβαίνει με μια επέκταση προγράμματος περιήγησης με πρόσβαση στο email σας: η πρόσβαση παραχωρείται τη στιγμή που κανείς δεν σκεφτόταν το AI, και παραμένει έκτοτε ενεργή απαρατήρητη. Στους προμηθευτές το πρόβλημα κλίμακας είναι μεγαλύτερο, επειδή δεν αφορά έναν εργαζόμενο αλλά έναν ολόκληρο οργανισμό που εκτίθεται μέσω μίας σύμβασης.
Μια συμβατική διάταξη που επιβάλλει υποχρέωση ενημέρωσης σε περίπτωση λειτουργικότητας AI βοηθά σε νέες συμβάσεις. Σε υπάρχουσες συμβάσεις η διάταξη δεν υπάρχει, και δεν είναι αυτονόητο ότι ένας προμηθευτής θα την αποδεχτεί αναδρομικά. Επιπλέον, μια ρήτρα δεν λύνει το πρόβλημα εντοπισμού: αν κανείς δεν ελέγχει περιοδικά τι πραγματικά έχει προσθέσει ένας προμηθευτής, η ενημέρωση εξακολουθεί να εξαρτάται από τη διάθεση του προμηθευτή να ενημερώσει ο ίδιος.
Αυτό που λειτουργεί, είναι μια σταθερή στιγμιαία καταγραφή: μια περιοδική απογραφή του τι παρέχει αυτή τη στιγμή κάθε βασικός προμηθευτής σε λειτουργικότητα AI, ανεξάρτητα από ό,τι αξιολογήθηκε κατά την αγορά. Αυτό δεν είναι νομικό εργαλείο αλλά μια πραγματική επισκόπηση, η οποία στη συνέχεια μπορεί να ελεγχθεί έναντι της κατηγορίας κινδύνου της διαδικασίας στην οποία λειτουργεί ο προμηθευτής.
Η ίδια δυναμική που διατηρεί το σκιώδες AI στους εργαζομένους, εμφανίζεται και εδώ, μόνο σε επίπεδο προμηθευτή. Όποιος θέτει την ερώτηση «χρησιμοποιείτε AI για αυτό», θέλει μια ειδική απάντηση, όχι μια αμυντική αντίδραση από τον υπεύθυνο λογαριασμού. Αυτό σημαίνει ότι η ερώτηση δεν πρέπει να τίθεται ως πρόδρομος καταγγελίας σύμβασης, αλλά ως μέρος μιας πάγιας διαδικασίας στην οποία η απάντηση δεν έχει άλλη συνέπεια πέραν της ταξινόμησης. Δείτε πώς λειτουργεί αυτό με εργαζομένους που χρησιμοποιούν ένα εργαλείο που κανείς δεν έχει εγκρίνει: η χρήσιμη πληροφορία αποδεσμεύεται μόνο όταν το να ρωτάς είναι ανεξάρτητο από το να τιμωρείς.
Ένας κατάλογος προμηθευτών είναι αφετηρία, όχι τελικό σημείο. Για κάθε προμηθευτή που έχει πρόσβαση σε δεδομένα παραγωγής, δεδομένα πελατών ή δεδομένα προσωπικού, είναι σχετικό αν πλέον υπάρχει λειτουργικότητα AI, τι κάνει αυτή η λειτουργικότητα με τα δεδομένα, και αν αυτή η χρήση εμπίπτει στην ίδια κατηγορία κινδύνου με αυτή για την οποία ο προμηθευτής εγκρίθηκε αρχικά. Ένας προμηθευτής που αξιολογήθηκε πριν από πέντε χρόνια ως χαμηλού κινδύνου επειδή απλώς εκδίδει τιμολόγια, μπορεί τώρα να εκτελεί μια λειτουργική μονάδα που ταξινομεί αυτόματα τιμολόγια με βάση ένα γλωσσικό μοντέλο που εκπαιδεύτηκε εξωτερικά. Αυτό είναι διαφορετική κατηγορία κινδύνου, ακόμη και αν στο τιμολόγιο εμφανίζεται το ίδιο όνομα.
Αυτή η απογραφή δεν πρέπει να στέκεται ξεχωριστά από την υπόλοιπη διακυβέρνηση AI σε έναν οργανισμό. Η ίδια ταξινόμηση που εφαρμόζεται σε εργαλεία που κατασκευάστηκαν εσωτερικά ή σε μια δοκιμαστική εγκατάσταση που ποτέ δεν απενεργοποιήθηκε, πρέπει να εφαρμόζεται και σε ό,τι εισάγουν οι προμηθευτές. Μία επισκόπηση, μία κλίμακα κινδύνου, ανεξάρτητα από το αν το AI κατασκευάστηκε εσωτερικά, εισήχθη από έναν εργαζόμενο, ή προστέθηκε από έναν προμηθευτή χωρίς ανακοίνωση.
Μόλις γίνει σαφές ποιο AI εισέρχεται μέσω προμηθευτών, προκύπτει ένα επόμενο ερώτημα που ξεπερνά τον κίνδυνο από μόνο του: τι κάνει στην πραγματικότητα αυτό το AI με την εργασία που τώρα εκτελείται από ανθρώπους, και πού συμπίπτει αυτό με καθήκοντα που ούτως ή άλλως είναι υποψήφια για αυτοματοποίηση. Η ανάλυση εργασίας του FTE TO AI υπολογίζει ανά καθήκον ποιο μέρος της εργασίας μπορεί να αναληφθεί από AI, ανεξάρτητα από ποιος προμηθευτής ή ποιο σύστημα το εκτελεί τελικά. Αυτό κάνει την απογραφή που ξεκινά από τον κίνδυνο χρήσιμη επίσης για το ερώτημα που ακολουθεί: όχι μόνο τι λειτουργεί, αλλά τι αξίζει πραγματικά η εργασία.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.