Kennisbank

Πώς αποτρέπετε ένα τμήμα με δική του συνδρομή;

Μια ομάδα μάρκετινγκ χρειάζεται έναν βοηθό γραφής. Ένας οικονομικός αναλυτής θέλει ένα εργαλείο που συνοψίζει υπολογιστικά φύλλα. Κανείς από αυτούς δεν περιμένει μια διαδικασία προμηθειών που διαρκεί μήνες. Υπάρχει μια πιστωτική κάρτα, μια διεύθυνση email, και μέσα σε δέκα λεπτά υπάρχει μια συνδρομή που το τμήμα πληρώνει μόνο του, διαχειρίζεται μόνο του και χρησιμοποιεί μόνο του. Το τμήμα IT δεν γνωρίζει τίποτα γι' αυτό. Δεν υπάρχει λόγος να το αναφέρει κανείς, γιατί δεν έχει γίνει τίποτα λάθος — απλώς λύθηκε ένα πρόβλημα.

Πώς προκύπτει

Το περισσότερο σκιώδες AI δεν ξεκινά με μια προσπάθεια παράκαμψης κανόνων. Ξεκινά με μια εργασία που πρέπει να γίνει γρηγορότερα, μια προθεσμία που δεν περιμένει μια διαδικασία έγκρισης, και ένα εργαλείο που είναι προσβάσιμο χωρίς την παρέμβαση κάποιου άλλου. Το τμήμα που το συνδρομεί δεν το βλέπει ως απόφαση IT. Το αισθάνεται σαν ένα γραφειακό είδος, όχι διαφορετικό από μια άδεια λογισμικού που όλοι ήδη χρησιμοποιούσαν πριν υπάρξει κεντρική πολιτική προμηθειών. Το ότι ένα γλωσσικό μοντέλο επεξεργάζεται εταιρικά δεδομένα, διαβάζει δεδομένα πελατών ή παράγει προσχέδιο κειμένου που δημοσιεύεται εξωτερικά, δεν αποτελεί για τον χρήστη ζήτημα διακυβέρνησης. Είναι απλώς δουλειά.

Η ίδια δυναμική εμφανίζεται και όταν ένας προμηθευτής ενσωμάτωσε AI στο προϊόν του χωρίς να έχει γίνει ξεχωριστή συζήτηση γι' αυτό: η λειτουργικότητα εμφανίζεται σε μια ενημέρωση, κανείς δεν την υπογράφει, και ο οργανισμός τη χρησιμοποιεί προτού κανείς έχει καθορίσει ποιος είναι υπεύθυνος γι' αυτήν.

Γιατί δεν εξαφανίζεται από μόνο του

Μια ανακοίνωση ότι μη εξουσιοδοτημένα εργαλεία δεν επιτρέπονται αλλάζει λίγα πράγματα. Το τμήμα που έχει τη συνδρομή το βιώνει ως μια λύση που λειτουργεί, όχι ως κίνδυνο που πρέπει να αναφερθεί. Μια απαγόρευση χωρίς εναλλακτική λύση παράγει δύο πράγματα: η συνδρομή πηγαίνει υπόγεια, ή η ομάδα την σταματά και η εργασία γίνεται πάλι πιο αργή. Κανένα από τα δύο δεν είναι αυτό που θέλει έναν οργανισμός.

Επιπλέον, μια τέτοια συνδρομή σπάνια είναι μια εφάπαξ απόφαση. Γίνεται μέρος της ροής εργασίας, συνδέεται με άλλα εργαλεία, χρησιμοποιείται σε διαδικασίες που πλέον εξαρτώνται από αυτήν. Αυτό που ξεκινά ως δοκιμή γίνεται μόνιμο κομμάτι του πώς λειτουργεί η ομάδα — ακριβώς το μοτίβο που φαίνεται και σε μια δοκιμαστική εγκατάσταση που ποτέ δεν απενεργοποιήθηκε: κανείς δεν αποφάσισε να την κάνει μόνιμη, αλλά κανείς δεν αποφάσισε επίσης να τη σταματήσει.

Τι δεν αποδίδει η τιμωρία

Η αντανακλαστική κίνηση να εντοπίζεται το σκιώδες AI και να επιπλήττεται ο χρήστης λειτουργεί αντίστροφα. Όποιος γνωρίζει ότι μια αναφορά οδηγεί σε επίπληξη, δεν αναφέρει. Η συνδρομή συνεχίζει να υπάρχει, μόνο λιγότερο ορατή. Το τμήμα γίνεται πιο προσεκτικό στο τι αναφέρει, όχι πιο προσεκτικό στο τι χρησιμοποιεί.

Αυτό που λειτουργεί είναι να ρωτάτε χωρίς να συνδέεται κάποια κύρωση σε αυτό. Μια ομάδα που χρησιμοποιεί ένα εργαλείο για να επιταχύνει μια εργασία έχει συνήθως έναν λόγο γι' αυτό που ο οργανισμός θέλει να γνωρίζει: μια διαδικασία που είναι πολύ αργή, μια εργασία που υπερφορτίζεται, μια ανάγκη που η υπάρχουσα προσφορά δεν καλύπτει. Δείτε πώς περιγράφεται αυτό στην περίπτωση εργαζομένων που χρησιμοποιούν εργαλείο που κανείς δεν έχει εγκρίνει — το σημείο εκκίνησης δεν είναι η παράβαση, αλλά η ανάγκη που βρίσκεται από πίσω.

Τι μπορεί να κάνει ένας οργανισμός με αυτό

Το πρώτο βήμα δεν είναι επιβολή, αλλά απογραφή: ποια εργαλεία υπάρχουν, ποιος τα χρησιμοποιεί, για ποια εργασία, και με ποια δεδομένα. Αυτό δεν γίνεται μέσω της λίστας IT — αυτή καταγράφει ό,τι έχει εγκριθεί, όχι ό,τι χρησιμοποιείται. Γίνεται ρωτώντας, με τρόπο που δεν περιέχει καμία απειλή.

Μόλις υπάρχει εικόνα για το τι λειτουργεί, μπορεί να ακολουθήσει η ταξινόμηση: ποιο ρόλο παίζει το εργαλείο, ποιο επίπεδο κινδύνου του αντιστοιχεί, και ποια μορφή εποπτείας είναι κατάλληλη. Δεν αποτελεί κάθε συνδρομή που ένα τμήμα έχει συνάψει μόνο του πρόβλημα. Ένα εργαλείο που αναδιατυπώνει δημόσιο κείμενο βρίσκεται σε διαφορετική κατηγορία από ένα εργαλείο που επεξεργάζεται δεδομένα πελατών χωρίς να ξέρει κανείς πού καταλήγουν αυτά τα δεδομένα. Η διάκριση μεταξύ αυτών των κατηγοριών είναι ακριβώς το θέμα του ανθρώπινου ελέγχου στην πράξη: δεν απαιτεί κάθε χρήση τον ίδιο βαθμό ελέγχου, αλλά κάθε χρήση απαιτεί να είναι γνωστό ότι υπάρχει.

Μετά ακολουθεί μια δομή διακυβέρνησης που εναρμονίζεται με ό,τι υπάρχει ήδη — όχι μια νέα διαδικασία δίπλα στο υπάρχον πλαίσιο κινδύνου, αλλά μια επέκτασή του. Ένας οργανισμός που αντιμετωπίζει τον κίνδυνο AI ξεχωριστά από την υπόλοιπη διαχείριση κινδύνου του διατρέχει τον κίνδυνο να αγνοηθεί το δεύτερο σύστημα, όπως περιγράφεται στο μια δεύτερη διαδικασία δίπλα στην υπάρχουσα που αγνοείται. Η προσέγγιση που παραμένει είναι εκείνη που εναρμονίζεται με ό,τι ο οργανισμός κάνει ήδη για τη διαχείριση κινδύνου.

Το ερώτημα που παραμένει

Μια συνδρομή που ένα τμήμα έχει συνάψει μόνο του είναι συνήθως ένα σήμα ότι κάτι πρέπει να γίνει γρηγορότερα από όσο επιτρέπει η τρέχουσα διαδικασία. Αυτή η ερώτηση — ποιο μέρος της εργασίας μπορεί να επιταχυνθεί, και πού αυτό μπορεί να γίνει με δομημένο τρόπο αντί για αόρατα — είναι ακριβώς σε αυτό που απαντά η σάρωση εργασίας της FTE TO AI. Η σάρωση εργασίας υπολογίζει ανά εργασία ποιο μέρος της δουλειάς μπορεί να αναληφθεί από AI, ώστε η ανάγκη που οδήγησε σε μια σκιώδη συνδρομή να αποκτήσει θέση μέσα σε μια διαδικασία που ο οργανισμός γνωρίζει και διαχειρίζεται.