Η ερώτηση ποιες εφαρμογές πέφτουν εκτός εμβέλειας ακούγεται σαν αίτημα για μια λίστα. Δεν είναι. Το αν κάτι πέφτει εντός ή εκτός εμβέλειας είναι μια κατάταξη που εξαρτάται από το τι κάνει μια εφαρμογή, σε ποιο πλαίσιο, και για ποιον. Η ίδια τεχνολογία μπορεί σε μία εφαρμογή να παραμείνει εκτός προσοχής και σε μια άλλη να βρεθεί υπό πλήρη παρακολούθηση. Μια σταθερή λίστα εξαιρούμενων εφαρμογών, λοιπόν, δεν υπάρχει — υπάρχουν όμως ορισμένοι παράγοντες που καθορίζουν την κατάταξη.
Ο πρώτος παράγοντας είναι η λειτουργία της εφαρμογής: τι αποφασίζει ή συμβουλεύει το σύστημα, και για ποιον έχει αυτό συνέπειες. Ένα εργαλείο που αναδιατυπώνει εσωτερικό κείμενο είναι διαφορετική περίπτωση από ένα εργαλείο που συναποφασίζει για μια αίτηση, μια υποψηφιότητα εργασίας ή μια αξίωση. Ο δεύτερος παράγοντας είναι το επίπεδο κινδύνου που συνδέεται με αυτή τη λειτουργία: όσο μεγαλύτερες είναι οι συνέπειες για τους ανθρώπους, τόσο περισσότερο μια εφαρμογή μετατοπίζεται προς το βαρύτερο τμήμα του φάσματος. Ο τρίτος παράγοντας είναι ο ρόλος του ίδιου του οργανισμού: όποιος απλώς χρησιμοποιεί ένα σύστημα αξιολογείται διαφορετικά από όποιον το προσαρμόζει, το επανεκπαιδεύει ή το συνθέτει από στοιχεία τρίτων. Τι ακριβώς σημαίνει αυτή η κατανομή ρόλων και πότε μετατοπίζεται, περιγράφεται στις σελίδες σχετικά με τη διάκριση μεταξύ παρόχου και χρήστη ενός συστήματος AI και σχετικά με τη στιγμή κατά την οποία ένας ρόλος χρήστη μετατρέπεται σε άλλη ευθύνη.
Ένας τέταρτος παράγοντας είναι τεχνικής φύσης, αλλά νομικά σημαντικός: το τι τροποποιεί ο ίδιος ο οργανισμός σε ένα υπάρχον μοντέλο μπορεί μερικές φορές να μεταβάλει τη θέση του οργανισμού στο σύνολο. Ένα μοντέλο που αγοράζεται χωρίς τροποποίηση πέφτει διαφορετικά στην εικόνα από ένα μοντέλο που υφίσταται fine-tuning με δικά του δεδομένα ή ενσωματώνεται σε δική του διαδικασία. Αυτό το όριο — πότε η προσαρμογή συνεπάγεται αλλαγή ρόλου — αναλύεται στη σελίδα σχετικά με τι αλλάζει όταν ένα μοντέλο προσαρμόζεται από τον ίδιο τον οργανισμό.
Επειδή η κατάταξη εξαρτάται από αυτούς τους παράγοντες, η εμβέλεια δεν είναι σταθερό χαρακτηριστικό ενός εργαλείου αλλά αποτέλεσμα που μπορεί να μεταβληθεί. Ένα chatbot που ξεκίνησε ως εσωτερικό βοηθητικό εργαλείο συγγραφής μπορεί, μόλις απαντά επίσης σε ερωτήσεις πελατών που οδηγούν σε απόφαση, να καταλήξει σε άλλο τμήμα του φάσματος. Ένα μοντέλο που αγοράστηκε ως έτοιμο προϊόν μπορεί, μετά από προσαρμογή σε δικά του δεδομένα, να συνεπάγεται διαφορετικό ρόλο για τον οργανισμό. Μια εφαρμογή που σήμερα θεωρείται χαμηλού αντικτύπου μπορεί αύριο να βαρύνει περισσότερο επειδή το πλαίσιο στο οποίο χρησιμοποιείται έχει αλλάξει — άλλη ομάδα, άλλη απόφαση, άλλη ομάδα ανθρώπων που επηρεάζεται από το αποτέλεσμα.
Ακριβώς γι' αυτό μια εφάπαξ κατάταξη δεν αρκεί. Μια ταξινόμηση που έχει καταγραφεί τη στιγμή της εισαγωγής δεν λέει τίποτα για το τι κάνει ένα εργαλείο ένα χρόνο μετά. Τι πρέπει να μπει σήμερα εντός εμβέλειας και τι μπορεί να προγραμματιστεί για αργότερα είναι, λοιπόν, και το ίδιο ένα ερώτημα που εξαρτάται από την τρέχουσα κατάσταση — αναλύεται στη σελίδα σχετικά με τη σειρά προτεραιότητας μεταξύ αυτού που απαιτεί προσοχή τώρα και αυτού που μπορεί να ακολουθήσει αργότερα.
Η κατάταξη εντός και εκτός εμβέλειας γίνεται δυσκολότερη λόγω ενός πρακτικού προβλήματος: η επίσημη λίστα αγορασμένων ή εγκεκριμένων εργαλείων δεν είναι η ίδια λίστα με τα εργαλεία που όντως χρησιμοποιούνται. Οι ομάδες υιοθετούν λειτουργικότητα AI χωρίς να την περάσουν από διαδικασία αίτησης — όχι από κακή θέληση, αλλά επειδή είναι εύκολα προσβάσιμη και λύνει ένα πρόβλημα. Αυτό το σκιώδες AI είναι ακριβώς το τμήμα που κάνει αδύνατη την κατάταξη εντός ή εκτός εμβέλειας, όσο κανείς δεν γνωρίζει ότι η εφαρμογή υπάρχει.
Όποιος θέλει να ολοκληρώσει αυτή την εικόνα πρέπει να ρωτήσει — και τότε χωρίς η ερώτηση να μοιάζει με καλυμμένη κατηγορία. Μόλις ένας εργαζόμενος υποθέσει ότι μια ειλικρινής απάντηση θα οδηγήσει σε κύρωση, η απάντηση δεν έρχεται και το εργαλείο παραμένει κάτω από το ραντάρ. Μια απογραφή που έχει χτιστεί με βάση την τιμωρία δίνει, εξ ορισμού, ελλιπή εικόνα — και μια ελλιπή εικόνα κάνει κάθε κατάταξη εντός εμβέλειας προσωρινή.
Επειδή η εμβέλεια μπορεί να μετατοπιστεί, η καταγραφή της κατάταξης είναι τουλάχιστον εξίσου σημαντική με την ίδια την κατάταξη. Ποιος αποφάσισε ότι μια εφαρμογή έπεφτε εκτός εμβέλειας, με βάση ποια πληροφορία, και σε ποια στιγμή — αυτού του είδους ερωτήσεις γίνονται αναπάντητες μόλις λείπει η καταγραφή. Πώς ένας οργανισμός μπορεί να δομήσει και να κάνει ανιχνεύσιμο αυτό το είδος απόφασης περιγράφεται στη σελίδα σχετικά με μια λίστα αποφάσεων που κάνει τις αποφάσεις εποπτείας ανιχνεύσιμες, και πώς αυτή η κατάταξη εμφανίζεται αναγνωρίσιμα στο έγγραφο που οι εργαζόμενοι όντως συμβουλεύονται, στη σελίδα σχετικά με μια πολιτική AI που ταιριάζει με το τι κάνουν πραγματικά οι άνθρωποι.
Το ζήτημα κατάταξης — τι πέφτει εντός εμβέλειας και τι όχι — αφορά τον κίνδυνο και την ευθύνη, όχι το τι σημαίνει μια εφαρμογή για την ίδια την εργασία. Αυτό το δεύτερο ερώτημα, τι μπορεί ακριβώς να αναλάβει το AI από μια εργασία, είναι ένας ξεχωριστός υπολογισμός. Η ανάλυση εργασιών (werkscan) του FTE TO AI υπολογίζει ανά εργασία ποιο τμήμα της εργασίας μπορεί να αναληφθεί, ανεξάρτητα από το ερώτημα πώς αυτή η εφαρμογή καταλήγει στην κατάταξη διακυβέρνησης.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.