Kennisbank

Πότε γίνεται η προσαρμογή ενός μοντέλου δική σας ευθύνη;

Ένα μοντέλο που αγοράζετε και χρησιμοποιείτε αμετάβλητο είναι διαφορετική κατάσταση από ένα μοντέλο που κάνετε finetuning, επανεκπαιδεύετε με δικά σας δεδομένα, ή συνδυάζετε με άλλα συστήματα. Το ερώτημα που συνοδεύει αυτό δεν είναι αν αυτό επιτρέπεται, αλλά τι αλλάζει στον ρόλο σας. Αυτή η σελίδα περιγράφει από τι εξαρτάται αυτή η κατηγοριοποίηση. Το τρέχον περιεχόμενο των κανόνων βρίσκεται αλλού· εδώ πρόκειται για τον μηχανισμό που καθορίζει πότε κάτι αλλάζει και τι κάνετε εσωτερικά με αυτό.

Από τι εξαρτάται η κατηγοριοποίηση

Αν η προσαρμογή ενός μοντέλου αλλάζει τον ρόλο σας εξαρτάται από έναν αριθμό παραγόντων που πρέπει να διαπιστώσετε ανά περίπτωση, όχι από ένα σταθερό όριο που είναι ίδιο για κάθε μοντέλο.

• Η φύση της προσαρμογής. Ένα μοντέλο που απλώς καλείτε μέσω μιας διεπαφής είναι κάτι διαφορετικό από ένα μοντέλο του οποίου προσαρμόζετε τα βάρη, που κάνετε finetuning με δικά σας δεδομένα, ή που συνδυάζετε με άλλα μοντέλα ή πηγές δεδομένων.
• Τι κάνει η προσαρμογή στον κίνδυνο. Μια προσαρμογή που αλλάζει τον σκοπό του μοντέλου, διευρύνει την ομάδα-στόχο, ή μεταφέρει το αποτέλεσμα σε άλλο τομέα, βαραίνει διαφορετικά από μια προσαρμογή που ρυθμίζει μόνο τη γλώσσα ή το ύφος.
• Ποιος εκτελεί την προσαρμογή και γιατί. Η εσωτερική εκπαίδευση για μια συγκεκριμένη διαδικασία είναι διαφορετική κατάσταση από μια προσαρμογή που κάνει το σύστημα κατάλληλο για προσφορά σε τρίτους.
• Αν το υποκείμενο μοντέλο είχε ήδη έναν ρόλο και επίπεδο κινδύνου. Η προσαρμογή ενός συστήματος που είχε ήδη ταξινομηθεί ως υψηλού κινδύνου βαραίνει διαφορετικά από την προσαρμογή ενός συστήματος χωρίς αυτόν τον χαρακτηρισμό.

Αυτοί οι παράγοντες λειτουργούν μαζί. Κανένα από αυτά τα σημεία δεν είναι από μόνο του αποφασιστικό· ο συνδυασμός καθορίζει αν η προσαρμογή αλλάζει τη θέση σας.

Τι αλλάζει όταν αλλάζει η κατάσταση

Αν η προσαρμογή είναι αρκετά σημαντική, συνήθως αλλάζει όχι μόνο ο χαρακτηρισμός του μοντέλου αλλά και τι αναμένεται από τον οργανισμό: άλλη τεκμηρίωση, άλλη εσωτερική ευθύνη, ενδεχομένως άλλος φορέας που είναι υπόλογος για το σύνολο. Αυτός ο μηχανισμός, και η διάκριση μεταξύ ενός φορέα που απλώς χρησιμοποιεί ένα μοντέλο και ενός φορέα που συνδιαμορφώνει το μοντέλο, αναλύεται στη σελίδα που περιγράφει τη διάκριση μεταξύ πάροχου και χρήστη. Το πότε ακριβώς μια προσαρμογή είναι αρκετά σημαντική για να προκαλέσει αυτή τη μετατόπιση ρόλου είναι ερώτημα που πρέπει να απαντηθεί ξεχωριστά ανά σύστημα· ο γενικός μηχανισμός πίσω από αυτό βρίσκεται στη σελίδα σχετικά με τη στιγμή που αλλάζει ο ρόλος σας.

Οι συνέπειες αυτής της μετατόπισης εξαρτώνται με τη σειρά τους από το επίπεδο κινδύνου που λαμβάνει το προσαρμοσμένο μοντέλο. Ένα προσαρμοσμένο μοντέλο που εμπίπτει σε κατηγορία υψηλού κινδύνου συνεπάγεται διαφορετικές υποχρεώσεις από ένα προσαρμοσμένο μοντέλο που παραμένει εκτός αυτής. Τι σημαίνει στην πράξη ένα υψηλό επίπεδο κινδύνου για τις εσωτερικές διαδικασίες και την εποπτεία περιγράφεται στη σελίδα σχετικά με τις συνέπειες ενός υψηλού επιπέδου κινδύνου για τον οργανισμό σας. Αντίστροφα, είναι επίσης δυνατό μια προσαρμογή να κρατήσει ένα σύστημα ακριβώς εκτός της βαρύτερης κατηγορίας, ή το πεδίο εφαρμογής να μην εμπίπτει απλώς στη ρύθμιση· ποιες εφαρμογές παραμένουν εκτός πεδίου εφαρμογής και γιατί βρίσκεται στη σελίδα σχετικά με εφαρμογές που παραμένουν εκτός πεδίου εφαρμογής.

Γιατί αυτό σπάνια είναι ορατό σε ένα σημείο

Οι προσαρμογές σε μοντέλα γίνονται συχνά κοντά στην εργασία: μια ομάδα που κάνει finetuning σε ένα εξωτερικό μοντέλο με δικά της έγγραφα, ένας προγραμματιστής που συνδέει δύο συστήματα μεταξύ τους, ένα τμήμα που τροφοδοτεί ένα chatbot με εσωτερικές βάσεις γνώσης. Αυτές είναι ακριβώς οι προσαρμογές που δεν περνούν από μια κεντρική διαδικασία προμήθειας και άρα δεν εμφανίζονται αυτόματα σε μια λίστα ΙΤ. Όποιος θέλει να γνωρίζει αν, και πού, αυτό συμβαίνει εντός του οργανισμού, πρέπει να το ρωτήσει — και αυτό λειτουργεί μόνο αν η ερώτηση δεν συνδέεται με κάποια συνέπεια. Μια ομάδα που προσάρμοσε ένα μοντέλο χωρίς να ζητήσει άδεια για αυτό, δεν το αναφέρει αν η απάντηση συνεπάγεται κύρωση.

Τι σημαίνει αυτό για την πολιτική και την εποπτεία

Επειδή η κατηγοριοποίηση των προσαρμογών δεν είναι σταθερή αλλά διαπιστώνεται ανά περίπτωση, δεν αρκεί να καθοριστεί μία φορά τι ρόλο έχει ένα μοντέλο. Οι προσαρμογές που γίνονται μετά την αρχική αξιολόγηση πρέπει να περάσουν εκ νέου από τα ίδια ερωτήματα. Μια πολιτική που υποστηρίζει αυτό πρέπει να περιγράφει σε απλή γλώσσα πότε πρέπει να αναφέρεται μια προσαρμογή και σε ποιον· πώς μια τέτοια πολιτική παραμένει ευανάγνωστη αντί να είναι ένα κείμενο που κανείς δεν συμβουλεύεται βρίσκεται στη σελίδα σχετικά με μια πολιτική AI που όντως διαβάζεται. Επιπλέον, είναι σημαντικό οι αποφάσεις σχετικά με προσαρμογές — ποιος έδωσε έγκριση, βάσει ποιας στάθμισης, με ποιο επίπεδο κινδύνου ως αποτέλεσμα — να καταγράφονται σε ένα σημείο όπου μπορούν να ανευρεθούν. Πώς φαίνεται μια τέτοια καταγραφή στην πράξη βρίσκεται στη σελίδα σχετικά με έναν κατάλογο αποφάσεων εποπτείας.

Το επόμενο ερώτημα

Η κατηγοριοποίηση ενός προσαρμοσμένου μοντέλου καθορίζει ποιες υποχρεώσεις ισχύουν, αλλά δεν λέει τίποτα για τι κάνει το μοντέλο στην πράξη με την ίδια την εργασία. Για αυτό το ερώτημα — ποιο μέρος μιας εργασίας αναλαμβάνεται από AI, ποιο μέρος παραμένει σε έναν εργαζόμενο, και τι μετατοπίζει σε αυτό μια προσαρμογή — απαιτείται μια διαφορετική οπτική από μια αξιολόγηση κινδύνου. Το werkscan του FTE TO AI υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί να αναληφθεί από AI, ανεξάρτητα από το ερώτημα ποιοι κανόνες διακυβέρνησης ισχύουν για το μοντέλο.