Kennisbank

Τι αλλάζει όταν προσαρμόζετε ένα μοντέλο εσείς οι ίδιοι;

Η αγορά ενός συστήματος AI και η χρήση του όπως παραδίδεται είναι διαφορετική κατάσταση από την προσαρμογή ενός μοντέλου στα δικά σας δεδομένα ή σκοπό. Αυτή η προσαρμογή μπορεί να αλλάξει την κατάταξη του οργανισμού σας — και μαζί με αυτήν, τα ερωτήματα που πρέπει να μπορείτε να απαντήσετε. Το αν αυτό συμβαίνει, και πόσο βαρύνει, εξαρτάται από το τι ακριβώς προσαρμόζεται και για ποιον σκοπό χρησιμοποιείται το σύστημα.

Από τι εξαρτάται η κατάταξη

Η κατάταξη δεν εξαρτάται από το αν εσείς γράψατε τον πηγαίο κώδικα. Εξαρτάται από το τι πραγματικά συμβαίνει με ένα μοντέλο αφότου περιέλθει σε εσάς. Μερικοί παράγοντες που παίζουν ρόλο:

• Η φύση της προσαρμογής. Η χρήση ενός συστήματος όπως παραδόθηκε είναι κάτι διαφορετικό από το finetuning του σε δικά σας δεδομένα, τη σύνδεσή του με δικές σας πηγές, ή τη χρήση του για σκοπό που ο αρχικός προμηθευτής δεν είχε προβλέψει.
• Ποιος επιφέρει την αλλαγή. Ένας εσωτερικός ειδικός δεδομένων που επανεκπαιδεύει ένα μοντέλο βρίσκεται σε διαφορετική κατάσταση από έναν προμηθευτή που παραδίδει μια παραλλαγή κατόπιν αιτήματος.
• Η επίδραση στον κίνδυνο. Μια προσαρμογή που αλλάζει ουσιωδώς τη συμπεριφορά του συστήματος βαρύνει διαφορετικά από μια προσαρμογή που αφορά μόνο τη διεπαφή ή τη μορφή εξόδου.
• Η εφαρμογή στην οποία χρησιμοποιείται το μοντέλο. Η ίδια προσαρμογή μπορεί σε μία εφαρμογή να έχει λίγες συνέπειες και σε μια άλλη εφαρμογή να αλλάξει τον ρόλο του οργανισμού σας. Ποιες εφαρμογές προσμετρώνται και ποιες όχι είναι ερώτημα που πρέπει να απαντηθεί ξεχωριστά — βλ. ποιες εφαρμογές πέφτουν εκτός του πεδίου εφαρμογής των υποχρεώσεων διακυβέρνησης.

Αυτοί οι παράγοντες συνεργάζονται. Δεν υπάρχει σταθερό όριο που να ισχύει σε όλες τις περιπτώσεις· η ισχύουσα νομοθεσία με τα ακριβή κριτήρια βρίσκεται αλλού, και αυτό το κείμενο μπορεί να αλλάξει. Αυτό που παραμένει σε αυτή τη σελίδα είναι ο μηχανισμός: η προσαρμογή μπορεί να αλλάξει ρόλο, και ο ρόλος καθορίζει την υποχρέωση.

Από χρήστη σε κάτι άλλο

Ο ρόλος που αναλαμβάνει ο οργανισμός σας σε ένα σύστημα AI δεν είναι σταθερός. Όποιος απλώς χρησιμοποιεί ένα μοντέλο όπως παραδόθηκε, βρίσκεται συνήθως σε διαφορετική θέση από όποιον τροποποιεί το μοντέλο και στη συνέχεια το διαθέτει ο ίδιος στην αγορά ή το χρησιμοποιεί εσωτερικά σε μεγάλη κλίμακα. Το ερώτημα πότε συμβαίνει αυτή η μετάβαση, και τι αλλάζει εκείνη τη στιγμή σε ό,τι πρέπει να μπορείτε να αποδείξετε, αναλύεται στη σελίδα πότε αλλάζει ο ρόλος σας και πού βρίσκεται αυτό το όριο. Για οργανισμούς που αμφιβάλλουν αν είναι πάροχος ή χρήστης — ένα ερώτημα που εμφανίζεται συχνότερα απ' όσο νομίζει κανείς μόλις γίνονται εσωτερικές προσαρμογές — υπάρχει ξεχωριστή εξήγηση στη σελίδα η διάκριση μεταξύ παρόχου και χρήστη ενός συστήματος AI.

Ο λόγος που αυτό έχει σημασία δεν είναι τυπικός. Μια αλλαγή ρόλου αλλάζει το τι πρέπει να μπορείτε να δείξετε: ποια τεκμηρίωση τηρείτε, ποιος εντός του οργανισμού είναι υπεύθυνος για την εποπτεία, και ποια βήματα έχουν γίνει προτού το προσαρμοσμένο σύστημα τεθεί σε χρήση. Ένα μοντέλο που έχετε προσαρμόσει εσείς οι ίδιοι είναι ένα μοντέλο για το οποίο μπορεί να σας ζητηθεί να λογοδοτήσετε για το πώς προέκυψε αυτή η προσαρμογή.

Τι σημαίνει αυτό για το επίπεδο κινδύνου

Η προσαρμογή μπορεί επίσης να επηρεάσει το επίπεδο κινδύνου μιας εφαρμογής. Ένα μοντέλο που αρχικά προοριζόταν για μια ελαφριά εφαρμογή, μπορεί μέσω προσαρμογής να καταλήξει σε μια βαρύτερη κατηγορία — για παράδειγμα όταν, μετά την προσαρμογή, χρησιμοποιείται για αποφάσεις σχετικά με ανθρώπους. Τι σημαίνει συγκεκριμένα ένα υψηλό επίπεδο κινδύνου για τις υποχρεώσεις του οργανισμού σας, αναφέρεται στη σελίδα τι σημαίνει ένα υψηλό επίπεδο κινδύνου για τις απαιτήσεις του οργανισμού σας. Και εδώ ισχύει: η κατάταξη προκύπτει από τη χρήση, όχι από την πρόθεση με την οποία κατασκευάστηκε κάποτε το μοντέλο.

Αυτό αγγίζει άμεσα τον πυρήνα της σκιώδους AI. Μια προσαρμογή που δεν περνά μέσω της IT — μια ομάδα που εκπαιδεύει η ίδια ένα μοντέλο περαιτέρω σε ένα δικό της σύνολο δεδομένων, ή ένα τμήμα που συνδέει ένα εξωτερικό μοντέλο με εσωτερικά συστήματα χωρίς να έχει αναφερθεί σχετικά — αλλάζει την κατάταξη του οργανισμού σας χωρίς η διοίκηση να το γνωρίζει. Η λίστα της IT δεν δείχνει αυτή την προσαρμογή. Όποιος θέλει να ξέρει αν αυτό συμβαίνει, πρέπει να το διερευνήσει με τις ομάδες που εργάζονται καθημερινά με αυτό, και αυτή η συζήτηση αποδίδει μόνο αν διεξάγεται χωρίς συνέπειες.

Τι αλλάζει στην πράξη

Όταν μια προσαρμογή αλλάζει τον ρόλο ή το επίπεδο κινδύνου μιας εφαρμογής, αλλάζουν ταυτόχρονα αρκετά πράγματα: η τεκμηρίωση που πρέπει να τηρείται, το ερώτημα ποιος εντός του οργανισμού είναι ιδιοκτήτης αυτής της εφαρμογής, και η στιγμή κατά την οποία κάτι μπορεί ακόμη να προγραμματιστεί έναντι του τι ήδη απαιτεί προσοχή. Αυτή η διάκριση — μεταξύ αυτού που είναι ήδη επείγον και αυτού που μπορεί να προγραμματιστεί — σχετίζεται με παράγοντες που εξηγούνται στη σελίδα τι απαιτεί ήδη προσοχή τώρα και τι μπορεί ακόμη να προγραμματιστεί. Μια πιο εκτενής ανάλυση του ίδιου του ζητήματος κατάταξης, συμπεριλαμβανομένων των οριακών περιπτώσεων που εμφανίζονται συχνότερα στην πράξη, βρίσκεται στη σελίδα η πλήρης εξήγηση για το τι αλλάζει κατά την προσαρμογή ενός μοντέλου.

Ένα προσαρμοσμένο μοντέλο είναι στην πράξη συχνά και ένα μοντέλο που αναλαμβάνει μέρος της εργασίας από ανθρώπους που προηγουμένως εκτελούσαν μια εργασία εξ ολοκλήρου μόνοι τους. Το αν συμβαίνει αυτό, και πόσο μέρος της εργασίας αφορά, είναι ερώτημα ανεξάρτητο από το ζήτημα της κατάταξης, αλλά συχνά το ακολουθεί: μόλις γίνει σαφές ότι ένα μοντέλο έχει προσαρμοστεί και για ποιον σκοπό χρησιμοποιείται, γίνεται επίσης ορατό ποιο μέρος μιας εργασίας εκτελεί στην πραγματικότητα. Η σάρωση εργασιών (werkscan) της FTE TO AI υπολογίζει αυτό ανά εργασία και δείχνει ποιο μέρος της εργασίας μπορεί να αναλάβει η AI, ανεξάρτητα από το ερώτημα πώς προέκυψε το υποκείμενο μοντέλο.