re-ai-gov Στη λίστα αναμονής

Kennisbank

Επείγον ή προγραμματιζόμενο: από τι εξαρτάται η κατάταξη

Το ερώτημα πίσω από το ερώτημα

Μια απογραφή χρήσης ΤΝ συνήθως καταλήγει σε μια λίστα που είναι πολύ μακρά για να αντιμετωπιστεί με μία κίνηση. Το ερώτημα που ακολουθεί δεν είναι "τι πρέπει να κάνουμε" αλλά "τι πρέπει να κάνουμε πρώτα". Αυτό είναι ένα ζήτημα κατάταξης, και η απάντηση δεν εξαρτάται από τον αριθμό των συστημάτων, αλλά από τι κάνουν αυτά τα συστήματα και για ποιον.

Από τι εξαρτάται η επείγουσα φύση

Ο πρώτος παράγοντας είναι το επίπεδο κινδύνου της εφαρμογής καθαυτής. Ένα σύστημα που προετοιμάζει αποφάσεις σχετικά με ανθρώπους — προσλήψεις, χορήγηση πιστώσεων, κατανομή φροντίδας ή παροχών — απαιτεί διαφορετική μεταχείριση από ένα εργαλείο που αναδιατυπώνει κείμενο για εσωτερική χρήση. Τι σημαίνει ένα υψηλό επίπεδο κινδύνου για τον οργανισμό σας διαφέρει επομένως ανά εφαρμογή, και αυτές οι διαφορές καθορίζουν ποια συστήματα προτεραιοποιούνται.

Ο δεύτερος παράγοντας είναι ο ρόλος του οργανισμού σε σχέση με αυτό το σύστημα. Όποιος αγοράζει ένα μοντέλο και το χρησιμοποιεί αμετάβλητο, αντιμετωπίζει διαφορετικές υποχρεώσεις από όποιον εκπαιδεύει ένα μοντέλο σε δικά του δεδομένα ή προσαρμόζει διαρκώς το αποτέλεσμα. Το αν είστε πάροχος ή χρήστης μιας εφαρμογής ΤΝ καθορίζει όχι μόνο ποιες υποχρεώσεις ισχύουν, αλλά και πόσος χρόνος απαιτείται για να ανταποκριθείτε σε αυτές τις υποχρεώσεις — ένας πάροχος έχει συνήθως περισσότερα να προετοιμάσει από έναν χρήστη.

Ο τρίτος παράγοντας είναι αν το σύστημα βρίσκεται ήδη σε χρήση ή ακόμα αποκτάται. Ένας κίνδυνος που ήδη λειτουργεί — με πραγματικούς χρήστες, πραγματικές αποφάσεις, πραγματικά δεδομένα — απαιτεί διαφορετική σειρά προτεραιότητας από έναν κίνδυνο που βρίσκεται ακόμα στη φάση σύμβασης και όπου οι συμφωνίες μπορούν ακόμα να καταγραφούν πριν το σύστημα τεθεί σε λειτουργία.

Τι αλλάζει όταν αλλάζει η κατάσταση

Αυτή η κατάταξη δεν είναι στατική στιγμιαία εικόνα. Ένα σύστημα που σήμερα είναι χαμηλού κινδύνου, μπορεί να δεν είναι πλέον έτσι μετά από μια προσαρμογή. Τι σημαίνει όταν προσαρμόζετε εσείς οι ίδιοι ένα μοντέλο — fine-tuning, ένα νέο σύνολο δεδομένων, μια διαφορετική εφαρμογή της ίδιας υποκείμενης τεχνολογίας — εξαρτάται από τι ακριβώς αλλάζει, αλλά η κατάταξη που έγινε προηγουμένως δεν παραμένει αυτομάτως ισχυρή εξαιτίας αυτού.

Το ίδιο ισχύει για την αλλαγή ρόλου. Ένας οργανισμός που αποκτά ένα έτοιμο μοντέλο και στη συνέχεια το προσαρμόζει σημαντικά, μπορεί έτσι να μεταβεί από χρήστη σε πάροχο. Το πότε αλλάζει αυτός ο ρόλος δεν είναι πάντα η στιγμή της ίδιας της προσαρμογής, αλλά η στιγμή κατά την οποία αυτή η προσαρμογή μεταβάλλει τον χαρακτήρα του συστήματος. Και αυτό είναι ζήτημα κατάταξης, και απαιτεί επίσης επαναξιολόγηση μόλις η κατάσταση αλλάξει — όχι έναν εφάπαξ έλεγχο που παραμένει έγκυρος μετά.

Και ένα σύστημα που βρίσκεται ακόμα σε φάση απόκτησης, μετατοπίζεται από προγραμματιζόμενο σε επείγον τη στιγμή που τίθεται σε λειτουργία. Η κατάταξη που ίσχυε για τη φάση σύμβασης, δεν ισχύει για τη φάση χρήσης.

Τι σημαίνει αυτό για τη σειρά προτεραιότητας

Η πρακτική συνέπεια είναι ότι μια απογραφή δεν παράγει μία φορά μια λίστα προτεραιοτήτων, αλλά μια δομή που πρέπει να επαναλαμβάνεται. Συστήματα με υψηλό επίπεδο κινδύνου και ενεργό ρόλο παρόχου απαιτούν προσοχή τώρα. Συστήματα με χαμηλό επίπεδο κινδύνου που δεν βρίσκονται ακόμα σε χρήση, μπορούν να προγραμματιστούν — αλλά ο προγραμματισμός πρέπει να περιλαμβάνει μια στιγμή επανεξέτασης, επειδή προσαρμογές, αλλαγή ρόλου ή έναρξη χρήσης μπορούν να αναστρέψουν την κατάταξη.

Αυτό απαιτεί έναν σταθερό τόπο όπου καταγράφονται οι αποφάσεις σχετικά με αυτή την κατάταξη: ποιο σύστημα έχει χαρακτηριστεί ως επείγον, βάσει ποιου παράγοντα, και πότε έγινε τελευταία φορά αυτή η αξιολόγηση. Μια λίστα αποφάσεων εποπτείας είναι η μορφή με την οποία αυτή η κατάταξη γίνεται αποδεικτέα — όχι ως πρόσθετη διαχειριστική εργασία, αλλά ως η μοναδική απόδειξη ότι η κατάταξη δεν είναι τυχαία, αλλά το αποτέλεσμα μιας επαναλαμβανόμενης διαδικασίας.

Η πραγματική νομοθεσία — ποιες προθεσμίες ισχύουν, ποιες υποχρεώσεις ανά κατηγορία κινδύνου αντιστοιχούν σε ποια ημερομηνία — περιγράφεται αλλού. Αυτή η σελίδα περιγράφει τον μηχανισμό με τον οποίο διακρίνετε το επείγον από το προγραμματιζόμενο· το επίκαιρο νομικό κείμενο και τις προθεσμίες δεν θα τις βρείτε εδώ.

Από την κατάταξη στο περιεχόμενο

Η κατάταξη σε επείγον και προγραμματιζόμενο λέει κάτι για τη σειρά προσοχής, όχι για το περιεχόμενο της ίδιας της εργασίας. Μόλις γίνει σαφές ποια εφαρμογή ΤΝ έχει προτεραιότητα, παραμένει ανοιχτό το ερώτημα τι κάνει ακριβώς αυτή η εφαρμογή με την εργασία που την περιβάλλει: ποιο μέρος μιας εργασίας εκτελείται αυτόματα, ποιο μέρος απαιτεί έλεγχο, και ποιο μέρος παραμένει σε άνθρωπο. Σε αυτό το ερώτημα απαντά η ανάλυση εργασιών (werkscan) της FTE TO AI, η οποία υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί να αναλάβει η ΤΝ — μια συμπλήρωση της κατάταξης που γίνεται εδώ, εστιασμένη στο περιεχόμενο της ίδιας της εργασίας.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.