Το ερώτημα αν μια εφαρμογή AI θεωρείται υψηλού κινδύνου ακούγεται ως τεχνικός προσδιορισμός. Στην πράξη, πρόκειται για μια κατηγοριοποίηση που εξαρτάται από έναν αριθμό συγκεκριμένων παραγόντων, και αυτή η κατηγοριοποίηση καθορίζει στη συνέχεια πόση εποπτεία, τεκμηρίωση και δυνατότητα απόδειξης αναμένεται από εσάς. Οι τρέχοντες νομικοί ορισμοί και τα κατώφλια δεν βρίσκονται σε αυτή τη σελίδα· αυτά τα βρίσκετε αλλού. Εδώ εξηγούμε από τι εξαρτάται η κατηγοριοποίηση και τι αλλάζει στον οργανισμό σας όταν αυτή η κατηγοριοποίηση μεταβάλλεται.
Δεν υπάρχει ένα μοναδικό χαρακτηριστικό που καθιστά μια εφαρμογή υψηλού κινδύνου. Πρόκειται για έναν συνδυασμό παραγόντων που μαζί διαμορφώνουν την εικόνα: τον τομέα στον οποίο χρησιμοποιείται η εφαρμογή, τον βαθμό στον οποίο μια απόφαση έχει άμεσες συνέπειες για ένα άτομο, και το ερώτημα αν υπάρχει άνθρωπος που μπορεί όντως να αξιολογήσει τη συμβουλή ή το αποτέλεσμα της AI και, αν χρειάζεται, να το διορθώσει προτού έχει επίπτωση. Μια εφαρμογή που απλώς συνοψίζει κείμενο τοποθετείται συνήθως διαφορετικά σε αυτή την κατηγοριοποίηση από μια εφαρμογή που συμβάλλει σε μια απόφαση σχετικά με ένα άτομο. Επίσης το πλαίσιο εντός του οποίου χρησιμοποιείται μια εφαρμογή μετράει: η ίδια υποκείμενη τεχνολογία μπορεί σε έναν τομέα να θεωρείται χαμηλού κινδύνου και σε άλλον υψηλού κινδύνου, ανάλογα με το τι συμβαίνει με το αποτέλεσμα.
Αυτός είναι ένας από τους λόγους για τους οποίους μια λίστα εγκεκριμένου λογισμικού δεν επαρκεί. Η κατηγοριοποίηση δεν εξαρτάται από την ετικέτα στο πακέτο, αλλά από το πώς πράγματι χρησιμοποιείται και πού βρίσκεται στη διαδικασία λήψης αποφάσεων.
Όταν μια εφαρμογή αξιολογείται ως υψηλότερου κινδύνου, αλλάζει κάτι σε ό,τι αναμένεται από τον οργανισμό: περισσότερη τεκμηρίωση σχετικά με τον τρόπο λειτουργίας και δοκιμής της εφαρμογής, ένας σαφέστερος μηχανισμός εποπτείας των αποτελεσμάτων, και έναν τρόπο να μπορεί κανείς εκ των υστέρων να δείξει ποιος έδωσε προσοχή σε τι. Αυτό δεν είναι μια εφάπαξ ενέργεια αλλά μια συνεχής υποχρέωση: η τεκμηρίωση και η εποπτεία πρέπει να παραμένουν επίκαιρες όσο η εφαρμογή βρίσκεται σε χρήση.
Η κατηγοριοποίηση δεν είναι επίσης στατική. Μια εφαρμογή που σήμερα θεωρείται περιορισμένου κινδύνου μπορεί αύριο να χρησιμοποιηθεί διαφορετικά — σε άλλον τομέα, με μεγαλύτερη επίπτωση σε άτομα, ή με λιγότερη ανθρώπινη παρέμβαση από πριν. Όποιος καθορίζει την κατηγοριοποίηση εφάπαξ και δεν την επανεξετάζει στη συνέχεια, διατρέχει τον κίνδυνο η ταξινόμηση να μην αντιστοιχεί πλέον στην πραγματική χρήση. Αυτό ισχύει εξίσου για εφαρμογές που προσαρμόζονται μετά την απόκτησή τους· τι ακριβώς αλλάζει όταν εσείς οι ίδιοι προσαρμόζετε ένα μοντέλο, εξαρτάται από τη φύση αυτής της προσαρμογής, όπως περιγράφεται στη σελίδα σχετικά με τις προσαρμογές σε ένα μοντέλο.
Η ταξινόμηση μιας εφαρμογής έχει σημασία μόνο όταν εφαρμόζεται σε ό,τι όντως χρησιμοποιείται. Ένα μεγάλο μέρος της χρήσης σε έναν οργανισμό λαμβάνει χώρα εκτός της επίσημης καταγραφής: ομάδες που χρησιμοποιούν ένα γλωσσικό μοντέλο για ένα προσχέδιο email, έναν αναλυτή που χρησιμοποιεί ένα εξωτερικό μοντέλο για μια πρώτη εκδοχή μιας αναφοράς, ένα τμήμα που έχει αποκτήσει ένα εργαλείο χωρίς να το αναφέρει. Αυτή η χρήση δεν προκύπτει από κακή πρόθεση. Προκύπτει επειδή η επίσημη οδός είναι πιο αργή από την ανάγκη, ή επειδή κανείς δεν γνώριζε ότι έπρεπε να ακολουθηθεί μια συγκεκριμένη οδός.
Η συνέπεια είναι ότι η λίστα της IT σπάνια δίνει μια πλήρη εικόνα. Όποιος θέλει να γνωρίζει τι πραγματικά απαιτείται σε επίπεδο ταξινόμησης κινδύνου, πρέπει να χαρτογραφήσει ο ίδιος τη χρήση — και αυτό απαιτεί να τεθούν ερωτήσεις στους ανθρώπους που κάνουν τη δουλειά, χωρίς να ακολουθεί κάποια λογοδοσία γι' αυτό. Όποιος από την πρώτη ήδη συνομιλία αισθάνεται ότι μια ειλικρινής απάντηση θα έχει συνέπειες, δεν απαντά ειλικρινά. Αυτό καθιστά την καταγραφή αχρησιμοποίητη προτού καν ολοκληρωθεί.
Δεν εμπίπτει κάθε εφαρμογή AI στο πλαίσιο εντός του οποίου η ταξινόμηση κινδύνου είναι σχετική. Ορισμένες εφαρμογές, λόγω φύσης ή σκοπού, βρίσκονται εκτός του πεδίου εφαρμογής της νομοθεσίας, και είναι συνετό να γίνεται αυτή η διάκριση εγκαίρως προτού αφιερώσετε χρόνο σε ταξινόμηση που δεν είναι απαραίτητη· ποιες εφαρμογές αφορά αυτό, περιγράφεται στη σελίδα σχετικά με εφαρμογές που βρίσκονται εκτός του πεδίου εφαρμογής των υποχρεώσεων. Επίσης ο ρόλος που διαδραματίζει ο οργανισμός σας — ως πάροχος ενός συστήματος ή ως χρήστης του — επηρεάζει ποιες υποχρεώσεις συνδέονται με μια ταξινόμηση κινδύνου, και αυτός ο ρόλος δεν είναι πάντα σαφής εκ των προτέρων· τι είναι καθοριστικό σε αυτό το πλαίσιο, μπορείτε να διαβάσετε στη σελίδα σχετικά με τη διάκριση μεταξύ παρόχου και χρήστη. Αυτός ο ίδιος ρόλος μπορεί εξάλλου να μεταβληθεί μόλις προσαρμόσετε ένα σύστημα ή το προσφέρετε υπό δικό σας όνομα, κάτι που εξηγείται περαιτέρω στη σελίδα σχετικά με τις περιστάσεις υπό τις οποίες μεταβάλλεται ο ρόλος σας.
Μια κατηγοριοποίηση με βάση το επίπεδο κινδύνου δημιουργεί σχεδόν πάντα το επόμενο ερώτημα: τι από αυτό είναι επείγον και τι μπορεί ακόμη να προγραμματιστεί. Αυτή η διάκριση δεν είναι ίδια για κάθε οργανισμό και εξαρτάται από ποιες εφαρμογές βρίσκονται ήδη σε παραγωγή και ποιες βρίσκονται ακόμη σε ανάπτυξη. Μια επισκόπηση του τι συνήθως απαιτεί άμεση προσοχή και τι μπορεί να ακολουθήσει αργότερα, βρίσκεται στη σελίδα σχετικά με τι πρέπει να γίνει τώρα και τι μπορείτε να προγραμματίσετε.
Όταν πλέον είναι σαφές ποιες εφαρμογές στον οργανισμό σας θεωρούνται υψηλού κινδύνου, προκύπτει φυσιολογικά ένα άλλο ερώτημα: πόσο από την υποκείμενη εργασία εκτελείται όντως από AI, και πόσο από ανθρώπους που ελέγχουν ή συμπληρώνουν το αποτέλεσμα. Αυτό το ερώτημα βρίσκεται εκτός του πεδίου εφαρμογής αυτής της σάρωσης, αλλά απαντάται από τη σάρωση εργασίας της FTE TO AI, η οποία υπολογίζει ανά εργασία ποιο μέρος της δουλειάς μπορεί ευλόγως να αναληφθεί από AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.