Προτού ένα επίπεδο κινδύνου, μια υποχρέωση ή ένα μέτρο διακυβέρνησης αποκτήσει σημασία, πρέπει να είναι σαφές ποιον ρόλο διαδραματίζει ο οργανισμός σας. Όποιος διαθέτει ένα σύστημα AI στην αγορά έχει διαφορετικές ευθύνες από όποιον χρησιμοποιεί ένα σύστημα που έχει κατασκευαστεί από κάποιον άλλο. Ο όρος που χρησιμοποιείται για αυτό είναι γνωστός: πάροχος έναντι χρήστη. Ωστόσο, η κατηγοριοποίηση αυτή καθαυτή δεν καθορίζεται σε ένα οργανόγραμμα. Εξαρτάται από το τι κάνει ένας οργανισμός με ένα συγκεκριμένο σύστημα, και αυτό μπορεί να διαφέρει ανά σύστημα, ανά τμήμα και ανά χρονική στιγμή.
Το κεντρικό ερώτημα δεν είναι ποιος αγόρασε ή εγκατέστησε το σύστημα, αλλά ποιος το διέθεσε στην αγορά ή το καθιστά διαθέσιμο υπό το δικό του όνομα. Ένας οργανισμός που προμηθεύεται και χρησιμοποιεί λογισμικό όπως παραδίδεται είναι κατά κανόνα χρήστης. Ένας οργανισμός που αναπτύσσει ένα σύστημα, το αναθέτει προς ανάπτυξη υπό το δικό του όνομα, ή προσαρμόζει ένα υπάρχον σύστημα με τρόπο που το κάνει λειτουργικά κάτι διαφορετικό, μπορεί με αυτόν τον τρόπο να καταλήξει στον ρόλο του παρόχου. Αυτό το τελευταίο είναι συχνά το σημείο όπου οι οργανισμοί σφάλλουν στην εκτίμηση: η μικρορύθμιση (finetuning) ενός μοντέλου, η δημιουργία δικού σας επιπέδου πάνω σε ένα εξωτερικό σύστημα, ή η εκπαίδευση ενός chatbot σε δικά σας δεδομένα μπορεί να μετατοπίσει τον ρόλο χωρίς να το έχει βιώσει κανείς ως συνειδητή επιλογή. Τι ακριβώς μετράει ως προσαρμογή που αλλάζει τον ρόλο περιγράφεται στη σελίδα τι αλλάζει όταν προσαρμόζετε εσείς ένα μοντέλο.
Οι περισσότεροι οργανισμοί δεν είναι αποκλειστικά πάροχοι ή αποκλειστικά χρήστες. Μια τράπεζα που χρησιμοποιεί ένα εξωτερικό γλωσσικό μοντέλο για την εξυπηρέτηση πελατών είναι σε αυτό χρήστης, αλλά αν η ίδια τράπεζα διαθέτει ένα εσωτερικά αναπτυγμένο μοντέλο κινδύνου σε άλλο τμήμα ή σε έναν πελάτη, προκύπτει για εκείνο το σύστημα ρόλος παρόχου. Αυτό σημαίνει ότι η κατηγοριοποίηση πρέπει να γίνεται ανά εφαρμογή, όχι μία φορά για ολόκληρο τον οργανισμό. Μια απογραφή που καταγράφει ανά σύστημα ποιος το κατασκεύασε, ποιος το προσάρμοσε και ποιος το χρησιμοποιεί είναι, για αυτό τον λόγο, ο μόνος τρόπος να απαντηθεί αυτή η ερώτηση δομικά και όχι περιστασιακά.
Ο ρόλος δεν είναι σταθερό χαρακτηριστικό ενός οργανισμού, αλλά μια κατάσταση που υπόκειται σε μεταβολή. Ένας προμηθευτής μπορεί να τροποποιήσει το σύστημά του με τρόπο που επηρεάζει το προφίλ κινδύνου. Ένας εσωτερικός προγραμματιστής μπορεί να αναπτύξει περαιτέρω ένα εσωτερικό εργαλείο σε κάτι που προσφέρεται εκτός του οργανισμού. Ένα σύστημα που κάποτε εισήχθη ως απλό εργαλείο μπορεί, μετά από μια ενημέρωση, να εκτελεί εργασίες που το τοποθετούν σε διαφορετική κατηγορία κινδύνου. Σε ποιες στιγμές συγκεκριμένα εμφανίζεται αυτή η μετατόπιση και τι σημαίνει αυτό για το ποιος φέρει τότε την ευθύνη, εξηγείται στη σελίδα πότε αλλάζει ο ρόλος σας. Για οργανισμούς που θέλουν να κατανοήσουν τι συνεπάγεται στην πράξη μια μετατόπιση προς υψηλότερο επίπεδο κινδύνου, η σελίδα τι σημαίνει ένα υψηλό επίπεδο κινδύνου για τον οργανισμό σας προσφέρει περαιτέρω ανάλυση.
Δεν εμπίπτει κάθε εφαρμογή που περιγράφεται ως τεχνητή νοημοσύνη στο πλαίσιο για το οποίο είναι σχετική η κατανομή ρόλων. Ορισμένα συστήματα βρίσκονται εκτός του πεδίου εφαρμογής για το οποίο έχει δημιουργηθεί αυτή η κατηγοριοποίηση, και είναι εξίσου σημαντικό για έναν οργανισμό να γνωρίζει τι βρίσκεται εκτός πεδίου όσο και να γνωρίζει τι βρίσκεται εντός αυτού. Διαφορετικά, δαπανάται χρόνος στην κατηγοριοποίηση κάτι που δεν χρειαζόταν κατηγοριοποίηση, ή κάτι παραβλέπεται επειδή έμοιαζε πολύ μικρό. Ποιες εφαρμογές βρίσκονται εκτός αυτού του πλαισίου και γιατί, περιγράφεται στη σελίδα ποιες εφαρμογές βρίσκονται εκτός πεδίου.
Ο καθορισμός του ρόλου είναι ένα πρώτο βήμα, όχι το αποτέλεσμα μιας διαδικασίας διακυβέρνησης. Μετά την κατηγοριοποίηση ακολουθεί το ερώτημα τι πρέπει στην πραγματικότητα να γίνει για κάθε ρόλο και κάθε επίπεδο κινδύνου, και αυτό το ερώτημα διαχωρίζεται σε δύο κατηγορίες: τι απαιτεί άμεση προσοχή και τι μπορεί να προγραμματιστεί σε μεγαλύτερο χρονικό ορίζοντα. Αυτές οι δύο κατηγορίες συχνά συγχέονται, με αποτέλεσμα επείγοντα ζητήματα να παραμένουν σε εκκρεμότητα ενώ ο χρόνος αφιερώνεται σε κάτι που δεν είναι ακόμη επιτακτικό. Μια επισκόπηση των προτεραιοτήτων σε αυτό βρίσκεται στη σελίδα τι πρέπει να γίνει τώρα και τι μπορεί να προγραμματιστεί. Όποιος θέλει να εμβαθύνει περισσότερο στο ζήτημα της κατανομής ρόλων, με τα ακριβή κριτήρια που καθορίζουν το όριο μεταξύ παρόχου και χρήστη, θα βρει αυτή την ανάλυση στη σελίδα είστε πάροχος ή χρήστης: από τι εξαρτάται αυτό.
Αυτή η κατηγοριοποίηση έχει νόημα μόνο όταν εφαρμόζεται σε αυτό που πράγματι λειτουργεί εντός του οργανισμού, όχι σε αυτό που εμφανίζεται σε μια εγκεκριμένη λίστα. Συστήματα που έχουν εισαχθεί χωρίς έγκριση μετρούν εξίσου, και ο ρόλος που τους αντιστοιχεί πρέπει να καθοριστεί με τον ίδιο τρόπο. Αυτό απαιτεί μια απογραφή που υπερβαίνει τη διαχείριση πληροφορικής.
Μόλις γίνει σαφές ποιον ρόλο διαδραματίζει ένας οργανισμός ανά σύστημα, η προσοχή μετατοπίζεται φυσικά σε ένα άλλο ερώτημα: τι κάνουν στην πραγματικότητα αυτά τα συστήματα, και ποιο μέρος της εργασίας αναλαμβάνουν. Αυτό το ερώτημα βρίσκεται εκτός του πεδίου του ελέγχου διακυβέρνησης, αλλά συνδέεται άμεσα με αυτόν. Ο έλεγχος εργασίας του FTE TO AI υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί να αναληφθεί από την AI, προσφέροντας έτσι μια εικόνα της επίδρασης ενός συστήματος παράλληλα με την εικόνα των υποχρεώσεων που το συνοδεύουν.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.