Kennisbank

Πότε αλλάζει ο ρόλος σας, και από τι εξαρτάται αυτό

Πολλοί οργανισμοί υποθέτουν ότι ο ρόλος τους είναι σταθερός: είναι χρήστες ενός συστήματος που έχει κατασκευάσει ένας προμηθευτής, και οι υποχρεώσεις που συνοδεύουν αυτό είναι σαφείς και μόνιμες. Αυτή η υπόθεση είναι συχνά ορθή, αλλά όχι πάντα. Ο ρόλος που έχει ένας οργανισμός σε σχέση με ένα σύστημα ΑΙ δεν είναι μια σταθερή ετικέτα. Είναι αποτέλεσμα του τι πραγματικά συμβαίνει με το σύστημα, και αυτό το αποτέλεσμα μπορεί να μεταβληθεί χωρίς να υπογραφεί νέα σύμβαση ή να γίνει νέα αγορά.

Από τι εξαρτάται η κατηγοριοποίηση

Η κατηγοριοποίηση ενός ρόλου εξαρτάται από έναν αριθμό πραγματικών στοιχείων, όχι από το πώς ονομάζει ένας προμηθευτής το σύστημα ή πώς το τοποθετεί εσωτερικά ένα τμήμα. Σχετικά είναι, μεταξύ άλλων, ποιος έχει διαθέσει το σύστημα στην αγορά, ποιος χρησιμοποιεί πράγματι το σύστημα εντός μιας δικής του διαδικασίας, και ποιος έχει προσαρμόσει το σύστημα μετά την παράδοση. Μετράει επίσης με ποιο όνομα παρουσιάζεται το σύστημα στο εξωτερικό περιβάλλον, και αν ένας οργανισμός διαθέτει το σύστημα σε τρίτους χωρίς να το χρησιμοποιεί ο ίδιος. Αυτά τα στοιχεία καθορίζουν από κοινού αν ένας οργανισμός ενεργεί ως πάροχος, ως χρήστης, ή ως μέρος που εμπίπτει κάπου ενδιάμεσα.

Ο λόγος που αυτό είναι σχετικό για τη διακυβέρνηση, είναι ότι ο ρόλος καθορίζει ποιες υποχρεώσεις βαρύνουν ποιο μέρος. Ένας οργανισμός που είναι μόνο χρήστης έχει διαφορετικές ευθύνες από έναν οργανισμό που στην πράξη ενεργεί ως πάροχος. Τι ακριβώς αναμένεται από κάθε ρόλο περιγράφεται αλλού· εδώ το θέμα είναι ο μηχανισμός που καθορίζει ποιος ρόλος εφαρμόζεται, και ο εντοπισμός της στιγμής κατά την οποία αυτός ο μηχανισμός δίνει διαφορετικό αποτέλεσμα από πριν.

Τι αλλάζει όταν αλλάζει η κατάσταση

Ένας ρόλος δεν συνδέεται με ένα σύστημα για όλη τη διάρκεια ζωής του. Συνδέεται με το τι πραγματικά συμβαίνει σε μια δεδομένη στιγμή. Αυτό σημαίνει ότι ο ίδιος οργανισμός μπορεί, για το ίδιο σύστημα, σε δύο διαφορετικές στιγμές να εμπίπτει σε διαφορετικό ρόλο. Μερικές καταστάσεις όπου αυτό συμβαίνει: μια ομάδα που κάνει finetuning σε ένα αγορασμένο μοντέλο με δικά της δεδομένα, ένα τμήμα που επανασηματοδοτεί ένα σύστημα και το προσφέρει με το δικό του όνομα σε άλλα τμήματα, ή έναν οργανισμό που διαθέτει σε πελάτη ή συνεργάτη ένα σύστημα που αρχικά προορίζονταν για εσωτερική χρήση. Σε κάθε μία από αυτές τις περιπτώσεις, ο πραγματικός ρόλος μεταβάλλεται, ακόμη και αν εξωτερικά αλλάζει λίγο.

Τι αλλάζει στην πράξη δεν είναι αφηρημένο. Καθορίζει ποιος είναι υπεύθυνος για την τεκμηρίωση, ποιος πρέπει να αποδείξει ότι ένα σύστημα κάνει αυτό που δηλώνει ότι κάνει, και ποιος πρέπει να αντιδράσει αν κάτι πάει στραβά. Περισσότερα σχετικά με το τι ακριβώς αλλάζει όταν προσαρμόζεται ένα μοντέλο περιγράφονται στη σελίδα σχετικά με τις προσαρμογές σε ένα μοντέλο. Αυτή η μετατόπιση είναι ένα από τα σαφέστερα παραδείγματα για το πώς ένας ρόλος μεταστρέφεται χωρίς να προηγηθεί συνειδητή απόφαση.

Γιατί αυτό είναι σχετικό για τη διακυβέρνηση

Ο λόγος που αυτό το θέμα δεν είναι μόνο νομικά, αλλά και οργανωτικά σχετικό, είναι ότι μια αλλαγή ρόλου συχνά συμβαίνει απαρατήρητη. Μια ομάδα που προσαρμόζει ένα μοντέλο σκέφτεται σε όρους τεχνικής βελτίωσης, όχι αλλαγής ευθύνης. Ένα τμήμα που προωθεί ένα εργαλείο σε άλλο τμήμα σκέφτεται σε όρους ευκολίας, όχι νέου ρόλου ως φορέα παροχής. Η διακυβέρνηση που εξετάζει μόνο τι έχει αγοραστεί χάνει συστηματικά αυτές τις μετατοπίσεις.

Αυτό συνδέεται με το ερώτημα ποιες εφαρμογές ακριβώς εμπίπτουν σε μια ρύθμιση και ποιες όχι· αυτό το όριο εξετάζεται στη σελίδα σχετικά με το πεδίο εφαρμογής. Ένα σύστημα που έπεφτε εκτός πεδίου εφαρμογής όταν αγοράστηκε, μπορεί να εμπέσει εντός πεδίου εφαρμογής μόλις μεταβληθεί ο ρόλος του οργανισμού. Αυτό κάνει ανεπαρκή τον έλεγχο μόνο τη στιγμή της αγοράς· ο έλεγχος πρέπει να παρακολουθεί τι πραγματικά συμβαίνει με ένα σύστημα.

Επίσης το επίπεδο κινδύνου μιας εφαρμογής μπορεί να μεταβληθεί με μια αλλαγή ρόλου. Τι σημαίνει ακριβώς ένα υψηλό επίπεδο κινδύνου για τις υποχρεώσεις ενός οργανισμού, και από τι εξαρτάται αυτό, εξηγείται στη σελίδα σχετικά με τις συνέπειες ενός υψηλού επιπέδου κινδύνου. Ένας οργανισμός που λόγω αλλαγής ρόλου θεωρείται ξαφνικά πάροχος ενός συστήματος με υψηλό επίπεδο κινδύνου φέρει διαφορετικές ευθύνες από τότε που ήταν μόνο χρήστης του ίδιου συστήματος.

Πώς το εντοπίζει ένας οργανισμός

Για να εντοπίσει αλλαγές ρόλου πριν αυτές γίνουν πρόβλημα, ένας οργανισμός πρέπει να γνωρίζει ποια συστήματα υπάρχουν, ποιος τα προσαρμόζει, και ποιος τα προωθεί σε ποιον. Αυτό απαιτεί μια απογραφή που υπερβαίνει τη λίστα που έχει εγκρίνει το IT, και ένα σταθερό σημείο όπου καταγράφονται αποφάσεις σχετικά με προσαρμογή, προώθηση και επανασηματοδότηση. Ένα τέτοιο σταθερό σημείο, και τα ερωτήματα που το συνοδεύουν, περιγράφονται στη σελίδα σχετικά με έναν κατάλογο αποφάσεων εποπτείας.

Η Responsible AI Scan έχει σχεδιαστεί για να κάνει αυτές τις μετατοπίσεις ορατές: ποια συστήματα πράγματι λειτουργούν, ποιος τα χρησιμοποιεί, ποιος τα έχει προσαρμόσει, και ποιος ρόλος προκύπτει από αυτό αυτή τη στιγμή. Το εργαλείο που το υποστηρίζει βρίσκεται υπό κατασκευή· όποιος θέλει να το χρησιμοποιήσει μπορεί να εγγραφεί στη λίστα αναμονής.

Μια αλλαγή ρόλου δεν επηρεάζει μόνο τη διακυβέρνηση. Όταν ένα σύστημα μετατρέπεται από αυτόνομο βοηθητικό εργαλείο σε κάτι που διαρθρωτικά αναλαμβάνει ένα μέρος μιας εργασίας, αλλάζει επίσης το ερώτημα πόση δουλειά αναλαμβάνει πράγματι αυτό το σύστημα και πόση παραμένει ακόμη στους ανθρώπους. Η werkscan της FTE TO AI υπολογίζει ανά εργασία ποιο μέρος της δουλειάς μπορεί να αναλάβει η ΑΙ, και έτσι καθιστά ορατό πού μια αλλαγή ρόλου στη διακυβέρνηση συμπίπτει με μια πραγματική μετατόπιση στην κατανομή της εργασίας.