Πολλοί οργανισμοί υποθέτουν ότι η κατάταξη σε πάροχο ή χρήστη γίνεται μία φορά: ένα σύστημα αγοράζεται από κάπου, και έτσι καθορίζεται ο ρόλος του οργανισμού σας. Στην πράξη, αυτό είναι πιο σύνθετο. Ο ρόλος που έχετε απέναντι σε ένα σύστημα τεχνητής νοημοσύνης εξαρτάται από τι κάνετε με αυτό, όχι από πού προέρχεται το σύστημα. Ο ίδιος οργανισμός μπορεί για ένα σύστημα να είναι χρήστης και για ένα άλλο, χωρίς κανείς να το έχει ονομάσει έτσι, πάροχος.
Το κεντρικό ερώτημα δεν είναι ποιος κατασκεύασε το σύστημα, αλλά ποιος το διαθέτει στην αγορά ή το χρησιμοποιεί υπό το δικό του όνομα. Ένας οργανισμός που αγοράζει ένα έτοιμο σύστημα τεχνητής νοημοσύνης και το χρησιμοποιεί για τη δική του διαδικασία είναι συνήθως χρήστης. Τη στιγμή που ο ίδιος οργανισμός προσαρμόζει, αναπτύσσει περαιτέρω, επανασηματοδοτεί ή προσφέρει το σύστημα υπό το δικό του όνομα σε άλλους, αυτή η εικόνα μετατοπίζεται. Παίζει ρόλο και ο βαθμός ελέγχου επί του μοντέλου: ποιος καθορίζει με ποια δεδομένα εκπαιδεύεται, ποιος καθορίζει τις παραμέτρους, ποιος φέρει την ευθύνη για τη συμπεριφορά του συστήματος στην παραγωγή. Αυτά τα ερωτήματα δεν απαντώνται μία φορά κατά την αγορά, αλλά παραμένουν σχετικά όσο το σύστημα βρίσκεται σε χρήση.
Ο ρόλος ενός οργανισμού δεν είναι λοιπόν σταθερή ετικέτα, αλλά αποτέλεσμα της πραγματικής χρήσης. Αυτό σημαίνει ότι εσωτερικές αλλαγές — μια νέα εφαρμογή ενός υπάρχοντος συστήματος, μια προσαρμογή από το ίδιο το τμήμα πληροφορικής, η περαιτέρω παροχή μιας λειτουργίας τεχνητής νοημοσύνης σε πελάτη ή θυγατρική εταιρεία — μπορούν να αλλάξουν την κατάταξη χωρίς να έχει προηγηθεί επίσημη απόφαση. Τι σημαίνει αυτό στην πράξη, και σε ποια στιγμή ο ρόλος πράγματι μετατοπίζεται, αναλύεται περισσότερο στη σελίδα σχετικά με τη στιγμή στην οποία αλλάζει ο ρόλος σας απέναντι σε ένα σύστημα τεχνητής νοημοσύνης. Σημαντικό είναι ότι αυτή η μετατόπιση συχνά δεν παρατηρείται, επειδή συμβαίνει σε επίπεδο τμήματος, μακριά από το σημείο όπου καθορίζεται η πολιτική.
Το ερώτημα εάν είστε πάροχος ή χρήστης δεν στέκεται μόνο του. Είναι συνυφασμένο με το ερώτημα ποιο επίπεδο κινδύνου έχει μια εφαρμογή, και με το ερώτημα εάν μια εφαρμογή εμπίπτει στο πεδίο εφαρμογής της νομοθεσίας. Ένα σύστημα που χρησιμοποιείται ως χρήστης με χαμηλή επίδραση μπορεί να απαιτεί διαφορετική μεταχείριση απ' ό,τι όταν ο ίδιος οργανισμός προσαρμόζει περαιτέρω το σύστημα και έτσι πλησιάζει περισσότερο στον ρόλο του παρόχου. Τι σημαίνει συγκεκριμένα ένα υψηλότερο επίπεδο κινδύνου για τον οργανισμό περιγράφεται στη σελίδα σχετικά με τι σημαίνει ένα υψηλό επίπεδο κινδύνου για τον δικό σας οργανισμό. Επίσης, δεν εμπίπτουν όλες οι εφαρμογές στο πεδίο εφαρμογής των ίδιων απαιτήσεων· ποιες εφαρμογές εξαιρούνται και από τι εξαρτάται αυτό, αναφέρεται στη σελίδα σχετικά με ποιες εφαρμογές εξαιρούνται από το πεδίο εφαρμογής.
Ο λόγος που αυτή η κατάταξη παραμένει ασαφής για πολλούς οργανισμούς δεν είναι ότι λείπουν οι κανόνες. Το επίκαιρο κείμενο και τα ακριβή κριτήρια βρίσκονται αλλού και δεν μεταβάλλονται από αυτό το κείμενο. Το πρόβλημα βρίσκεται πριν από αυτό: για να γνωρίζει κανείς ποιος ρόλος ισχύει, πρέπει πρώτα να είναι γνωστό ποια συστήματα τεχνητής νοημοσύνης βρίσκονται πράγματι σε χρήση, από ποιον, και με ποιο βαθμό προσαρμογής. Αυτή η απογραφή απουσιάζει στους περισσότερους οργανισμούς. Η επίσημη λίστα εργαλείων εγκεκριμένων από την πληροφορική σπάνια περιγράφει τι πραγματικά χρησιμοποιείται. Τμήματα υιοθετούν εργαλεία, προσαρμόζουν μοντέλα με δικά τους δεδομένα, ή ενσωματώνουν μια λειτουργία τεχνητής νοημοσύνης σε μια εσωτερική διαδικασία, χωρίς αυτό να καταγράφεται πουθενά κεντρικά. Όποιος θέλει να γνωρίζει εάν ο οργανισμός είναι πάροχος ή χρήστης πρέπει λοιπόν πρώτα να γνωρίζει τι λειτουργεί — και αυτό είναι ένα ερώτημα που δεν απαντάται με ένα έγγραφο πολιτικής, αλλά με μια απογραφή που τολμά να ρωτήσει τους ανθρώπους τι χρησιμοποιούν, χωρίς να συνδέει αυτό με λογοδοσία.
Επειδή ο ρόλος ενός οργανισμού μπορεί να μετατοπιστεί χωρίς επίσημη απόφαση, είναι σημαντικό για τη διοίκηση και τους ελεγκτικούς φορείς οι αναφορές να συμβαδίζουν με αυτό. Μια προσέγγιση διακυβέρνησης που βασίζεται σε στατική κατανομή ρόλων χάνει τη στιγμή κατά την οποία μια εσωτερική προσαρμογή τοποθετεί ουσιαστικά τον οργανισμό σε διαφορετική θέση. Πώς μπορεί μια πολιτική τεχνητής νοημοσύνης να διαμορφωθεί έτσι ώστε να κάνει ορατές αυτές τις μετατοπίσεις αντί να τις αποκρύπτει, και να διαβάζεται πράγματι από όποιον είναι υπεύθυνος γι' αυτό, αναλύεται στη σελίδα σχετικά με μια πολιτική τεχνητής νοημοσύνης που ανταποκρίνεται στην πράξη αντί να μένει στο ράφι.
Το ερώτημα εάν ο οργανισμός σας είναι πάροχος ή χρήστης αφορά την ευθύνη και τις υποχρεώσεις. Δεν λέει ακόμη τίποτα για τι σημαίνει η τεχνητή νοημοσύνη για την ίδια την εργασία: ποια καθήκοντα αναλαμβάνονται, τροποποιούνται ή υποστηρίζονται από αυτήν. Αυτό το ερώτημα βρίσκεται στην προέκταση του καθορισμού ρόλου, αλλά απαιτεί διαφορετική οπτική — όχι στη διακυβέρνηση, αλλά στο περιεχόμενο της εργασίας. Η ανάλυση εργασίας του FTE TO AI υπολογίζει ανά καθήκον ποιο μέρος της εργασίας μπορεί να αναλάβει η τεχνητή νοημοσύνη, ανεξάρτητα από τον ρόλο που έχει ο οργανισμός απέναντι στο υποκείμενο σύστημα.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.