re-ai-gov Στη λίστα αναμονής

Kennisbank

Διακυβέρνηση AI σε έναν κλάδο με δύο επίπεδα αυτοματισμού

Δύο κόσμοι κάτω από μία στέγη

Η μεταποιητική βιομηχανία γνωρίζει έναν διαχωρισμό που λίγοι άλλοι κλάδοι έχουν. Από τη μία πλευρά βρίσκεται η επιχειρησιακή τεχνολογία: συστήματα ελέγχου, αισθητήρες, προβλεπτική συντήρηση και ποιοτικός έλεγχος με αναγνώριση εικόνας. Αυτά τα συστήματα έχουν συνήθως αποκτηθεί επισήμως, είναι ενσωματωμένα σε μηχανές ή γραμμές παραγωγής, και υπόκεινται σε υπάρχουσες διαδικασίες μηχανικής και ασφάλειας. Από την άλλη πλευρά βρίσκεται το γραφειακό και υποστηρικτικό περιβάλλον: προμήθειες, προγραμματισμός, υποστήριξη μηχανικής, επικοινωνία με πελάτες και διοίκηση. Εκεί η γενετική AI εμφανίζεται με τον ίδιο τρόπο όπως σε κάθε άλλον οργανισμό — μέσω ενός προγράμματος περιήγησης, ενός μεμονωμένου λογαριασμού, μιας μεμονωμένης συνδρομής.

Η σχέση μεταξύ αυτών των δύο επιπέδων καθορίζει πώς πρέπει να διαμορφωθεί μια προσέγγιση διακυβέρνησης. Ενώ η επιχειρησιακή τεχνολογία είναι σχετικά καλά τεκμηριωμένη επειδή αποτελεί μέρος κεφαλαιουχικών επενδύσεων και συμβάσεων συντήρησης, το γραφειακό επίπεδο συχνά δεν είναι καταγεγραμμένο πουθενά. Όποιος κοιτάζει μόνο τη γραμμή παραγωγής, βλέπει ένα μικρό μέρος από όσα σχετικά με AI χρησιμοποιούνται στον οργανισμό.

Τι δεν δείχνει η λίστα της πληροφορικής

Ένας κατάλογος εγκεκριμένου λογισμικού σπάνια αφηγείται όλη την ιστορία. Ένας μηχανικός που ζητά σύνοψη ενός σχεδίου, ένας προγραμματιστής που χρησιμοποιεί ένα εργαλείο AI για να αναδιαρθρώσει χρονοδιαγράμματα παραδόσεων, ένας υπεύθυνος προμηθειών που ζητά από ένα εξωτερικό μοντέλο να συγκρίνει προσφορές — αυτό συμβαίνει συχνά χωρίς να έχει υποβληθεί αίτημα ή να έχει καταγραφεί άδεια χρήσης. Αυτό δεν είναι παραμέληση· είναι πρακτική συνέπεια της πίεσης χρόνου και της διαθεσιμότητας δωρεάν ή οικονομικών εργαλείων.

Αυτή η σκιώδης AI αποτελεί το πραγματικό σημείο προσοχής για ένα διοικητικό στέλεχος ή διαχειριστή κινδύνου. Το ερώτημα δεν είναι μόνο τι έχει αποκτήσει ο οργανισμός, αλλά τι χρησιμοποιείται καθημερινά για να γίνεται η εργασία ταχύτερα. Η διερεύνηση αυτού απαιτεί διαφορετική προσέγγιση από έναν τεχνικό έλεγχο: απαιτεί οι άνθρωποι να είναι πρόθυμοι να πουν τι χρησιμοποιούν, χωρίς αυτή η συζήτηση να μοιάζει με υποχρέωση λογοδοσίας. Όποιος ρωτά «ποιος χρησιμοποίησε κάτι εδώ χωρίς άδεια», δεν θα λάβει απάντηση. Όποιος ρωτά «τι χρησιμοποιείτε για να κάνετε τη δουλειά σας», θα λάβει απάντηση.

Κίνδυνοι που δεν είναι ίδιοι

Δεν έχει την ίδια βαρύτητα κάθε χρήση AI στη μεταποιητική βιομηχανία. Μια εφαρμογή AI που συμμετέχει στην επικύρωση σχεδιασμού ή στον ποιοτικό έλεγχο ενός τελικού προϊόντος επηρεάζει την ασφάλεια και την ευθύνη με διαφορετικό τρόπο από ένα εργαλείο που συντάσσει ένα email προς έναν προμηθευτή. Ένα σύστημα που επηρεάζει τον προγραμματισμό παραγωγής μπορεί να έχει συνέπειες για τους χρόνους παράδοσης και τις συμβατικές υποχρεώσεις· ένα εργαλείο που συνοψίζει εσωτερικές σημειώσεις συνήθως όχι.

Αυτή η διαφοροποίηση αποτελεί τη βάση της κατηγοριοποίησης: δεν χρειάζεται όλη η χρήση AI να λαμβάνει τον ίδιο βαθμό εποπτείας, αλλά η διάκριση πρέπει να γίνεται, και με βάση τι κάνει το σύστημα και σε τι έχει επίδραση — όχι με βάση από πού αποκτήθηκε. Ένα εργαλείο που κατέβασε μεμονωμένος εργαζόμενος μπορεί να έχει εξίσου μεγάλη επίδραση στο αποτέλεσμα προς έναν πελάτη όσο ένα σύστημα που αποκτήθηκε μέσω επίσημης διαδικασίας.

Το επίπεδο της αλυσίδας εφοδιασμού

Η μεταποιητική βιομηχανία σπάνια λειτουργεί μεμονωμένα. Προμηθευτές, υπεργολάβοι και πελάτες αποτελούν μέρος της ίδιας διαδικασίας, και η χρήση AI από κάποιο από αυτά τα μέρη μπορεί να επηρεάσει το τι παραδίδει τελικά ο ίδιος ο οργανισμός. Αν ένας προμηθευτής χρησιμοποιεί AI για να ερμηνεύσει προδιαγραφές ή να δημιουργήσει αναφορές ποιότητας, δημιουργείται μια εξάρτηση που δεν είναι ορατή στα δικά μας συστήματα, αλλά είναι σχετική για όποιον φέρει ευθύνη για το τελικό προϊόν.

Αυτή είναι μια διαφορά σε σχέση με κλάδους όπου η κύρια διαδικασία λαμβάνει χώρα σε μεγάλο βαθμό εντός των δικών τους τοίχων. Μια προσέγγιση διακυβέρνησης για τη μεταποιητική βιομηχανία πρέπει, επομένως, όχι μόνο να καταγράφει την εσωτερική χρήση, αλλά και να σχηματίζει μια εικόνα για το πού στην αλυσίδα εφοδιασμού η AI παίζει ρόλο σε αποφάσεις που τελικά αφορούν τον οργανισμό.

Σύνδεση με υπάρχουσες δομές

Οι περισσότερες μεταποιητικές επιχειρήσεις έχουν ήδη δομές διαχείρισης κινδύνου: για την ασφάλεια των προϊόντων, για τη διαχείριση ποιότητας, για την αξιολόγηση προμηθευτών. Η διακυβέρνηση AI λειτουργεί καλύτερα όταν συνδέεται με ό,τι ήδη υπάρχει, αντί να γίνεται μια νέα, απομονωμένη διαδικασία. Μια κατηγοριοποίηση εφαρμογών AI ανά επίπεδο κινδύνου μπορεί, για παράδειγμα, να συνδεθεί με υπάρχοντα κριτήρια αξιολόγησης προμηθευτών ή με το σύστημα διαχείρισης ποιότητας, ώστε η αναφορά προς τη διοίκηση ή το εποπτικό συμβούλιο να μην αποτελεί ξεχωριστή διαδικασία παράλληλα με τις υπάρχουσες γραμμές λογοδοσίας, αλλά να ενσωματώνεται σε αυτές.

Πώς ακριβώς διαμορφώνεται αυτή η σύνδεση διαφέρει ανά οργανισμό και εξαρτάται από την υπάρχουσα δομή διακυβέρνησης. Άλλοι κλάδοι γνωρίζουν συγκρίσιμα ζητήματα από διαφορετική δομή: στον τομέα των μεταφορών υπάρχει ανάλογη τριβή μεταξύ επιχειρησιακών συστημάτων και γραφειακής χρήσης, στον αγροτικό τομέα η εξάρτηση από την αλυσίδα εφοδιασμού είναι συχνά ακόμη πιο άμεσα αισθητή, και στις επιχειρηματικές υπηρεσίες το επιχειρησιακό επίπεδο απουσιάζει σε μεγάλο βαθμό, με αποτέλεσμα η σκιώδης AI να είναι εκεί σχεδόν το μοναδικό επίπεδο που πρέπει να καταγραφεί.

Από την απογραφή στο επίπεδο των εργασιών

Ένας κατάλογος της χρήσης AI και μια κατηγοριοποίηση ανά κίνδυνο δίνουν σε έναν οργανισμό εικόνα για τι συμβαίνει και πού απαιτείται εποπτεία. Αυτό το ερώτημα βρίσκεται στην προέκταση ενός άλλου ερωτήματος που θέτουν πολλές μεταποιητικές επιχειρήσεις: ποιο μέρος της εργασίας καθαυτής, σε επίπεδο μεμονωμένων εργασιών, μπορεί στην πραγματικότητα να αναλάβει η AI. Ενώ η διακυβέρνηση καταγράφει τι συμβαίνει και ποιος φέρει την ευθύνη για αυτό, η σάρωση εργασιών (werkscan) της FTE TO AI υπολογίζει ανά εργασία ποιο μέρος όντως αποτελεί υποψήφιο για ανάληψη από την AI — ένα ερώτημα που μπορεί να απαντηθεί σωστά μόνο όταν έχει διασαφηνιστεί πρώτα τι ήδη λειτουργεί.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.