re-ai-gov Στη λίστα αναμονής

Kennisbank

AI-governance για ενεργειακές επιχειρήσεις: έλεγχος πάνω σε ό,τι πραγματικά συμβαίνει

Τι κάνει τον ενεργειακό τομέα διαφορετικό

Μια ενεργειακή επιχείρηση συνδυάζει δύο κόσμους που σπάνια έχουν τον ίδιο ιδιοκτήτη. Από τη μία πλευρά βρίσκεται η επιχειρησιακή τεχνολογία: συστήματα μέτρησης και ελέγχου, διαχείριση δικτύου, συντήρηση κρίσιμων υποδομών. Από την άλλη πλευρά βρίσκεται το γραφείο: επαφή με πελάτες, τιμολόγηση, προγραμματισμός, νομικά και τμήματα συμμόρφωσης. Η AI εμφανίζεται και στους δύο κόσμους, αλλά με διαφορετική σχέση μεταξύ κινδύνου και ευκολίας. Στο επιχειρησιακό επίπεδο, μια εφαρμογή AI αγγίζει γρήγορα συστήματα όπου μια βλάβη ή μια λανθασμένη απόφαση έχει άμεσες συνέπειες εκτός του οργανισμού. Στο επίπεδο του γραφείου πρόκειται συχνότερα για κείμενο, δεδομένα και υποστήριξη αποφάσεων, με έναν κίνδυνο που ομοιάζει περισσότερο με άλλους τομείς. Μια governance που αντιμετωπίζει αυτά τα δύο επίπεδα ως ένα και το αυτό χάνει την ουσία: ό,τι στο ένα επίπεδο αποτελεί βελτίωση αποδοτικότητας, στο άλλο επίπεδο είναι ζήτημα ασφάλειας και εποπτείας.

Επιπλέον, οι ενεργειακές επιχειρήσεις βρίσκονται συχνά υπό αυστηρότερη εποπτεία, δεσμεύονται από ειδικές για τον κλάδο υποχρεώσεις αναφοράς και εργάζονται με δεδομένα που άπτονται εθνικής υποδομής. Αυτό κάνει το ερώτημα «ποιος χρησιμοποίησε εδώ AI, και σε τι» βαρύτερο απ' ό,τι σε ένα μέσο περιβάλλον γραφείου. Το περιεχόμενο των κανόνων πίσω από αυτό — ποιες υποχρεώσεις ισχύουν ακριβώς και πότε — περιγράφεται αλλού· εδώ πρόκειται για τον μηχανισμό με τον οποίο ένας οργανισμός αποκτά και διατηρεί εικόνα για ό,τι συμβαίνει.

Η λίστα της πληροφορικής δεν είναι η πλήρης εικόνα

Όποιος ρωτήσει ποια συστήματα AI χρησιμοποιούνται, θα λάβει από το τμήμα πληροφορικής μια λίστα εγκεκριμένων εργαλείων. Αυτή η λίστα είναι ένα σημείο εκκίνησης, όχι η πραγματικότητα. Ένας υπεύθυνος προγραμματισμού που χρησιμοποιεί ένα γλωσσικό μοντέλο για να συνοψίσει αναφορές συντήρησης, ένας αναλυτής που τροφοδοτεί ένα εξωτερικό μοντέλο με δεδομένα μετρήσεων για να εντοπίσει μοτίβα, ένας υπάλληλος σύμβασης που συμβουλεύεται ένα chatbot κατά τη διάρκεια ενός πρωτοκόλλου βλάβης: αυτό συμβαίνει συχνά χωρίς να έχει υποβληθεί αίτημα ή να έχει ζητηθεί έγκριση. Όχι από κακή πρόθεση, αλλά επειδή λειτουργεί και κανείς δεν το ρώτησε.

Ο πυρήνας μιας απογραφής δεν είναι λοιπόν η επισήμανση των γνωστών συστημάτων, αλλά η αποτύπωση αυτού που πραγματικά συμβαίνει. Αυτό απαιτεί διαφορετικό τόνο από έναν έλεγχο. Όποιος θέλει να μάθει τι χρησιμοποιεί ένας εργαζόμενος, πρέπει να το ρωτήσει χωρίς να συνδέεται με κάποια συνέπεια — διαφορετικά η απάντηση εξαφανίζεται τόσο γρήγορα όσο και η χρήση καθαυτή. Πώς μοιάζει αυτή η συζήτηση και γιατί μια κύρωση έχει αντίθετο αποτέλεσμα, περιγράφεται στο πώς αποτρέπετε τη χρήση από εργαζομένους ενός εργαλείου που κανείς δεν γνωρίζει. Ένας συγκεκριμένος κίνδυνος μέσα σε αυτή την ευρύτερη εικόνα είναι η εισαγωγή εταιρικών δεδομένων — δεδομένα μετρήσεων, όρους συμβάσεων, δεδομένα δικτύου — σε ένα δωρεάν παράθυρο συνομιλίας εκτός του οργανισμού· τι διακυβεύεται και πώς αυτό αναγνωρίζεται περιγράφεται στο πώς αποτρέπετε την εξαφάνιση εταιρικών δεδομένων σε ένα δωρεάν παράθυρο συνομιλίας.

Ταξινόμηση με βάση τον ρόλο και τον κίνδυνο, όχι το τμήμα

Μετά την απογραφή έρχεται το ερώτημα τι κάνει στην πραγματικότητα ένα σύστημα. Μια εφαρμογή AI που αναδιατυπώνει κείμενο για μια επιστολή προς πελάτη έχει διαφορετικό ρόλο από ένα μοντέλο που συμμετέχει στην απόφαση προγραμματισμού συντήρησης βάσει δεδομένων αισθητήρων. Η ταξινόμηση πρέπει να καθορίζει αυτόν τον ρόλο, και το επίπεδο κινδύνου που του αντιστοιχεί, ανεξάρτητα από το ποιο τμήμα χρησιμοποιεί τυχαία το εργαλείο. Εκεί ακριβώς ο ενεργειακός τομέας απαιτεί μια δική του προσέγγιση: ένα εργαλείο που είναι αβλαβές σε μια ομάδα μάρκετινγκ μπορεί να αποκτήσει διαφορετικό βάρος σε μια ομάδα διαχείρισης δικτύου, επειδή το αποτέλεσμα επιδρά σε ένα φυσικό σύστημα.

Αυτή η προσέγγιση — απογραφή, ταξινόμηση, ενσωμάτωση στην υπάρχουσα governance — δεν είναι μοναδική για τον τομέα της ενέργειας. Παρόμοια ζητήματα εμφανίζονται σε οργανισμούς που εργάζονται με φυσικές εγκαταστάσεις και κινδύνους ασφάλειας, όπως περιγράφεται σχετικά με την AI-governance σε εγκαταστάτριες επιχειρήσεις με τεχνική και εκτελεστική πρακτική και σχετικά με την AI-governance στον κατασκευαστικό κλάδο όπου συναντιούνται ο προγραμματισμός και η εκτέλεση. Επίσης, τομείς με αυστηρές απαιτήσεις εποπτείας, όπως φαίνεται στην AI-governance στην υγειονομική περίθαλψη όπου συναντιούνται η ασφάλεια ασθενών και η εποπτεία, δείχνουν ότι η μορφή της governance μετατοπίζεται όσο αυξάνονται οι συνέπειες ενός λάθους. Όποιος κάνει αυτή τη σύγκριση διαπιστώνει ότι η ενέργεια δεν είναι μοναδική στο ερώτημα, αλλά είναι μοναδική στο βάρος της απάντησης.

Σύνδεση με ό,τι υπάρχει ήδη

Ένα σύνολο governance που τοποθετείται δίπλα στην υπάρχουσα δομή διαχείρισης κινδύνου λειτουργεί καλύτερα από ένα νέο πλαίσιο δίπλα σε αυτήν. Οι ενεργειακές επιχειρήσεις έχουν συνήθως ήδη μια δομή διαχείρισης κινδύνου για την επιχειρησιακή ασφάλεια και τη συμμόρφωση. Η AI-governance πρέπει να αποτελεί προέκταση αυτής, με τις ίδιες γραμμές αναφοράς προς τη διοίκηση και τον εποπτικό φορέα, όχι μια ξεχωριστή διαδικασία που πρέπει να παρακολουθείται μεμονωμένα και που μια μέρα βρίσκεται δίπλα στις άλλες αναφορές κινδύνου χωρίς ποτέ να συγκλίνει με αυτές.

Από την επισκόπηση στην κατανόηση της ίδιας της εργασίας

Μόλις γίνει σαφές ποιες εφαρμογές AI υπάρχουν και τι κίνδυνο αντιπροσωπεύουν, ακολουθεί ένα άλλο ερώτημα: τι σημαίνει αυτό για την εργασία που κάνουν σήμερα οι άνθρωποι. Μια απογραφή δείχνει τι λειτουργεί· μια σάρωση εργασίας δείχνει τι σημαίνει αυτή η λειτουργία για τις εργασίες, τις θέσεις και τη χωρητικότητα. Η σάρωση εργασίας της FTE TO AI υπολογίζει ανά εργασία ποιο τμήμα της εργασίας μπορεί να αναληφθεί από την AI, και έτσι προσθέτει στην εικόνα κινδύνου και την εικόνα χωρητικότητας. Αυτό είναι το λογικό επόμενο βήμα μετά από μια απογραφή: όχι μόνο να γνωρίζετε τι συμβαίνει, αλλά και τι σημαίνει αυτό για τον οργανισμό που πρέπει να δουλέψει με αυτό.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.