Στις μεταφορές και τα logistics, η AI δεν βρίσκεται συχνά σε ένα ξεχωριστό σύστημα με όνομα και ιδιοκτήτη, αλλά είναι ενσωματωμένη στην ίδια τη λειτουργία: σχεδιασμό διαδρομών, βελτιστοποίηση φόρτωσης, συστήματα προγνωστικής συντήρησης, πρόβλεψη ζήτησης, και τους αλγόριθμους που καθορίζουν ποιος οδηγός θα κάνει ποια διαδρομή. Ένα μέρος αυτού εισέρχεται μέσω λογισμικού μεταφορέων, μεταφορικών πρακτόρων ή πλατφορμών, και λειτουργεί άρα με κανόνες απόφασης που ο ίδιος ο οργανισμός δεν έχει ρυθμίσει και μερικές φορές δεν μπορεί να δει πλήρως. Η σχέση μεταξύ αυτού που το τμήμα σχεδιασμού έχει αγοράσει το ίδιο και αυτού που εισέρχεται μέσω συνεργατών της αλυσίδας ή ενσωματωμένης λειτουργικότητας, μεταβάλλεται συνεχώς. Αυτό δεν καθιστά την απογραφή σε αυτόν τον τομέα πιο απλή απ' αλλού, αλλά διαφορετική: το ερώτημα δεν είναι μόνο ποιος έχει εγκαταστήσει ένα εργαλείο AI, αλλά και ποιες αυτοματοποιημένες αποφάσεις υπήρχαν ήδη σε υπάρχοντα συστήματα προτού κάποιος τις ονομάσει AI.
Ένα επισκόπηση εγκεκριμένου λογισμικού σπάνια λέει ολόκληρη την ιστορία. Σχεδιαστές που χρησιμοποιούν ένα εργαλείο AI για τη βελτιστοποίηση διαδρομών, εξυπηρέτηση πελατών που χρησιμοποιεί ένα chatbot για track-and-trace, ή ένας εργαζόμενος αποθήκης που χρησιμοποιεί μια εφαρμογή για προβλέψεις αποθέματος: αυτού του είδους οι εφαρμογές προκύπτουν συχνά τοπικά, λόγω πίεσης χρόνου ή μιας συγκεκριμένης εργασίας, χωρίς κανείς να έχει υποβάλει αίτημα. Όποιος θέλει να το χαρτογραφήσει αυτό, πρέπει να ρωτήσει τους ανθρώπους που κάνουν τη δουλειά, και αυτό λειτουργεί μόνο αν το να κάνεις ερωτήσεις δεν οδηγεί άμεσα σε επίπληξη. Ένας οργανισμός που θέλει να εντοπίσει shadow AI, πρέπει πρώτα να καταστήσει σαφές ότι η αναφορά δεν συνιστά κίνδυνο.
Μια απογραφή που προχωράει πέρα από τη λίστα της IT απεικονίζει ποιες εφαρμογές AI χρησιμοποιούνται πράγματι, σε ποιο σημείο της διαδικασίας βρίσκονται, και ποιος συνδέει αποφάσεις σε αυτές. Στις μεταφορές και τα logistics αυτό σημαίνει συχνά μια διάκριση μεταξύ συστημάτων που απλώς συμβουλεύουν, συστημάτων που σχεδιάζουν αυτόματα χωρίς παρέμβαση, και συστημάτων που έχουν επίπτωση σε ανθρώπους εκτός του οργανισμού, όπως οδηγοί ή πελάτες στους οποίους παρουσιάζεται ένας χρόνος παράδοσης βασισμένος σε πρόβλεψη. Αυτή η διάκριση είναι σημαντική επειδή μεταβάλλει το επίπεδο κινδύνου: ένα εργαλείο που απλώς δίνει μια πρόταση σε έναν σχεδιαστή, απαιτεί διαφορετική μορφή εποπτείας από ένα σύστημα που καθορίζει αυτόνομα προγράμματα ή διαδρομές.
Μετά την απογραφή έρχεται το ερώτημα τι κάνει ακριβώς κάθε εφαρμογή και για ποιον. Ένα σύστημα που προβλέπει πότε απαιτείται συντήρηση έχει διαφορετική επίπτωση από ένα σύστημα που καθορίζει σε ποιον οδηγό ανατίθεται μια διαδρομή βάσει δεδομένων απόδοσης. Η ταξινόμηση εδώ δεν σημαίνει την εφαρμογή ενός σταθερού πρότυπου, αλλά την τακτοποίηση αυτού που εντοπίστηκε: ποια εφαρμογή αφορά αποφάσεις σχετικές με ανθρώπους, ποια αφορά μόνο λογιστική βελτιστοποίηση, και ποια λειτουργεί καθαρά υποστηρικτικά. Η τρέχουσα νομοθεσία που καθορίζει ποιες υποχρεώσεις συνδέονται με ποιο επίπεδο κινδύνου βρίσκεται αλλού· εδώ πρόκειται για τη δομή που είναι απαραίτητη ώστε να μπορούν αυτοί οι κανόνες να εφαρμοστούν στη συνέχεια, ό,τι ακριβώς και να προβλέπει το κείμενο.
Οι εταιρείες μεταφορών εργάζονται συνήθως ήδη με διαχείριση κινδύνου γύρω από την ασφάλεια, τον σχεδιασμό και τη συμμόρφωση. Η AI-governance δεν χρειάζεται να είναι μια νέα συσκευή δίπλα σε αυτό το υπάρχον σύστημα· λειτουργεί καλύτερα όταν η ταξινόμηση των εφαρμογών AI εναρμονίζεται με κατηγορίες που ήδη υπάρχουν, ώστε ένα διευθυντικό στέλεχος ή διαχειριστής κινδύνου να μη χρειάζεται να διατηρεί δύο ξεχωριστά επισκοπήσεις. Αυτό απαιτεί ένα σύνολο governance που αναφέρει ποιος διαχειρίζεται μια εφαρμογή, ποιος είναι υπεύθυνος για αυτήν, και τι έλεγχος υπάρχει επ' αυτής, σε μορφή που ταιριάζει με ό,τι ήδη υπάρχει ως δομή αναφοράς και λογοδοσίας.
Ένα διευθυντικό στέλεχος ή General Counsel που καλείται να δηλώσει ποια συστήματα AI είναι ενεργά στον οργανισμό, πρέπει να μπορεί να το τεκμηριώσει με περισσότερα από μια λίστα από το σύστημα προμηθειών. Η αποδεικνυόμενη τεκμηρίωση σημαίνει ότι υπάρχει μια επικαιροποιημένη επισκόπηση εφαρμογών, της ταξινόμησής τους και της κατάστασης της εποπτείας επ' αυτών, και ότι αυτή η επισκόπηση κρατά και όταν κάποιος ρωτήσει σε βάθος. Άλλοι τομείς αντιμετωπίζουν συγκρίσιμα ζητήματα, όπως φαίνεται στο AI-governance στον κλάδο λιανικού εμπορίου, AI-governance στον αγροτικό τομέα και AI-governance στον κλάδο ICT, κάθε φορά με τη δική τους σχέση μεταξύ αυτού που έχει αγοραστεί κεντρικά και αυτού που έχει προκύψει τοπικά.
Το Responsible AI Scan που συνδυάζει αυτή την απογραφή, ταξινόμηση και δομή governance, βρίσκεται υπό κατασκευή. Όποιος θέλει να ξεκινήσει με αυτό, μπορεί να εγγραφεί στη λίστα αναμονής· δεν υπάρχει προς το παρόν ένα έτοιμο προϊόν προς παραγγελία, και αυτό δεν παρουσιάζεται εδώ διαφορετικά.
Μόλις γίνει σαφές ποιες εφαρμογές AI λειτουργούν στην αλυσίδα μεταφορών και ποιο επίπεδο κινδύνου τους αντιστοιχεί, προκύπτει ένα επόμενο ερώτημα που δεν απαντάται με την απογραφή: πόσο από την εργασία που κάνουν σήμερα οι σχεδιαστές, οι οδηγοί ή οι εργαζόμενοι εξυπηρέτησης πελατών μπορεί πράγματι να αναλάβει αυτή η εφαρμογή. Αυτό το ερώτημα βρίσκεται κοντά στη governance, αλλά δεν είναι το ίδιο πράγμα, και απαντάται από το werkscan της FTE TO AI, το οποίο υπολογίζει ανά εργασία ποιο μέρος της δουλειάς μπορεί να αναλάβει η AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.