Ο κλάδος ΤΠΕ έχει μια θέση που δεν έχει κανένας άλλος κλάδος: εδώ η AI δεν χρησιμοποιείται μόνο, εδώ επίσης κατασκευάζεται, ενσωματώνεται και μεταπωλείται. Ένας προγραμματιστής που συνδέει ένα γλωσσικό μοντέλο με μια εφαρμογή, ένας σύμβουλος που ενσωματώνει μια λειτουργία AI σε ένα έργο πελάτη, μια ομάδα που κάνει finetuning σε ένα open-source μοντέλο — αυτές δεν είναι εξαιρέσεις, είναι η καθημερινή εργασία. Η σχέση μεταξύ αυτού που αποφασίζει ο ίδιος ο οργανισμός και αυτού που προσθέτει μόνος του ένας μεμονωμένος εργαζόμενος ή μια ομάδα, είναι διαφορετική σε αυτόν τον κλάδο απ' ό,τι σε μια τράπεζα ή μια κατασκευαστική εταιρεία. Ενώ σε άλλους κλάδους η AI αποτελεί μια προσθήκη σε υπάρχουσες διαδικασίες, στον κλάδο ΤΠΕ η AI αποτελεί συχνά μέρος του ίδιου του προϊόντος. Αυτό σημαίνει ότι η διακυβέρνηση δεν αφορά μόνο εσωτερικά εργαλεία, αλλά και το τι υπάρχει μέσα σε λογισμικό που παραδίδεται σε τρίτους.
Σε πολλούς κλάδους, το τμήμα IT είναι αυτό που έχει εικόνα για το τι λειτουργεί. Στον κλάδο ΤΠΕ αυτή η παραδοχή είναι πιο αδύναμη απ' ό,τι αλλού, ακριβώς επειδή σχεδόν όλοι διαθέτουν οι ίδιοι την τεχνική γνώση για να ζητήσουν ένα API-key, να κατεβάσουν ένα μοντέλο ή να ενσωματώσουν μια λειτουργία AI σε μια βάση κώδικα χωρίς να προηγηθεί κάποιο αίτημα, άδεια χρήσης ή διαδικασία έγκρισης. Ένας developer που χρησιμοποιεί ένα γλωσσικό μοντέλο για να παράγει κώδικα, ένας αρχιτέκτονας που δοκιμάζει έναν AI-agent σε ένα sandbox, μια ομάδα πωλήσεων που φτιάχνει μια επίδειξη με ένα εξωτερικό μοντέλο — αυτές οι επιλογές γίνονται σε επίπεδο έργου, όχι σε επίπεδο διοίκησης. Μια απογραφή που ξεκινά από τις αγορασμένες άδειες χρήσης, χάνει επομένως ένα σημαντικό μέρος από αυτό που πραγματικά συμβαίνει. Το ερώτημα δεν είναι αν υπάρχει σκιώδης AI, αλλά πόσο μεγάλο μέρος του περιβάλλοντος παραγωγής βασίζεται πλέον σε αυτήν χωρίς κανείς να το έχει καταγράψει.
Τα τεχνικά μέσα για την ανίχνευση της χρήσης AI υπάρχουν, αλλά συχνά βλέπουν μόνο ό,τι διακινείται μέσω εταιρικών δικτύων και διαχειριζόμενων συσκευών. Σε έναν κλάδο όπου μεγάλο μέρος της εργασίας πραγματοποιείται σε δικά τους περιβάλλοντα ανάπτυξης, προσωπικούς λογαριασμούς και έργα πελατών με δική τους υποδομή, αυτό αποτελεί περιορισμένη εικόνα. Η πληρέστερη πληροφορία προέρχεται από τους ανθρώπους που κάνουν τη δουλειά. Αυτό λειτουργεί μόνο αν η ερώτηση τεθεί χωρίς συνέπειες: κάποιος που γνωρίζει ότι μια ειλικρινής απάντηση θα οδηγήσει σε κύρωση, δεν απαντά ειλικρινά. Πώς αποτρέπετε τη χρήση από εργαζομένους ενός εργαλείου που κανείς δεν έχει εγκρίνει δεν ξεκινά λοιπόν από τον έλεγχο, αλλά από μια πρόσκληση να αναφερθεί τι ήδη συμβαίνει. Αυτή είναι μια διαφορετική σειρά απ' ό,τι έχουν συνηθίσει οι περισσότεροι οργανισμοί, και στον κλάδο ΤΠΕ αυτή η σειρά είναι ιδιαίτερα σημαντική, επειδή η δυσπιστία μεταξύ ομάδων ανάπτυξης και τμημάτων συμμόρφωσης εδώ συχνά προϋπάρχει.
Δεν χρειάζεται κάθε χρήση AI στον κλάδο ΤΠΕ την ίδια προσοχή. Ένα μοντέλο που συνοψίζει εσωτερική τεκμηρίωση είναι διαφορετικό από ένα μοντέλο που συναποφασίζει σχετικά με δικαιώματα πρόσβασης ή που λειτουργεί ως μέρος ενός παραδοτέου προϊόντος σε έναν πελάτη. Η κατάταξη κατά ρόλο και επίπεδο κινδύνου δεν είναι επομένως κάτι που γίνεται μία φορά, αλλά κάτι που πρέπει να παρακολουθεί τι κατασκευάζει μια ομάδα. Αυτή είναι μια διαφορετική δυναμική απ' ό,τι σε κλάδους με πιο σταθερές διαδικασίες, όπως φαίνεται στις περιγραφές της διακυβέρνησης στις χρηματοπιστωτικές υπηρεσίες ή τον κλάδο ενέργειας, όπου οι εφαρμογές AI παραμένουν συνήθως εντός μιας σταθερής λειτουργικής δομής. Στον κλάδο ΤΠΕ η εφαρμογή μεταβάλλεται μερικές φορές ταχύτερα απ' ό,τι μπορεί να παρακολουθήσει η κατάταξη, πράγμα που σημαίνει ότι η ίδια η δομή διακυβέρνησης πρέπει να έχει περιθώριο για επανεκτίμηση, όχι μόνο για εφάπαξ έγκριση.
Ένας κίνδυνος που αποκτά δικό του χρώμα στον κλάδο ΤΠΕ είναι η χρήση δωρεάν ή δημόσιων εργαλείων AI για εργασία που στην πραγματικότητα είναι εμπιστευτική: πηγαίος κώδικας, δεδομένα πελατών, εσωτερική αρχιτεκτονική, όροι συμβάσεων. Ένας προγραμματιστής που αφήνει ένα δημόσιο μοντέλο να ελέγξει γρήγορα ένα κομμάτι κώδικα, δεν σκέφτεται τι συμβαίνει με αυτά τα δεδομένα εισόδου. Πώς αποτρέπετε τη διαρροή εταιρικών δεδομένων σε ένα δωρεάν παράθυρο συνομιλίας περιγράφει αυτόν τον μηχανισμό, και είναι σε αυτόν τον κλάδο πιο σχετικό απ' ό,τι στους περισσότερους άλλους, επειδή τα δεδομένα που διαρρέουν συχνά δεν είναι μόνο προσωπικά δεδομένα, αλλά και πνευματική ιδιοκτησία και κώδικας πελατών. Μια δομή διακυβέρνησης που δεν καθορίζει τίποτα σχετικά με αυτό, αφήνει τον κίνδυνο στον μεμονωμένο εργαζόμενο, ενώ η έκθεση βαρύνει τον οργανισμό.
Ένα μέλος διοίκησης ή General Counsel στον κλάδο ΤΠΕ έχει συχνά ήδη πλαίσια κινδύνου για ασφάλεια πληροφοριών, ποιότητα λογισμικού και διαχείριση προμηθευτών. Η διακυβέρνηση AI λειτουργεί καλύτερα όταν συνδέεται με αυτή την υπάρχουσα δομή παρά όταν γίνεται μια ξεχωριστή διαδικασία που κανείς δεν αναγνωρίζει. Αυτό ισχύει εδώ πιο έντονα απ' ό,τι σε κλάδους όπως ο κλάδος ακινήτων ή οι κατασκευές, όπου η διακυβέρνηση AI ξεκινά συχνά ακόμα από λευκή σελίδα. Στον κλάδο ΤΠΕ υπάρχει συνήθως ήδη μια γλώσσα κινδύνου παρούσα· η εργασία είναι να επεκταθεί αυτή η γλώσσα χωρίς να αντικατασταθεί.
Η Responsible AI Scan χαρτογραφεί τι λειτουργεί με AI εντός του οργανισμού, συμπεριλαμβανομένου του τι έχει προκύψει εκτός της επίσημης λίστας, και συνδέει αυτό με μια κατάταξη κατά ρόλο και επίπεδο κινδύνου. Το αποτέλεσμα είναι ένα σύνολο διακυβέρνησης που συνδέεται με την υπάρχουσα δομή, όχι ένα νέο πλαίσιο δίπλα σε αυτήν. Το εργαλείο που το υποστηρίζει βρίσκεται ακόμα υπό κατασκευή. Όποιος θέλει να το χρησιμοποιήσει, μπορεί να εγγραφεί στη λίστα αναμονής· αυτή τη στιγμή δεν παρέχεται ακόμα τίποτα πέραν αυτής της εγγραφής.
Μόλις γίνει ορατό ποιες εφαρμογές AI υπάρχουν και ποιο επίπεδο κινδύνου αντιστοιχεί σε αυτές, ακολουθεί αυτόματα το επόμενο ερώτημα: ποιο μέρος της εργασίας που τώρα ακόμα εκτελείται από ανθρώπους, είναι κατάλληλο να ανατεθεί σε αυτές τις εφαρμογές. Αυτό είναι διαφορετικό ερώτημα από τη διακυβέρνηση, και σε αυτό απαντά η εργασιακή σάρωση (werkscan) της FTE TO AI, η οποία υπολογίζει ανά εργασία ποιο μέρος της δουλειάς μπορεί να αναληφθεί από AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.