Ένας προμηθευτής προσθέτει μια λειτουργία που κάτω από το καπό βασίζεται σε ένα γλωσσικό μοντέλο ή σε API τρίτου μέρους. Για τον προμηθευτή πρόκειται για ενημέρωση προϊόντος, όχι για γεγονός που αξίζει ενημέρωσης. Οι σημειώσεις έκδοσης αναφέρουν ένα νέο κουμπί, όχι την τεχνολογία που βρίσκεται από πίσω. Ο οργανισμός σας χρησιμοποιεί ήδη το λογισμικό, η σύμβαση έχει υπογραφεί με βάση την παλιά λειτουργικότητα, και η αλλαγή δεν περνά μέσα από τις προμήθειες ή την ασφάλεια — εκείνες βλέπουν μόνο τι συμβαίνει σε νέες αγορές, όχι τι προστίθεται σιωπηλά σε ένα υπάρχον προϊόν.
Το μοτίβο είναι το ίδιο όπως με μια επέκταση προγράμματος περιήγησης με πρόσβαση στο email σας: η πρόσβαση και η λειτουργία υπάρχουν ήδη προτού κάποιος τις αξιολογήσει. Στην περίπτωση ενός προμηθευτή η απόσταση είναι απλά μεγαλύτερη — δεν μπορείτε να δείτε τον πηγαίο κώδικα και πρέπει να βασιστείτε σε ό,τι λέει, ή δεν λέει, ο προμηθευτής.
Δεν υπάρχει στιγμή κατά την οποία αυτό αναφέρεται από μόνο του. Ένας εργαζόμενος χρησιμοποιεί τη νέα λειτουργία επειδή είναι χρήσιμη, όχι επειδή αναγνωρίζει ένα στοιχείο AI. Ο προμηθευτής δεν έχει κίνητρο να το αναφέρει ενεργά όσο κανείς δεν ρωτά: αυτό δεν αποφέρει έσοδα και μπορεί να προκαλέσει ερωτήματα. Και η πιθανότητα να το εντοπίσετε εσείς οι ίδιοι είναι μικρή, εκτός αν υπάρξει περιστατικό ή το εντοπίσει κάποιος περιοδικός έλεγχος.
Αυτό θυμίζει μια εσωτερική πιλοτική εφαρμογή που έχει παραμείνει: όπως και με μια δοκιμαστική εγκατάσταση που δεν έχει ποτέ απενεργοποιηθεί, δεν λείπει η κακή πρόθεση, αλλά η στιγμή κατά την οποία κάποιος θέτει το ερώτημα. Στην περίπτωση ενός προμηθευτή, προστίθεται επιπλέον το γεγονός ότι εξαρτάστε από τη διάθεσή του να απαντήσει.
Η αφετηρία δεν είναι να επιβάλετε νομικά τη σύμβαση με την πρώτη αμφιβολία, αλλά πρώτα να μάθετε τι συμβαίνει. Αυτό ξεκινά με ερωτήσεις προς τον προμηθευτή: ποια τμήματα του προϊόντος χρησιμοποιούν AI, ποια δεδομένα πηγαίνουν εκεί, και έχει αυτό μεταβληθεί από τη στιγμή που υπογράφηκε η σύμβαση. Οι προμηθευτές που μπορούν να απαντήσουν χωρίς συνέπειες, απαντούν πιο ειλικρινά από προμηθευτές που υποψιάζονται ότι μια ειλικρινής απάντηση θέτει τη σύμβαση σε κίνδυνο.
Η ίδια λογική ισχύει εντός του οργανισμού: εργαζόμενοι που χρησιμοποιούν ένα εργαλείο για το οποίο κανείς δεν γνωρίζει ότι περιέχει AI, το αναφέρουν μόνο όταν η αναφορά δεν επιφέρει τιμωρία. Πώς το οργανώνετε αυτό περιγράφεται στο εργαζόμενοι που χρησιμοποιούν εργαλείο που κανείς δεν έχει εγκρίνει. Για έναν προμηθευτή η αρχή λειτουργεί το ίδιο: μια ερώτηση χωρίς υπόνοια ενοχής λαμβάνει διαφορετική απάντηση από μια ερώτηση που εκλαμβάνεται ως προοίμιο κυρώσεων.
Μόλις γίνει σαφές τι έχει προσθέσει ο προμηθευτής, το επόμενο ερώτημα δεν είναι νομικό αλλά λειτουργικό: τι ρόλο παίζει αυτό το στοιχείο AI στη διαδικασία, ποιο είναι το επίπεδο κινδύνου, και τι πρέπει να έχει καταγραφεί σχετικά με αυτό. Τα ίδια ερωτήματα θέτετε για κάθε εφαρμογή AI που χρησιμοποιείτε εσείς οι ίδιοι, είτε αυτή εισέρχεται μέσω προμηθευτή είτε μέσω εργαζομένου που χρησιμοποιεί ένα δωρεάν εργαλείο — δείτε επίσης επιχειρησιακά δεδομένα που καταλήγουν σε δωρεάν παράθυρο συνομιλίας. Τι καταγράφετε για κάθε εφαρμογή εξαρτάται από τι κάνει αυτή η εφαρμογή και με ποια δεδομένα, όχι από την προέλευσή της. Μια επισκόπηση των σχετικών στοιχείων βρίσκεται στο τι πρέπει να καταγράφετε ανά εφαρμογή.
Ένας προμηθευτής που προσθέτει AI χωρίς ενημέρωση δεν πρέπει λοιπόν να αντιμετωπίζεται ξεχωριστά ως περιστατικό, αλλά να ενταχθεί στην απογραφή που ήδη δημιουργείτε για τον υπόλοιπο οργανισμό. Πώς δημιουργείται αυτή η απογραφή στην πράξη — συμπεριλαμβανομένου του πώς εντάσσετε τους προμηθευτές σε αυτήν — περιγράφεται στο πώς δημιουργείτε μια απογραφή AI.
Αυτό δεν αποτελεί αφορμή για νομική επίθεση εναντίον κάθε προμηθευτή που δεν έχει αναφέρει κάτι. Η διαπίστωση παραβίασης σύμβασης είναι διαφορετικό ερώτημα από τη διαπίστωση κινδύνου, και τα δύο δεν συμβαδίζουν αυτόματα: ένας προμηθευτής μπορεί να έχει παραλείψει να αναφέρει κάτι χωρίς η εφαρμογή να συνεπάγεται υψηλό κίνδυνο, και αντίστροφα. Το πρώτο βήμα είναι η αξιολόγηση του κινδύνου, όχι το ζήτημα ευθύνης. Όποιος ξεκινά με κυρώσεις, θα λαμβάνει στο μέλλον λιγότερη πληροφορία από τους προμηθευτές, όχι περισσότερη.
Μόλις γίνει σαφές ποια στοιχεία AI είναι ενεργά εντός του οργανισμού μέσω προμηθευτών, εργαζομένων ή δικών σας πρωτοβουλιών, προκύπτει ένα άλλο ερώτημα: τι σημαίνει αυτό για την ίδια την εργασία. Δεν κάνει κάθε εφαρμογή AI που εισέρχεται πράγματι κάτι χρήσιμο στη διαδικασία στην οποία βρίσκεται — και δεν είναι κάθε διαδικασία που τώρα εκτελείται χειρωνακτικά εξ ορισμού καλύτερη χωρίς AI. Η σκαν εργασίας του FTE TO AI υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί εύλογα να αναληφθεί από AI, ανεξαρτήτως του πώς αυτή η AI έχει εισέλθει. Αυτό μετατρέπει την απογραφή που δημιουργείτε τώρα όχι μόνο σε εργαλείο διακυβέρνησης, αλλά και σε αφετηρία για να προσδιορίσετε πού η AI κάνει πράγματι διαφορά.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.