Τα συστήματα IT καταγράφουν συμπεριφορά, όχι πρόθεση. Αυτό τα κάνει ένα χρήσιμο σημείο εκκίνησης για μια απογραφή, και ταυτόχρονα μια ελλιπή πηγή. Όποιος θέλει να δημιουργήσει μια επισκόπηση της AI που όντως χρησιμοποιείται, πρέπει να γνωρίζει ποια σήματα λένε κάτι και ποια δίνουν μια ψευδή αίσθηση πληρότητας.
Η κίνηση προς domains παρόχων AI είναι συνήθως το πιο συγκεκριμένο σήμα που είναι διαθέσιμο. Ένα firewall ή proxy καταγράφει ποια domains προσεγγίζονται, από ποια συσκευή, και με ποια συχνότητα. Αυτό δείχνει χρήση που κανείς δεν χρειάστηκε να αναφέρει. Δεν δείχνει τι συνέβη σε αυτή την αλληλεπίδραση: ποια δεδομένα εισήχθησαν, για ποια εργασία, με ποιο αποτέλεσμα. Η κίνηση προς ένα domain chatbot μπορεί να είναι μια εφάπαξ δοκιμή ή μια καθημερινή εργασιακή ρουτίνα. Χωρίς επιπρόσθετο πλαίσιο, αυτή η διάκριση παραμένει αόρατη.
Τιμολόγια, συνδρομές και χρεώσεις πιστωτικών καρτών δείχνουν ποια εργαλεία έχουν αγοραστεί επίσημα, συχνά εκτός της επίσημης διαδικασίας προμηθειών του IT. Μια ομάδα που συνάπτει συνδρομή με εταιρική κάρτα, αφήνει ένα ίχνος που το τμήμα προμηθειών ή οικονομικών μπορεί να εντοπίσει. Αυτό το σήμα είναι αξιόπιστο για ό,τι έχει αγοραστεί, αλλά δεν λέει τίποτα για δωρεάν εργαλεία, δοκιμαστικές εκδόσεις ή προσωπικούς λογαριασμούς που χρησιμοποιούνται για εργασία. Περισσότερα σχετικά με τι αποκαλύπτει συγκεκριμένα αυτό το ίχνος περιγράφονται στη σελίδα για τα ίχνη προμηθειών και αδειών χρήσης ως πηγή για μια απογραφή AI.
Πλατφόρμες single sign-on και πάροχοι identity καταγράφουν ποιες εφαρμογές έχουν συνδεθεί με έναν εταιρικό λογαριασμό. Αυτό το σήμα εντοπίζει εργαλεία που απέκτησαν πρόσβαση μέσω OAuth, για παράδειγμα σε έναν λογαριασμό email ή περιβάλλον εγγράφων. Είναι μία από τις λίγες πηγές που δείχνει επίσης ποια δικαιώματα έχει αποκτήσει ένα εργαλείο, όχι μόνο ότι έχει χρησιμοποιηθεί. Ο περιορισμός: εργαλεία που χρησιμοποιούνται χωρίς σύνδεση, μέσω ενός browser και ενός ξεχωριστού λογαριασμού, παραμένουν εκτός αυτού.
Λογισμικό που έχει εγκατασταθεί σε laptops και σταθμούς εργασίας είναι συνήθως ορατό μέσω της πλατφόρμας διαχείρισης που χρησιμοποιεί το IT για ενημερώσεις κώδικα και αναβαθμίσεις. Αυτό δείχνει εγκατεστημένα εργαλεία AI, αλλά χάνει όλα όσα λειτουργούν μέσω ενός browser χωρίς εγκατάσταση. Για τις περισσότερες εφαρμογές AI που χρησιμοποιούνται σήμερα, αυτό αποτελεί σημαντικό μέρος του συνόλου.
Σε οργανισμούς όπου εργάζονται προγραμματιστές, η χρήση μοντέλων AI μέσω API αποτελεί ξεχωριστό ίχνος. Πλατφόρμες διαχείρισης παρόχων cloud και API gateways καταγράφουν ποια κλειδιά είναι ενεργά και τι όγκο επεξεργάζονται. Αυτό το σήμα υποεκτιμάται συχνά περισσότερο από κάθε άλλο: ένα μεμονωμένο script που καλεί ένα μοντέλο για μια εσωτερική εργασία, παραμένει εκτός κάθε συζήτησης περί «εργαλείων AI», επειδή κανείς δεν το αναγνωρίζει ως τέτοιο.
Καθένα από αυτές τις πηγές δείχνει ένα μέρος της συμπεριφοράς, καταγεγραμμένο από ένα σύστημα που δεν έχει σχεδιαστεί για αυτό. Κανένα από αυτά τα σήματα δεν καταγράφει γιατί χρησιμοποιείται ένα εργαλείο, για ποια εργασία, με ποιον τύπο δεδομένων, ή ποιος είναι υπεύθυνος για αυτό. Αυτός είναι ο λόγος για τον οποίο μια απογραφή που βασίζεται μόνο στην τεχνολογία δίνει μια στρεβλωμένη εικόνα. Γιατί η λίστα που παραδίδει το IT δεν συμφωνεί δομικά με ό,τι όντως χρησιμοποιείται, εξηγείται στη σελίδα για τον λόγο που η λίστα του IT δεν είναι σωστή.
Τα τεχνικά σήματα αποτελούν αφορμή για να ρωτήσετε, όχι υποκατάστατο της ίδιας της ερώτησης. Ένας εργαζόμενος που χρησιμοποιεί ένα εργαλείο για να δημιουργήσει προσχέδια κειμένων, να επιταχύνει μια ανάλυση ή να ελέγξει κώδικα, γνωρίζει πράγματα που κανένα αρχείο καταγραφής δεν καταγράφει: γιατί επέλεξε αυτό το εργαλείο, τι κάνει με αυτό, και τι θα του λείψει αν το εργαλείο έκλεινε. Αυτή η συζήτηση αποδίδει κάτι μόνο όταν διεξάγεται χωρίς λογοδοσία. Πώς αυτό εφαρμόζεται στην πράξη, περιγράφεται στη σελίδα για το να ρωτάτε χωρίς να αισθάνεται σαν λογοδοσία.
Η αξία των δεδομένων δικτύου, των ιχνών προμηθειών, των αρχείων καταγραφής identity και των συζητήσεων με εργαζομένους προκύπτει μόνο όταν συνδυάζονται σε μια σταθερή δομή: ποια εφαρμογή, ποιος ρόλος, ποιο επίπεδο κινδύνου, ποιος ιδιοκτήτης. Χωρίς αυτή τη δομή, παραμένει μια συλλογή μεμονωμένων παρατηρήσεων. Πώς εξελίσσεται αυτή η δόμηση βήμα προς βήμα περιγράφεται στη σελίδα για τη δημιουργία μιας απογραφής AI, και τι πρέπει ακριβώς να καταγράφεται ανά εφαρμογή βρίσκεται στη σελίδα για τα πεδία καταγραφής ανά εφαρμογή AI.
Μια πλήρης επισκόπηση της AI που χρησιμοποιείται απαντά στο ερώτημα της επισκόπησης και του κινδύνου. Δεν απαντά στο ερώτημα πόσο μέρος της ίδιας της εργασίας μπορεί να αναλάβει η AI, και πού αυτό αποδίδει συγκεκριμένα ανά εργασία. Μόλις γίνει σαφές ποια εργαλεία χρησιμοποιούνται σε ποιο ρόλο, αυτό το επόμενο ερώτημα προκύπτει φυσικά. Η werkscan της FTE TO AI υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί να αναλάβει η AI, ως συμπλήρωμα στην επισκόπηση που παρέχει η Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.