Το ερώτημα αν μια εφαρμογή AI εντός του οργανισμού σας θεωρείται υψηλού κινδύνου δεν είναι ερώτημα που απαντάτε μία φορά και μετά το τσεκάρετε. Είναι το αποτέλεσμα ενός αριθμού παραγόντων που μαζί καθορίζουν πόσο βαρύνει μια εφαρμογή. Αν αλλάξει ένας από αυτούς τους παράγοντες, μπορεί να αλλάξει και η κατηγοριοποίηση. Αυτό κάνει την ταξινόμηση κινδύνου λιγότερο ζήτημα συμπλήρωσης και περισσότερο ζήτημα συνεχούς παρακολούθησης.
Αυτή η σελίδα περιγράφει τον μηχανισμό πίσω από αυτή την κατηγοριοποίηση: από τι εξαρτάται και τι συμβαίνει όταν η κατάσταση μεταβάλλεται. Οι τρέχοντες νομικοί ορισμοί και τα κατώφλια βρίσκονται αλλού· εδώ πρόκειται για το τι πρέπει να μπορείτε να βλέπετε και να αποδεικνύετε εντός του δικού σας οργανισμού.
Ένας αριθμός παραγόντων παίζει διαρθρωτικό ρόλο στο ερώτημα αν μια εφαρμογή βαρύνει σημαντικά.
Ο πρώτος είναι ο τομέας στον οποίο εφαρμόζεται η εφαρμογή. Ορισμένοι τομείς — σκεφτείτε αποφάσεις για ανθρώπους, τις ευκαιρίες τους ή τα δικαιώματά τους — βαρύνουν περισσότερο από εφαρμογές που είναι αποκλειστικά εσωτερικές και υποστηρικτικές. Τι κάνει ακριβώς η εφαρμογή εντός αυτού του τομέα κάνει τη διαφορά: ένα σύστημα που συμβουλεύει βαρύνει διαφορετικά από ένα σύστημα που αποφασίζει αυτόματα.
Ο δεύτερος παράγοντας είναι ο ρόλος που διαδραματίζει ο οργανισμός σας σε σχέση με το σύστημα. Το κατασκευάζετε εσείς οι ίδιοι, το αγοράζετε, ή χρησιμοποιείτε μια υπηρεσία στην οποία είναι ενσωματωμένη AI χωρίς να την έχετε αγοράσει ρητά ως τέτοια; Ο ρόλος που αναλαμβάνετε — πάροχος ή χρήστης — καθορίζει εν μέρει ποιες υποχρεώσεις πέφτουν στη δική σας ευθύνη και ποιο μέρος της ευθύνης παραμένει σε έναν προμηθευτή.
Ο τρίτος παράγοντας είναι τι συμβαίνει με το μοντέλο μετά την πρώτη εφαρμογή. Ένα σύστημα που χρησιμοποιείται αμετάβλητο όπως παραδόθηκε είναι διαφορετική κατάσταση από ένα σύστημα το οποίο βελτιστοποιείτε (finetuning), αναδιαμορφώνετε ή αφήνετε να εκπαιδεύεται σε δικά σας δεδομένα. Τι αλλάζει όταν προσαρμόζετε εσείς οι ίδιοι ένα μοντέλο είναι λοιπόν ερώτημα που πρέπει να απαντηθεί ξεχωριστά — η προσαρμογή μπορεί να αλλάξει την κατηγορία ενός συστήματος.
Ο τέταρτος παράγοντας είναι η εμβέλεια: πόσοι άνθρωποι επηρεάζονται, με ποια συχνότητα, και πόσο αντιστρέψιμο είναι ένα σφάλμα. Μια εφαρμογή που χρησιμοποιείται περιστασιακά από μια μικρή ομάδα βαρύνει διαφορετικά από μια εφαρμογή που επηρεάζει καθημερινά αποφάσεις για χιλιάδες πελάτες.
Αυτοί οι παράγοντες δεν είναι στατικοί. Μια εφαρμογή που σήμερα θεωρείται περιορισμένου κινδύνου, μπορεί αύριο να μην είναι πλέον — όχι επειδή άλλαξαν οι κανόνες, αλλά επειδή άλλαξε η ίδια η εφαρμογή. Ένα πιλοτικό πρόγραμμα που κλιμακώνεται σε ολόκληρο τον οργανισμό, ένα εσωτερικό εργαλείο που αρχίζει να επηρεάζει μια διαδικασία πελατών, ένα μοντέλο που επανεκπαιδεύεται σε νέα δεδομένα: καθένα από αυτά τα βήματα μπορεί να μεταβάλει την κατηγοριοποίηση.
Αυτό σημαίνει ότι η ταξινόμηση δεν είναι μια εφάπαξ άσκηση. Είναι ερώτημα που πρέπει να επανεξετάζεται κάθε φορά που αλλάζει κάτι σχετικά με τι κάνει ένα σύστημα, ποιον επηρεάζει, ή ποιος το διαχειρίζεται. Μια δομή διακυβέρνησης που δεν παρακολουθεί αυτό, μένει πίσω από την πράξη.
Δεν χρειάζεται κάθε εφαρμογή AI να περάσει από ολόκληρη αυτή τη διαδικασία. Ένα μέρος του τι λειτουργεί εντός ενός οργανισμού πέφτει εκτός εμβέλειας της ταξινόμησης κινδύνου — για παράδειγμα επειδή δεν επηρεάζει αποφάσεις για ανθρώπους ή επειδή έχει αποκλειστικά υποστηρικτική, μη καθοριστική λειτουργία. Πού βρίσκεται ακριβώς αυτό το όριο και ποιες εφαρμογές πέφτουν εκτός εμβέλειας εξαρτάται από τους ίδιους παράγοντες που περιγράφηκαν παραπάνω: τομέας, ρόλος, προσαρμογή και εμβέλεια. Δεν είναι λοιπόν ξεχωριστή λίστα, αλλά η άλλη πλευρά της ίδιας αξιολόγησης.
Μια κατηγοριοποίηση από μόνη της δεν αλλάζει τίποτα. Καθορίζει μόνο ποια επόμενα βήματα είναι επίκαιρα, και με ποια επικείμενη ανάγκη. Ορισμένες ενέργειες είναι απαραίτητες αμέσως, άλλες μπορούν να προγραμματιστούν — και τι πρέπει να γίνει τώρα και τι μπορεί να προγραμματιστεί σχετίζεται πάλι με το πόσο βαρύνει η εφαρμογή και πόσους ανθρώπους επηρεάζει.
Για να γίνουν αυτά τα βήματα ορατά και ανιχνεύσιμα, οι αποφάσεις σχετικά με την κατηγοριοποίηση και τις επόμενες ενέργειες πρέπει να καταγράφονται κάπου — όχι ως μεμονωμένες σημειώσεις, αλλά ως μέρος ενός καταλόγου αποφάσεων εποπτείας που δείχνει ποιος αποφάσισε τι και με βάση ποια πληροφορία. Χωρίς αυτή την καταγραφή, μια κατηγοριοποίηση είναι μια στιγμιαία εικόνα που κανείς δεν μπορεί πλέον να ανασυνθέσει.
Αυτό το ερώτημα κατηγοριοποίησης μπορεί να απαντηθεί σωστά μόνο εάν είναι γνωστό τι λειτουργεί πραγματικά. Μια λίστα IT με εγκεκριμένα εργαλεία δεν είναι αρκετή για αυτό: ένα μεγάλο μέρος της χρήσης προκύπτει εκτός αυτής της λίστας, σε ομάδες που άρχισαν να χρησιμοποιούν ένα εργαλείο χωρίς να το αναφέρουν πουθενά. Όποιος θέλει να χαρτογραφήσει αυτή τη χρήση, πρέπει να ρωτήσει γι' αυτήν — και να το κάνει αυτό μόνο χωρίς να συνοδεύεται από κάποια λογοδοσία, διαφορετικά η απάντηση δεν θα έρθει.
Μόλις γίνει σαφές ποιες εφαρμογές υπάρχουν και πόσο βαρύνουν, προκύπτει ένα επόμενο ερώτημα που δεν αφορά πλέον τον κίνδυνο, αλλά την εργασία: ποιο μέρος μιας εργασίας μπορεί να αναλάβει ένα σύστημα AI, και ποιο μέρος παραμένει ανθρώπινη εργασία. Αυτό το ερώτημα απαντά η σκανάρισμα εργασίας (werkscan) της FTE TO AI, η οποία υπολογίζει ανά εργασία ποιο μέρος της δουλειάς μπορεί να αναλάβει το AI — μια διαφορετική οπτική γωνία από την ταξινόμηση κινδύνου, αλλά μία που βασίζεται στην ίδια απογραφή.
Αυτή η σελίδα περιγράφει τον μηχανισμό πίσω από την κατηγοριοποίηση. Το Responsible AI Scan βρίσκεται το ίδιο υπό ανάπτυξη· όποιος θέλει να χρησιμοποιήσει τα αποτελέσματά του μόλις είναι διαθέσιμα, μπορεί να εγγραφεί στη λίστα αναμονής.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.