Et team ville prøve noget af. En chatbot til kundespørgsmål, et script der opsummerer rapporter, en kobling til en sprogmodel til at sortere e-mails. Der var ikke behov for en stor beslutning: nogen havde en konto, en API-nøgle eller en gratis prøveperiode, og inden for en eftermiddag kørte der noget. Piloten fungerede, eller fungerede tilstrækkeligt, og ingen havde længere en grund til at slukke den.
Dette er ingen undtagelse. Det er den almindelige måde, hvorpå AI kommer ind i en organisation. Ikke via et udbud eller et godkendt budget, men via en forsøgsopstilling der overlever sin egen forsøgsstatus. Testfasen er aldrig formelt afsluttet, fordi der heller aldrig var en formel begyndelse at afslutte.
En pilot der fungerer, bliver brugt. Og det der bruges, bliver en afhængighed. Teamet der byggede rapport-opsummeringen er måske gået videre, men opsummeringen kommer stadig ind hver uge. Ingen har fået til opgave at slukke den, og ingen vil løbe risikoen for, at noget stopper med at fungere, uden at vide hvad der skal træde i stedet.
Dertil kommer, at en forsøgsopstilling som regel ikke har en ejer i den forstand, en governancestruktur forventer. Der er ikke lavet nogen risikoklassifikation, ikke udført nogen dataanalyse, ikke truffet nogen beslutning om, hvem der er ansvarlig, hvis noget går galt. Piloten eksisterer i et mellemrum: for meget brugt til at ignorere, for informel til at styre. Det er præcis det mønster, der fører til medarbejdere der bruger et værktøj ingen har godkendt — bare på teamniveau i stedet for individuelt.
Refleksen, når man opdager en uautoriseret forsøgsopstilling, er ofte: hvem har tilladt dette, og hvorfor vidste vi det ikke. Det spørgsmål er forståeligt, men det virker mod hensigten. Den, der allerede i den første samtale mærker, at der er en skyldsspørgsmål på vej, fortæller ikke noget næste gang. Og den næste forsøgsopstilling — som helt sikkert kommer — forsvinder da lige så vel ud af syne som denne.
En kortlægning bygget på tillid giver mere end en audit bygget på kontrol. Ikke fordi folk ikke skulle have noget at skjule, men fordi den information De søger, sidder hos brugeren, og den bruger taler kun, hvis han ikke bliver holdt ansvarlig for, hvad han finder.
Så snart en forsøgsopstilling er i syne, er det første spørgsmål ikke om den må blive ved med at eksistere, men hvad den præcis gør. Hvilke data går ind, hvem bruger resultatet, og hvad sker der, hvis resultatet er forkert. Det er de samme spørgsmål, der gælder for enhver anden AI-anvendelse, og svaret bestemmer, om noget er et informelt hjælpemiddel eller en risiko, der kræver opmærksomhed.
Derefter følger klassifikation: passer anvendelsen ind i en risikokategori der allerede findes, eller kræver den en ny vurdering. Dernæst: hvad skal dokumenteres for at kunne påvise, at organisationen ved, hvad der kører, og hvorfor. Det er præcis det, hvad De skal registrere pr. anvendelse går ind på — ikke som ekstra bureaukrati, men som den minimale dokumentation, der er nødvendig for at skelne en pilot fra en risiko.
En forsøgsopstilling der bestter denne test, kan fortsætte med at eksistere, nu med en ejer og en klassifikation. En forsøgsopstilling der ikke bestter testen, skal afvikles — men det er en kontrolleret proces, ikke en fyring af den person, der engang startede den.
Forsøgsopstillingen der aldrig blev slukket, er én form for et bredere mønster. Tænk på browserudvidelsen med adgang til Deres mail, som nogen engang installerede for at spare tid, eller på virksomhedsdata der ender i et gratis chatvindue, fordi det gik hurtigere end det officielle værktøj. Alle disse situationer deler et kendetegn: de er opstået ud af et praktisk behov, ikke ud af en politisk beslutning, og de fortsætter med at eksistere, så længe ingen spørger til dem.
IT-listen med godkendt software er derfor ikke udgangspunktet for en kortlægning — det er begyndelsen på en søgning efter det, der falder uden for den liste. Den, der vil vide, hvordan den søgning ser ud, finder en fremgangsmåde i hvordan De opbygger en AI-inventarliste.
En forsøgsopstilling der kommer for dagens lys, giver som regel anledning til et opfølgende spørgsmål, der går videre end governance: hvorfor fungerede dette egentlig så godt, at ingen vovede at stoppe det? Det er et spørgsmål om selve arbejdet, ikke kun om risikoen. Arbejdsscanneren fra FTE TO AI beregner pr. opgave, hvor stor en del af arbejdet der kan overtages af AI, og gør dermed synligt, hvad en forsøgsopstilling allerede implicit viste: at en del af arbejdet kan indrettes anderledes. Hvor Responsible AI Scan kortlægger, hvad der kører og under hvilken risiko, viser arbejdsscanneren, hvor den anvendelse kommer fra, og hvad den strukturelt betyder for opgavefordelingen.
Responsible AI Scan, med den kortlægning, klassifikation og governance-sæt der er beskrevet ovenfor, er under udvikling. Den, der allerede nu har med dette at gøre og vil informeres, så snart værktøjet er tilgængeligt, kan skrive sig på venteliste.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.