En medarbejder indsætter et stykke tekst i et gratis chatvindue, fordi det går hurtigere end det interne system. Et team tegner et abonnement på et AI-værktøj, fordi ansøgningen om noget officielt ville tage uger. En leverandør tilføjer AI-funktionalitet til software, der har været i brug i årevis, uden at der er ført en samtale om det. Ingen af disse mennesker forsøger at skjule noget. De forsøger at udføre deres arbejde.
Det er kernen i skygge-AI: det opstår ikke af ulyst, men af et hul mellem det, folk har brug for, og det, den formelle proces leverer. Så længe dette hul findes, vil skygge-AI fortsætte med at opstå, uanset hvor mange politikker der bliver skrevet.
De fleste organisationer har et overblik over godkendt software. Dette overblik er et udgangspunkt, ikke et spejlbillede af virkeligheden. Det, folk faktisk bruger, er næsten altid et skridt forud: spørgsmålet om, hvordan De forhindrer virksomhedsdata i et gratis chatvindue illustrerer, hvor let et værktøj kan komme uden for al kontrol. Det samme gælder for en afdeling, der på eget initiativ tegner et abonnement, fordi den almindelige vej føles for langsom, eller for en browserudvidelse, der får adgang til mailen uden at der findes en separat godkendelse til det. Ingen af disse situationer står på en IT-liste. De findes alligevel.
Der findes en tendens til at behandle skygge-AI som et håndhævelsesproblem: forbyde, blokere, sanktionere. Det virker modsat. Den, der ved, at et ærligt svar fører til et problem, giver ikke længere et ærligt svar. Værktøjet forsvinder ikke, det bliver mere usynligt. Nøjagtigt det modsatte af, hvad en organisation har brug for.
En anden grund til, at det ikke løser sig selv: eksisterende governance er ofte bygget til software, man køber og installerer, ikke til en tjeneste, som nogen åbner i en browser og forlader igen i morgen. En forsøgsopstilling, der engang var tænkt som midlertidig viser, hvordan noget lille, uden et klart vurderingsmoment, kan fortsætte i årevis, uden at nogen føler sig som ejer. Uden en proces, der strukturelt bemærker denne form for brug, forbliver det under radaren, uanset hvor gode intentionerne er.
Den eneste måde at vide, hvad der foregår, er at spørge. Ikke som kontrol, men som kortlægning. Medarbejdere, der ved, at et ærligt svar ikke fører til en samtale med HR, giver også det svar. Det kræver en tone og en proces, der på forhånd gør klart: dette handler om at få overblik, ikke om at gå efter nogen.
Hertil hører også opmærksomhed på den måde, nye processer bliver lagt sammen med eksisterende. En anden proces, der lægges ved siden af den eksisterende, uden at den første bliver justeret eller trukket tilbage, bliver ofte ignoreret, simpelthen fordi folk bliver ved deres vane. En kortlægning, der kommer som en ekstra forpligtelse ovenpå arbejdet, får samme behandling.
Så snart det er klart, hvad der faktisk bliver brugt, følger det næste spørgsmål: hvad gør dette værktøj, og hvilken risiko hører dertil? Et værktøj, der opsummerer tekst til internt brug, kræver noget andet end et værktøj, der medvirker til beslutninger om kundeaccept eller personalevurdering. Denne klassifikation efter rolle og risikoniveau er det, der omdanner en kortlægning til noget brugbart: et grundlag, hvorpå bestyrelsen, CIO'en eller General Counsel kan forklare, hvad der foregår, og hvorfor det kan stå til ansvar.
Dette governance-lag knytter sig til den risikostruktur, en organisation allerede har, ikke til en ny ramme ved siden af. Indholdet af de regler, som AI-anvendelser skal opfylde, ændrer sig og bliver holdt opdateret et andet sted; hvad der tæller her, er, at organisationen har en fungerende måde at vide, hvad der køres, hvem der er ansvarlig for det, og hvordan det kan dokumenteres over for bestyrelse eller tilsynsmyndighed.
Så snart det er klart, hvilken AI der faktisk bruges, og hvilken risiko det indebærer, opstår der naturligt et andet spørgsmål: hvilken del af arbejdet kunne en AI-anvendelse egentlig overtage, og hvilken del ikke. Det er et andet spørgsmål end godkendelse og tilsyn, men et, der logisk følger derpå. Arbejdsscanningen fra FTE TO AI beregner pr. opgave, hvilken del af arbejdet der kan overtages af AI, baseret på hvad en funktion faktisk indebærer. Hvor Responsible AI Scan skaber orden i det, der allerede køres, viser arbejdsscanningen, hvad der stadig er at vinde.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.