Et team vil arbejde hurtigere og sætter et AI-værktøj i gang, som regel for at teste noget konkret: et resumé, et første udkast, en klassificering. Der er ingen godkendelsesproces, fordi det "kun er et forsøg". Forsøget virker, eller virker godt nok, og forsvinder ind i den daglige proces uden at der nogensinde er blevet taget en beslutning om at holde fast i det. Der har ikke været et øjeblik, hvor nogen bevidst valgte: dette tager vi med i vores AI-inventar, dette har en ejer, dette falder ind under dette risikoniveau. Der var kun et øjeblik, hvor det begyndte, og det øjeblik skriver sig fast i en arbejdsmåde, som ingen siden har rørt ved.
At stoppe en forsøgsopsætning kræver en beslutning. At fortsætte kræver ingenting. Så længe ingen melder en hændelse eller en ekstern part beder om bevis for kontrol, er der ingen anledning til at komme tilbage til noget, som for længst er blevet almindeligt arbejde. De mennesker, der bruger værktøjet, har ingen interesse i at gøre opmærksom på det: det virker, det sparer tid, og at melde det føles som at løbe risikoen for, at det bliver taget fra dem. Sådan bliver en midlertidig løsning strukturel, ikke fordi ingen kender til den, men fordi ingen stiller det spørgsmål, der ville føre til, at den blev afsluttet.
Det er nærliggende at tro, at en oversigt over godkendt software gør dette synligt. Den oversigt viser, hvad der er anskaffet, ikke hvad der bruges. En forsøgsopsætning løber ofte uden om den kanal: en gratis konto, et browserplugin, et løst abonnement på et teamkort. Samme mønster gør sig gældende ved en browserudvidelse med adgang til Deres mail, ved en afdeling med sit eget abonnement uden om den centrale indkøbsproces, og ved virksomhedsdata, der bliver limet ind i et gratis chatvindue, uden at der ligger en kontrakt med databehandleraftaler bag. Ingen af disse situationer står på en IT-liste, for ingen af dem er nogensinde blevet anmeldt som et projekt.
Den eneste måde at finde ud af, hvad der reelt er i drift, er at spørge. Ikke som en efterfølgende kontrol, men som en åbning: hvad bruger De, til hvad, og siden hvornår. Den, der stiller det spørgsmål med sanktioner hængende i baggrunden, får intet svar eller et ufuldstændigt svar. Medarbejdere, der bruger et værktøj, som ingen har godkendt, har noget at miste ved ærlighed og intet at vinde. Det er præcis den spænding, der kommer op i medarbejdere, der bruger et værktøj, som ingen har godkendt: uden en invitation, det er sikkert at svare på, forbliver forsøgsopsætningen under jorden, den forsvinder ikke, den bliver bare mere stille.
Et inventar uden konsekvenser for den, der melder, er det første skridt, ikke konklusionen. Efter at have gjort det synligt følger klassificering: hvad er dette, hvilken rolle spiller det i en proces, og hvilket risikoniveau passer til det. Et resumeværktøj til interne notater kræver et andet regime end et værktøj, der medbestemmer om kundeaccept eller personalevurdering. Den klassificering bør tilpasses den risikostruktur, der allerede findes, ikke en ny ramme ved siden af. En anden, uformel proces, der ignoreres side om side med den eksisterende proces, er netop grunden til, at en anden proces ved siden af den eksisterende bliver ignoreret er et genkendeligt mønster: folk følger den vej, der giver mindst modstand, og den vej bliver først synlig, når nogen spørger til den.
Derefter kommer spørgsmålet om, hvem der stadig følger med. En forsøgsopsætning, der er blevet sluppet fri i det daglige arbejde, har som regel ikke længere en ejer, der vurderer resultaterne, før de bliver brugt. Det er her, hvad menneskeligt tilsyn betyder i praksis bliver relevant: ikke som et abstrakt princip, men som et konkret spørgsmål om, hvem der læser outputtet, før det rammer en kunde, en sag eller en beslutning.
En direktør, der bliver spurgt om dette — af en tilsynsmyndighed, en revisor, et bestyrelsesråd — har to muligheder: at sige, at oversigten er komplet, eller at sige, at processen findes for at gøre den komplet og holde den komplet. Den anden mulighed er mere ærlig og, på den lange bane, stærkere, fordi en organisation, der aktivt kortlægger, har noget dokumenterbart, også når inventaret endnu ikke er færdigt. Pointen er ikke, at der aldrig igen opstår en uautoriseret forsøgsopsætning. Pointen er, at der findes en mekanisme, der finder dem, før en hændelse gør det for Dem.
Når det først er synligt, hvilken AI der er opstået uden planlægning, opstår der ofte et andet spørgsmål: hvis dette team allerede gjorde dette, uden at nogen organiserede det, hvad ville der så ske, hvis vi rent faktisk organiserede det? Det er et andet spørgsmål end governance, og det hører hjemme i arbejdsscanningen fra FTE TO AI, som pr. opgave beregner, hvilken del af arbejdet der med rimelighed kan overtages af AI. Hvor denne side beskriver, hvordan De får styr på, hvad der allerede er i drift, beskriver den scanning, hvad der, med det samme nøgterne blik på opgaver og risici, stadig kan bygges op.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.