Inden for mange organisationer findes en fast liste over anvendelser der angiveligt falder "uden for scope". Et tekstforslag i et tekstbehandlingsprogram, et spamfilter, en chatbot der kun svarer på baggrund af en fast FAQ. Antagelsen er, at disse anvendelser er for små, for gamle eller for uskadelige til at falde under governance. Den antagelse er nogle gange korrekt. Den er ikke altid korrekt, og den er sjældent varigt korrekt.
Om noget falder uden for scope, er ikke en egenskab ved teknologien. Det er en indplacering der følger af, hvad systemet gør, for hvem, og med hvilken effekt hvis det går galt. Det samme tekstforslag der i dag falder uden for scope, fordi det kun foreslår en medarbejder et ord, kan i morgen falde inden for scope, så snart det automatisk færdiggør og afsender e-mails uden mellemkomst.
Tre faktorer bestemmer sammen, om en anvendelse falder inden for eller uden for scope.
Den første er funktionen: træffer systemet en beslutning, eller leverer det kun information som et menneske bedømmer? Et værktøj der rangerer jobansøgere, ligger tættere på scope end et værktøj der blot gør cv'er søgbare. Hvor på det spektrum en given anvendelse præcist befinder sig, og hvorfor, kan De læse i analysen af hvad et højt risikoniveau betyder for Deres organisation.
Den anden er organisationens egen rolle. Den der køber et system og bruger det uændret, står anderledes end den der selv bygger, træner eller tilpasser det. Den samme anvendelse kan for den ene organisation falde uden for scope og for den anden ikke, rent baseret på hvem der bærer hvilket ansvar. Denne fordeling gennemgås i spørgsmålet om De er udbyder eller bruger, og den ændrer sig, så snart nogen i organisationen tilpasser eller gentræner en model, som beskrevet i hvad der ændrer sig, når De selv tilpasser en model.
Den tredje faktor er tid. Et system der nu falder uden for scope, kan et år senere ikke længere gøre det, ikke fordi reglerne har ændret sig, men fordi brugen har ændret sig. En chatbot der begyndte som en informationskilde, kan udvikle sig til et system der behandler klager. Rollen for et team eller en afdeling i forhold til et sådant system forskydes så med, og hvornår det sker, er beskrevet i hvornår Deres rolle ændrer sig, og hvad det afhænger af.
Konsekvensen af disse tre faktorer er, at "uden for scope" aldrig er en permanent status. Det er et øjebliksbillede der skal genvurderes, så snart et systems funktion ændrer sig, så snart organisationen får en anden rolle i forhold til det system, eller så snart brugen udvides til noget der ikke var forudset ved anskaffelsen.
Det er præcis her skygge-AI forstyrrer indplaceringen. En anvendelse der på IT-listen er noteret som "uden for scope", kan i praksis blive brugt på en måde der ikke længere passer med det. Et team der anvender en sprogmodel til at udkaste kundekommunikation, bruger den måske også til at afsende endelige svar uden at melde det. Klassifikationen på papiret og brugen i praksis afviger da fra hinanden, og ingen der kun kigger på de indkøbte licenser, ser den forskel.
Den eneste måde at få indblik i det er at spørge. Ikke et system, men de mennesker der bruger det. Det virker kun, hvis det at stille spørgsmål ikke er det samme som at blive holdt ansvarlig: den der er bange for konsekvenser, tilpasser sit svar eller giver intet svar. En indplacering der udelukkende bygger på indkøbte licenser, går derfor systematisk glip af de anvendelser der er opstået ud af praktisk brug, og det er ofte netop de anvendelser hvor ingen længere ved, om de stadig falder uden for scope, eller om de for længst er langt inden for scope.
Spørgsmålet "falder dette uden for scope" kan derfor ikke besvares løsrevet fra spørgsmålet om, hvad der præcist sker, hvem der beslutter om det, og hvor længe den situation har været sådan. En optælling der fastlægger disse tre faktorer for hver anvendelse, giver en indplacering der stemmer overens med den faktiske situation i stedet for med den antagelse et system engang blev anskaffet under. Hvad der allerede nu kræver opmærksomhed, og hvad der roligt kan planlægges, afhænger af de samme faktorer og behandles i sondringen mellem hvad der skal ske nu, og hvad der kan planlægges.
Så snart det er klart, hvilke anvendelser der falder inden for scope, og hvilken rolle Deres organisation spiller i den forbindelse, opstår et opfølgende spørgsmål der ikke handler om governance, men om arbejde: hvilken del af en opgave bliver egentlig overtaget af en sådan anvendelse, og hvilken del forbliver menneskeligt arbejde? Det spørgsmål besvarer governance-scanningen ikke. Til det er FTE TO AI's arbejdsscanning tiltænkt, som for hver opgave beregner, hvilken del af arbejdet der kan overtages af AI, og dermed giver et billede af den indsats der ligger bag klassifikationen.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.