Spørgsmålet om hvilke anvendelser der falder uden for scope, lyder som et spørgsmål om en liste. Det er det ikke. Om noget falder inden for eller uden for scope, er en indplacering der afhænger af, hvad en anvendelse gør, i hvilken kontekst, og for hvem. Den samme teknologi kan i den ene anvendelse blive uden for synsfeltet og i den anden komme under fuld opmærksomhed. En fast liste over udelukkede anvendelser findes derfor ikke — men der findes en række faktorer, der bestemmer indplaceringen.
Den første faktor er anvendelsens funktion: hvad afgør eller rådgiver systemet, og for hvem har det konsekvenser. Et værktøj, der omskriver intern tekst, ligger anderledes end et værktøj, der medvirker til at afgøre en ansøgning, en jobsøgning eller et krav. Den anden faktor er det risikoniveau, der hænger sammen med den funktion: i takt med at konsekvenserne for mennesker bliver større, flytter en anvendelse sig hurtigere mod den tungere del af spektret. Den tredje faktor er organisationens egen rolle: den, der blot bruger et system, bliver vurderet anderledes end den, der tilpasser, videretræner eller sammensætter det af andres komponenter. Hvad denne rollefordeling præcis indebærer, og hvornår den ændrer sig, er beskrevet på siderne om forskellen mellem udbyder og bruger af et AI-system og om det tidspunkt hvor en brugerrolle overgår til et andet ansvar.
En fjerde faktor er teknisk af natur, men juridisk relevant: hvad en organisation selv ændrer ved en eksisterende model, ændrer nogle gange organisationens position i det samlede billede. En model, der købes ind uændret, falder anderledes ind i billedet end en model, der finjusteres på egne data eller indbygges i en egen proces. Den grænse — hvornår en tilpasning medfører en rolleændring — behandles på siden om hvad der ændrer sig, når en model selv tilpasses.
Fordi indplaceringen afhænger af disse faktorer, er scope ikke en fast egenskab ved et værktøj, men et resultat der kan ændre sig. En chatbot, der begyndte som intern skrivehjælp, kan, så snart den også besvarer kundespørgsmål der fører til en beslutning, ende i en anden del af spektret. En model, der blev købt som et færdigt produkt, kan efter tilpasning på egne data medføre en anden rolle for organisationen. En anvendelse, der i dag anses for low-impact, kan i morgen veje tungere fordi den kontekst, den anvendes i, er ændret — et andet team, en anden beslutning, en anden gruppe mennesker der berøres af resultatet.
Det er netop derfor en éngangsindplacering ikke er tilstrækkelig. En klassifikation, der er fastlagt på indførelsestidspunktet, siger intet om, hvad et værktøj gør et år senere. Hvad der i dag skal komme under scope, og hvad der kan planlægges til senere, er derfor selv et spørgsmål der afhænger af den aktuelle situation — uddybet på siden om rækkefølgen mellem hvad der kræver opmærksomhed nu, og hvad der kan følge senere.
Indplaceringen i og uden for scope bliver besværliggjort af et praktisk problem: den officielle liste over indkøbte eller godkendte værktøjer er ikke den samme liste som de værktøjer, der faktisk bruges. Teams tager AI-funktionalitet i brug uden at lade det gå gennem en ansøgningsproces — ikke af modvilje, men fordi det er let tilgængeligt og løser et problem. Denne skygge-AI er netop den del, der gør en indplacering i eller uden for scope umulig, så længe ingen ved, at anvendelsen findes.
Den, der vil have et fuldstændigt billede, må spørge ind til det — og det uden at spørgsmålet føles som en tilsløret bebrejdelse. Så snart en medarbejder har en fornemmelse af, at et ærligt svar fører til en sanktion, bliver svaret undladt, og værktøjet forbliver under radaren. En opgørelse der er bygget på afregning, giver derfor per definition et ufuldstændigt billede — og et ufuldstændigt billede gør enhver indplacering i scope foreløbig.
Fordi scope kan flytte sig, er det at fastlægge indplaceringen mindst lige så vigtigt som indplaceringen selv. Hvem besluttede, at en anvendelse faldt uden for scope, på baggrund af hvilken information, og på hvilket tidspunkt — den type spørgsmål bliver ubesvarlige, så snart dokumentationen mangler. Hvordan en organisation gør denne type beslutning indrettelig og efterviselig, står på siden om en beslutningsliste der gør oversightbeslutninger sporbare, og hvordan denne indplacering genkendeligt kommer til udtryk i det dokument, medarbejderne rent faktisk konsulterer, på siden om en AI-politik der stemmer med hvad folk reelt gør.
Indplaceringsspørgsmålet — hvad falder inden for scope og hvad ikke — handler om risiko og ansvar, ikke om hvad en anvendelse betyder for arbejdet selv. Det andet spørgsmål, hvad en opgave præcist kan overlade til AI, er et separat regnestykke. Arbejdsscanen fra FTE TO AI beregner for hver opgave, hvor stor en del af arbejdet der kan overtages, uafhængigt af spørgsmålet om, hvordan den anvendelse placeres i governance-indplaceringen.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.