En opgørelse over AI-brug resulterer som regel i en liste, der er for lang til at tackle på én gang. Det spørgsmål, der følger, er ikke "hvad skal vi gøre", men "hvad skal vi gøre først". Det er et indplaceringsspørgsmål, og svaret afhænger ikke af hvor mange systemer der er, men af hvad de systemer gør, og for hvem.
Den første faktor er risikoniveauet for anvendelsen selv. Et system, der forbereder beslutninger om mennesker — ansættelse, kreditgivning, tildeling af omsorg eller ydelser — kræver en anden behandling end et værktøj, der omskriver tekst til internt brug. Hvad et højt risikoniveau betyder for din organisation varierer altså fra anvendelse til anvendelse, og disse forskelle afgør, hvilke systemer der skal behandles først.
Den anden faktor er organisationens rolle i forhold til dette system. Den, der køber en model og bruger den uændret, står for andre forpligtelser end den, der lader en model træne på egne data eller løbende justerer resultatet. Om De er udbyder eller bruger af en AI-anvendelse afgør ikke kun, hvilke forpligtelser der gælder, men også hvor meget tid der er nødvendig for at opfylde disse forpligtelser — en udbyder har som regel mere at forberede end en bruger.
Den tredje faktor er, om systemet allerede er i brug, eller stadig er under anskaffelse. En risiko, der allerede kører — med reelle brugere, reelle beslutninger, reelle data — kræver en anden prioritering end en risiko, der stadig er i kontraktfasen, hvor aftaler stadig kan fastlægges, før systemet går i drift.
Denne indplacering er ikke et øjebliksbillede. Et system, der i dag har lav risiko, kan holde op med at være det efter en tilpasning. Hvad det betyder, når De selv tilpasser en model — finjustering, et nyt datasæt, en anden anvendelse af den samme underliggende teknologi — afhænger af, hvad der præcist ændres, men den indplacering, der tidligere er lavet, holder derfor ikke automatisk stand.
Det samme gælder for rolleforandring. En organisation, der anskaffer en færdig model og derefter ændrer den væsentligt, kan derved skifte fra bruger til udbyder. Hvornår den rolle ændrer sig er ikke altid tidspunktet for tilpasningen selv, men det tidspunkt, hvor tilpasningen ændrer systemets karakter. Også det er et indplaceringsspørgsmål, og også det kræver en fornyet vurdering, så snart situationen ændrer sig — ikke et engangscheck, der derefter forbliver gældende.
Og et system, der stadig er under anskaffelse, skifter fra planlægbart til akut i det øjeblik, det går i drift. Den indplacering, der gjaldt for kontraktfasen, gælder ikke for driftsfasen.
Den praktiske konsekvens er, at en opgørelse ikke én gang for alle giver en prioriteringsliste, men en struktur, der skal gennemgås gentagne gange. Systemer med et højt risikoniveau og en aktiv udbyderrolle kræver opmærksomhed nu. Systemer med et lavt risikoniveau, der endnu ikke er i brug, kan planlægges — men planlægningen skal indeholde et tidspunkt, hvor der ses på det igen, fordi tilpasninger, rolleforandring eller ibrugtagning kan vende indplaceringen om.
Det kræver et fast sted, hvor beslutninger om denne indplacering registreres: hvilket system der er markeret som akut, på baggrund af hvilken faktor, og hvornår denne vurdering senest er foretaget. En oversight-beslutningsliste er den form, hvori denne indplacering gøres dokumenterbar — ikke som ekstra administration, men som det eneste bevis på, at indplaceringen ikke er tilfældig, men resultatet af en gentagelig proces.
Den konkrete lovgivning — hvilke frister der gælder, hvilke forpligtelser der pr. risikoklasse hører til hvilken dato — findes andre steder. Denne side beskriver den mekanisme, hvormed De skelner akut fra planlægbart; den aktuelle lovtekst og fristerne finder De ikke her.
Indplaceringen i akut og planlægbart siger noget om prioriteringen af opmærksomhed, ikke om selve arbejdets indhold. Så snart det er klart, hvilken AI-anvendelse der får forrang, står spørgsmålet stadig åbent, hvad den anvendelse præcis gør med det arbejde, der hænger omkring den: hvilken del af en opgave, der forløber automatisk, hvilken del der kræver kontrol, og hvilken del der forbliver hos et menneske. Det spørgsmål besvarer arbejdsscanningen fra FTE TO AI, som pr. opgave beregner, hvilken del af arbejdet der kan overtages af AI — et supplement til den indplacering, der foretages her, med fokus på selve arbejdets indhold.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.