En model, som De indkøber og bruger uændret, er en anden situation end en model, som De finetuner, gentræner på egne data, eller sammenføjer med andre systemer. Spørgsmålet, der hører til dette, er ikke om det er tilladt, men hvad det ændrer i Deres rolle. Denne side beskriver, hvad denne indplacering afhænger af. Det aktuelle regelindhold findes andetsteds; her handler det om den mekanisme, der afgør, hvornår noget ændrer sig, og hvad De internt gør med det.
Om tilpasning af en model ændrer Deres rolle, afhænger af en række faktorer, som De skal fastlægge for hver situation, ikke af en fast grænse, der er ens for enhver model.
Disse faktorer virker sammen. Ingen af disse punkter er i sig selv afgørende; det er kombinationen, der bestemmer, om tilpasningen ændrer Deres position.
Hvis tilpasningen er tilstrækkeligt omfattende, ændrer sig som regel ikke kun modellens klassifikation, men også hvad der forventes af organisationen: anden dokumentation, andet internt ansvar, muligvis en anden part, der kan holdes ansvarlig for helheden. Denne mekanisme, og sondringen mellem en part, der kun bruger en model, og en part, der medudformer modellen, er uddybet på siden, der beskriver sondringen mellem udbyder og bruger. Hvornår en tilpasning præcist er tilstrækkeligt omfattende til at få denne rolle til at skifte, er et spørgsmål, der skal besvares for hvert system separat; den generelle mekanisme bag dette findes på siden om det tidspunkt, hvor Deres rolle ændrer sig.
Konsekvenserne af dette skifte afhænger igen af det risikoniveau, den tilpassede model får. En tilpasset model, der falder i en højrisikokategori, medfører andre forpligtelser end en tilpasset model, der forbliver uden for den. Hvad et højt risikoniveau i praksis betyder for interne processer og tilsyn, er beskrevet på siden om konsekvenserne af et højt risikoniveau for Deres organisation. Omvendt er det også muligt, at en tilpasning netop holder et system uden for den tungeste kategori, eller at anvendelsesområdet slet ikke falder under reguleringen; hvilke anvendelser der falder uden for scope, og hvorfor, findes på siden om anvendelser, der falder uden for scope.
Tilpasninger af modeller sker ofte tæt på arbejdet: et team, der finetuner en ekstern model på egne dokumenter, en udvikler, der kobler to systemer sammen, en afdeling, der forsyner en chatbot med interne videnbaser. Det er præcis de tilpasninger, der ikke går via et centralt indkøbsforløb og derfor ikke automatisk står på en IT-liste. Den, der vil vide om, og hvor, dette sker inden for organisationen, må spørge — og det virker kun, hvis spørgsmålet ikke er koblet til en afregning. Et team, der har tilpasset en model uden at bede om tilladelse til det, melder ikke dette, hvis svaret resulterer i en sanktion.
Fordi indplaceringen af tilpasninger ikke ligger fast, men fastlægges for hver situation, er det ikke nok at afgøre en gang for alle, hvilken rolle en model har. Tilpasninger, der finder sted efter den første vurdering, skal igen gennemgå de samme spørgsmål. En politik, der understøtter dette, skal i almindeligt sprog beskrive, hvornår en tilpasning skal meldes, og til hvem; hvordan en sådan politik forbliver læsbar i stedet for en tekst, som ingen konsulterer, findes på siden om en AI-politik, der faktisk bliver læst. Desuden er det vigtigt, at beslutninger om tilpasninger — hvem der gav accept, på baggrund af hvilken afvejning, med hvilket risikoniveau som resultat — bliver registreret et sted, hvor de kan genfindes. Hvordan en sådan registrering ser ud i praksis, findes på siden om en oversight-beslutningsliste.
Indplaceringen af en tilpasset model afgør, hvilke forpligtelser der gælder, men siger ikke noget om, hvad modellen i praksis gør med selve arbejdet. For dette spørgsmål — hvilken del af en opgave der overtages af AI, hvilken del der forbliver hos en medarbejder, og hvad en tilpasning forskyder i dette — er der brug for et andet blik end en risikovurdering. Arbejdsscanen fra FTE TO AI beregner for hver opgave, hvilken del af arbejdet der kan overtages af AI, uafhængigt af spørgsmålet om hvilke governanceregler der gælder for modellen.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.