Organisationer tror ofte, at deres rolle er fastlagt: vi er bruger, leverandøren er udbyder, punktum. Den antagelse holder ofte ikke, eller holder i dag men ikke længere i morgen. Den rolle, en organisation har i forhold til et AI-system, er ikke en fast egenskab ved organisationen. Det er et resultat af, hvad der sker med systemet: hvem der udvikler det, hvem der tilpasser det, hvem der bringer det på markedet, og under hvilket navn. Ændrer en af disse faktorer sig, kan rollen også ændre sig, og dermed de forpligtelser, der hører til.
Det gør klassificeringen til noget andet end et øjebliksbillede. En rolle, der ved anskaffelsen var korrekt fastlagt, kan et år senere være forkert, uden at der internt er truffet nogen bevidst beslutning.
Klassificeringen afhænger af et begrænset antal faktorer, men disse faktorer ligger ikke alle hos den part, der bruger systemet. Relevant er blandt andet, om et system er udviklet selv eller indkøbt, om det indkøbte system anvendes uændret eller tilpasses, og om tilpasningen påvirker systemets risikoprofil. Relevant er også, under hvilket navn et system udbydes udadtil: et system, der videresælges eller videreudvikles under eget mærke, kan medføre en anden rolle end at lade et eksternt produkt køre uændret. For den præcise grænse mellem disse to positioner er siden om hvad der ændrer sig, når en organisation selv tilpasser en indkøbt model relevant, og for det grundlæggende spørgsmål om hvilken af de to hovedroller der gælder, findes siden, der forklarer hvad valget mellem udbyder og bruger præcis afhænger af.
Klassificeringen er altså ikke noget, en organisation fastlægger én gang og derefter arkiverer. Det er en klassifikation, der skal vurderes på ny, så snart de underliggende forhold ændrer sig.
Hvis rollen ændrer sig, ændrer det også, hvad der forventes af en organisation. En part, der udelukkende er bruger, har andre forpligtelser end en part, der (med)ansvarlig for tilblivelsen af et system. Det handler ikke kun om papirarbejde. Det handler også om, hvor i organisationen ansvaret for et system bør ligge, hvem der rapporterer om det, og hvilket niveau af tilsyn der er passende.
Denne forskydning har betydning for spørgsmålet om, hvor tungt et system skal vægtes internt. En rolleændring kan betyde, at et system, der tidligere blev anset for håndterbart, skal vurderes på ny med hensyn til risikoniveau — et spørgsmål, der behandles separat på siden om hvad et højt risikoniveau betyder for den organisation, der bruger eller udbyder systemet. Omvendt kan en rolleændring også betyde, at et system netop falder uden for anvendelsesområdet for visse forpligtelser, eller lige akkurat kommer inden for det. Hvilke anvendelser der præcis falder uden for scope, og hvilke der lige akkurat ikke gør, er beskrevet på siden om hvilke typer AI-anvendelser der falder uden for forpligtelsernes rækkevidde.
De faktorer, der forårsager en rolleændring, udspiller sig som regel på et niveau, som bestyrelse, juridisk afdeling eller risikostyring ikke automatisk har indblik i. Et team, der finjusterer en indkøbt model på egne data. En afdeling, der viderefører et eksternt chatbot-produkt til kunder under eget produktnavn. En integration, der kombinerer en leverandørs model med egne regler og derefter udbyder denne kombination eksternt. Ingen af disse trin passerer automatisk et centralt register, og IT-listen over godkendte værktøjer registrerer som regel ikke denne type ændring, fordi ændringen ikke genkendes som "ny anskaffelse", men som en tilpasning af noget, der allerede var godkendt.
Det er årsagen til, at rolleændringer ofte først bliver synlige, når noget går galt, eller når der eksternt bliver bedt om redegørelse. Spørgsmålet "hvad er vores rolle i forhold til dette system" besvares da med tilbagevirkende kraft, på et tidspunkt hvor rummet til at tilpasse noget er mindre, end hvis spørgsmålet var blevet stillet tidligere.
Fordi klassificeringen kan forskyde sig, er sondringen mellem det, der kræver opmærksomhed lige nu, og det, der på sigt skal vurderes på ny, relevant for planlægningen af governance-arbejde. Ikke alt, hvad en rolleændring medfører, kræver øjeblikkelig handling; en del kan planlægges. Hvilken del det er, og hvilken del der ikke kan vente, behandles på siden om hvad der skal håndteres nu, og hvad der kan planlægges til et senere tidspunkt. For en kompakt opsummering af selve klassificeringsspørgsmålet, inklusive de vigtigste vendepunkter, findes siden, der går dybere ind i de præcise omstændigheder, hvorunder en rolle ændrer sig.
Spørgsmålet om, hvilken rolle en organisation har i forhold til et AI-system, ligger tæt på et andet spørgsmål, der sjældent får samme opmærksomhed: hvor stor en del af det faktiske arbejde i organisationen der allerede udføres af AI, planlægges udført af AI, eller allerede overtages, uden at nogen har registreret det. Hvor rollespørgsmålet handler om ansvar i forhold til et system, handler FTE TO AI's arbejdsscan om selve fordelingen af opgaver: for hver opgave beregnes det, hvor stor en del der kan overtages af AI, uafhængigt af hvilken rolle organisationen formelt indtager. Disse to spørgsmål berører hinanden, fordi en forskydning i opgavefordelingen ofte er anledningen til en forskydning i rolle.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.