At indkøbe et AI-system og bruge det, som det leveres, er en anden situation end at tilpasse en model til egne data eller eget formål. Den tilpasning kan ændre jeres organisations indplacering — og dermed de spørgsmål, De skal kunne besvare. Om det sker, og hvor tungt det vejer, afhænger af, hvad der præcis tilpasses og til hvad systemet anvendes.
Indplaceringen afhænger ikke af, om De har skrevet kildekoden. Den afhænger af, hvad der faktisk sker med en model, efter den kommer ind hos jer. Nogle faktorer, der spiller ind:
Disse faktorer spiller sammen. Der findes ingen fast tærskel, der gælder i alle tilfælde; den aktuelle regulering med de præcise kriterier findes andetsteds, og den tekst kan ændre sig. Hvad der forbliver på denne side, er mekanismen: tilpasning kan skifte rolle, og rolle bestemmer forpligtelse.
Den rolle, jeres organisation indtager i forbindelse med et AI-system, er ikke fast. Den, der kun bruger en model som leveret, har som regel en anden position end den, der ændrer modellen og derefter selv bringer den på markedet eller anvender den internt i stor skala. Spørgsmålet om, hvornår den overgang sker, og hvad der på det tidspunkt ændrer sig i, hvad De skal kunne påvise, behandles på hvornår jeres rolle ændrer sig og hvor den grænse ligger. For organisationer, der er i tvivl om, hvorvidt de er udbyder eller bruger — et spørgsmål, der forekommer oftere end antaget, så snart der tilpasses internt — findes der en separat forklaring på forskellen mellem udbyder og bruger af et AI-system.
Grunden til, at dette har betydning, er ikke formel. En rolleændring ændrer, hvad De skal kunne vise: hvilken dokumentation De fører, hvem inden for organisationen der er ansvarlig for tilsynet, og hvilke skridt der er taget, før det tilpassede system blev taget i brug. En model, De selv har tilpasset, er en model, hvor De selv kan blive bedt om at redegøre for, hvordan den tilpasning kom til.
Tilpasning kan også påvirke en anvendelses risikoniveau. En model, der oprindeligt var tiltænkt en let anvendelse, kan gennem tilpasning ende i en tungere kategori — for eksempel når den efter tilpasning anvendes til beslutninger om mennesker. Hvad et højt risikoniveau konkret betyder for kravene til jeres organisation, står på hvad et højt risikoniveau betyder for kravene til jeres organisation. Også her gælder: indplaceringen følger af anvendelsen, ikke af den intention, hvormed modellen engang blev bygget.
Dette rører direkte ved kernen af skygge-AI. En tilpasning, der ikke går gennem IT — et team, der selv finjusterer en model på et eget datasæt, eller en afdeling, der kobler en ekstern model til interne systemer uden at det er blevet rapporteret — ændrer jeres organisations indplacering, uden at ledelsen er bekendt med det. IT-listen viser ikke den tilpasning. Den, der vil vide, om dette sker, skal spørge de teams, der arbejder med det dagligt, og den samtale giver kun resultat, hvis den føres uden konsekvenser.
Når en tilpasning ændrer en anvendelses rolle eller risikoniveau, ændrer flere ting sig samtidig: den dokumentation, der skal føres, spørgsmålet om, hvem inden for organisationen der er ejer af den anvendelse, og tidspunktet for, hvad der stadig kan planlægges, versus hvad der allerede kræver opmærksomhed. Den forskel — mellem hvad der allerede nu er presserende, og hvad der kan planlægges — hænger sammen med de faktorer, der forklares på hvad der allerede nu kræver opmærksomhed og hvad der stadig kan planlægges. En mere udførlig gennemgang af selve indplaceringsspørgsmålet, inklusive de grænsetilfælde, der forekommer oftest i praksis, findes på den fulde forklaring af, hvad der ændrer sig ved tilpasning af en model.
En tilpasset model er i praksis også ofte en model, der overtager en del af arbejdet fra mennesker, der tidligere udførte en opgave fuldt selv. Om det er tilfældet, og hvor stor en del af arbejdet det gælder, er et spørgsmål, der står separat fra indplaceringsspørgsmålet, men som ofte følger efter det: så snart det er klart, at en model er tilpasset, og til hvad den anvendes, bliver det også synligt, hvilken del af en opgave den faktisk udfører. Arbejdsscanen fra FTE TO AI beregner dette per opgave og viser, hvilken del af arbejdet AI kan overtage, uafhængigt af spørgsmålet om, hvordan den underliggende model kom til.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.