re-ai-gov På ventelisten

Kennisbank

Afdelingen der selv tegnede et AI-abonnement

Hvordan dette opstår

En teamleder søger en løsning på et tilbagevendende problem: for meget tekst, for lidt tid, en deadline der ikke flytter sig. Et sted finder han et værktøj, der gør arbejdet hurtigere. Værktøjet koster ikke meget, kan betales med et kreditkort eller en privat konto, og kræver ingen godkendelse fra IT. Inden for en dag kører afdelingen med det. Ingen har gjort noget forkert — der var et problem, der var en løsning, og vejen mellem dem løb uden om ethvert formular.

Dette er ingen undtagelse. Det er det gængse mønster, så snart et AI-værktøj er billigere og mere tilgængeligt end proceduren for at anmode om det. Jo tungere ansøgningsvejen er, desto større er chancen for, at nogen springer den over. IT's liste over godkendte applikationer beskriver da ikke, hvad der sker, men hvad der engang er blevet ansøgt om.

Hvorfor det ikke forsvinder af sig selv

Et abonnement der virker, bliver ikke opsagt. Den afdeling der bruger værktøjet, ser det problem der er løst, ikke det governance-hul der er opstået. Uden anledning kommer ingen af sig selv og melder, at der arbejdes uden for IT's eller risks synsfelt med et værktøj, der behandler tekst, kundedata eller interne dokumenter.

Mønstret er sammenligneligt med en browserudvidelse med adgang til Deres mail: nogen installerer noget lille, det virker, og spørgsmålet om, hvem der ellers læser med, bliver aldrig stillet, fordi der aldrig kommer et øjeblik, hvor det spørgsmål melder sig. Sådan opstår en samling af anvendelser, der hver for sig er små og nyttige, og som tilsammen udgør en blind vinkel, der er større end den, nogen individuelt er ansvarlig for.

Hvorfor en heksejagt ikke virker

Den første refleks er ofte: opspore, udpege, få det stoppet. Det virker mod hensigten. Den, der ved at et eget abonnement fører til en påtale, melder det ikke — han bruger fremover værktøjet mere stille, måske via en anden konto, måske uden for kontortiden. Inventaret bliver derved ikke mere fuldstændigt, men mindre fuldstændigt, og problemet flytter sig til et sted, der er endnu sværere at se.

En kortlægning der virker, begynder ikke med spørgsmålet "hvem gjorde dette" men med "hvad kører her". Uden afregning får De svar på spørgsmålet om, hvilke værktøjer der bruges, til hvilket arbejde, og med hvilke data. Med afregning får De kun stilhed, og en afdeling der gemmer det næste værktøj endnu bedre.

Hvad der så kan gøres

Det første skridt er ikke at korrigere, men at synliggøre. Det betyder at stille spørgsmål til de mennesker der udfører arbejdet, ikke kun til de systemer IT administrerer. Hvordan De opbygger en AI-inventaropgørelse beskriver, hvordan denne spørgerunde kan se ud: hvad bruges, til hvilken opgave, med hvilket input.

Så snart en anvendelse er i billedet, er det næste spørgsmål ikke om den må fortsætte med at eksistere, men hvilken rolle den spiller, og hvilket risikoniveau der passer dertil. Et værktøj der opsummerer interne notater, kræver noget andet end et værktøj der arbejder med kundedata. Denne klassifikation bestemmer, hvad der skal registreres pr. anvendelse — ikke som en papirøvelse, men som grundlag for senere at kunne påvise, hvad der foregik og hvorfor det var forsvarligt.

Risikoen ved et løst abonnement står ikke alene. Samme mønster af noget der kommer ind uden ansøgning ses ved en forsøgsopstilling der aldrig er blevet slukket og ved en leverandør der byggede AI ind i sit produkt uden at der er talt særskilt om det. Den, der kortlægger én afdeling med et eget abonnement, gør ret i at stille samme spørgsmål bredere — ikke som jagt på overtrædere, men som optagelse af hvad der virkelig sker.

Gøre det strukturelt

En enkeltstående kortlægning fastlægger, hvad der kører nu. Uden gentagelse er det et fotografi, der forældes fra den dag, det er taget. Nye afdelinger opdager nye værktøjer, eksisterende abonnementer får nye funktioner, og den næste blinde vinkel opstår på samme måde som den forrige. Hvordan De genkender dette mønster, før det gentager sig, er beskrevet ved medarbejdere der bruger et værktøj som ingen har godkendt — som opfølgning på kortlægningen, ikke som erstatning for den.

Fra inventar til indsigt i arbejdet

Et abonnement som en afdeling selv har tegnet, fortæller Dem for det meste noget om arbejdet selv: der var en opgave der tog for meget tid, og nogen søgte en udvej. Denne udvej er nu i billedet, men det underliggende spørgsmål består stadig — hvilken del af dette arbejde der strukturelt kan overdrages til AI, og under hvilke betingelser. Arbejdsscanen fra FTE TO AI beregner pr. opgave, hvilken del af arbejdet der kan overtages af AI, uafhængigt af hvilket værktøj en afdeling på eget initiativ allerede havde fundet til det.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.