En eskaleringsvej som ingen bruger, findes ikke

Der ligger ofte allerede et dokument med titlen eskaleringsprocedure. Der er et skema med pile, en række navne, og et par tærskelværdier. Problemet er ikke, at dokumentet mangler. Problemet er, at ingen åbner det i det øjeblik, hvor det er nødvendigt.

Det sker ikke af uvilje. Det sker, fordi der allerede findes en vej, hvorlangs problemer kommer til overfladen: linjelederen der melder IT-incidentet, compliance-officeren der taler med forretningen, teamlederen der lægger sit problem hos sin egen leder. Den vej findes, bruges dagligt, og fungerer — til det, den er tiltænkt. En ny eskaleringsvej specifikt for AI-incidenter er dermed en anden rute ved siden af en rute, der allerede kører. Ved tvivl vælger alle den rute, de kender.

Hvorfor det andet proces taber

En eskaleringsvej, der står løsrevet fra den eksisterende struktur, kræver af medarbejderen, at han først genkender, at noget er et AI-incident, dernæst husker, at der gælder et andet proces for det, og derefter gør sig den ulejlighed at følge det proces i stedet for blot at ringe til sin leder. Hvert led i den kæde er et øjeblik, hvor vejen bliver sluppet.

Dertil kommer en anden grund, mindre synlig men lige så afgørende: den, der melder en afvigelse, vil ikke straks stå på organisationens incidentformular. Hvis eskalering er lig med afregning, bliver der ikke eskaleret. Det gælder for en medarbejder, der brugte et AI-værktøj, som ikke var godkendt, og det gælder for en leder, der lod en model køre uden at nogen vidste det. En eskaleringsvej, der rent faktisk bliver brugt, er en vej, hvor den første melding ikke er en dom, men et signal.

Hvad dokumentet skal indeholde

En eskaleringsvej, der fungerer, beskriver tre ting, og ikke mere end det.

Den, der observerer noget — en medarbejder, en kunde, en ekstern part — skal vide, hvem han kan gå til, uden først at skulle finde ud af, om det er et AI-spørgsmål eller et almindeligt operationelt spørgsmål. Vejen skal tilsluttes det meldepunkt, der allerede findes, med en ekstra forgrening i det øjeblik, det viser sig, at AI er involveret.

Den, der tager beslutningen — om noget stoppes, justeres, eller meldes til en tilsynsmyndighed — skal være fastlagt, før incidentet indtræffer. Ikke som en abstrakt titel, men som et navn, med en stedfortræder. Eskalering, der løber fast ved et tomt mandat, er ingen eskalering.

Hvad der sker med melderen bagefter, skal være klart. Hvis et andet proces kun består af en meldepligt uden klarhed om konsekvenserne for den, der melder, bliver det undgået. Det er præcis dér, skygge-AI gemmer sig: ikke i de systemer, IT kender, men i de værktøjer, nogen er begyndt at bruge uden at melde det, fordi det at melde føltes som at tilstå.

Tilslutning i stedet for tilføjelse

Løsningen er ikke et tykkere dokument. Det er en eskaleringsvej, der gør brug af den struktur, der allerede findes — meldepunktet, eskaleringslinjen, risikoudvalget — og tilføjer en AI-specifik forgrening dér, hvor det gør en forskel. Hvordan den tilslutning helt konkret fungerer, også for den bredere politik og beslutningslisten for tilsynsorganet, er beskrevet i hvordan man får en AI-politik der bliver læst, fordi den er indlejret i det, der allerede findes og i hvordan man får en oversight-beslutningsliste, der passer til det eksisterende beslutningsrytme. Begge dokumenter rammer samme pointe: et proces, der står ved siden af organisationen, bliver ignoreret; et proces, der ligger indeni den, bliver fulgt.

Dette udgangspunkt gælder ikke kun for eskalering. Det gælder for hele governance-strukturen omkring AI. Den, der vil vide, hvordan det ser ud i bredere forstand — hvordan risikoklassifikation tilsluttes eksisterende risikokategorier, hvordan tilslutning til den eksisterende risikostruktur forhindrer, at der opstår et parallelt bureaukrati — finder dér det underliggende princip. Det samme gælder for rapportering opad: en bestyrelsesrapportering på én side fungerer kun, hvis de eskaleringer, der står i den, også rent faktisk er blevet meldt. Og uden løbende observation af, hvad der ændrer sig, forældes enhver eskaleringsvej inden for et år; hvad det betyder i praksis, er forklaret på monitorering der giver noget.

Inventaret som udgangspunkt

En eskaleringsvej kan først skrives, når det er kendt, hvad der kan eskalere. Så længe ingen ved, hvilken AI der kører i organisationen — inklusive hvad der ikke blev godkendt — forbliver dokumentet teoretisk. Responsible AI Scan begynder derfor ikke ved eskaleringsvejen, men ved inventaret: hvad kører der, hvem bruger det, og hvilket risikoniveau passer til det. Først på grundlag af det kan en eskaleringsvej skrives, der passer til det, der allerede findes, i stedet for til det, der ifølge papiret burde findes.

Fra eskalering til overtagelse