Forretningsmæssig service sælger ikke et produkt, men en vurdering: et råd, en analyse, en second opinion. Det gør omgangen med AI anderledes end i sektorer, hvor AI primært accelererer processer. Her rører AI direkte ved selve kernen af faget — tankearbejdet selv, og fortroligheden af det, en klient har delt for at gøre dette tankearbejde muligt. En advokat, der fodrer en sprogmodel med dokumenter fra en sag, en konsulent, der lader en chatbot tjekke en udkastsanalyse, en revisor, der lader et eksternt system opsummere tal: hver gang forflyttes information, der egentlig skulle være forblevet inden for kontorets mure og fortrolighedsforholdet til klienten.
Forholdet mellem, hvad organisationer her officielt har indkøbt, og hvad medarbejderne faktisk bruger, er som regel ikke i balance. Hvor AI i sektorer med mange operationelle processer ofte udrulles via en IT-afdeling, er presset i konsulent- og advokatkontorer primært individuelt: en person med en deadline og et AI-værktøj, der arbejder hurtigere end kollegaen ved siden af. Det gør skygge-AI her ikke til en undtagelse, men til en sandsynlig norm — netop i en sektor, hvor tid faktureres og hastighed belønnes.
Et overblik over softwarelicenser viser, hvad der er indkøbt, ikke hvad der bliver brugt. I den forretningsmæssige service arbejder en stor del af personalet desuden med egne enheder, egne browserudvidelser og egne abonnementer på AI-tjenester, som ikke kræver noget for at afprøve. En partner eller senior rådgiver, der bruger en sprogmodel til at afprøve et udkastsmemo, optræder i intet IT-dashboard. Alligevel er netop dette brug det brug med den højeste risiko: det rører ved klientfortrolighed, ved tavshedspligt, ved spørgsmålet om, hvem der er ansvarlig for hvad, når et råd delvist er formet af en algoritme.
Den eneste måde at vide, hvad der virkelig sker, er at spørge — og det spørgsmål giver kun mening, hvis der ikke er noget på spil for den, der svarer. En medarbejder, der har en anelse om, at det at erkende AI-brug fører til en samtale om dårlig performance, svarer benægtende eller slet ikke. En kortlægning, der udgår fra tillid i stedet for kontrol, giver et andet billede: ikke komplet, men mere ærligt end en liste, der kun sammenlægger det, der er godkendt.
AI-brug i denne sektor falder ikke i én kategori. Et værktøj, der tjekker fakta i et juridisk dokument, bærer en anden risiko end et værktøj, der opsummerer et internt procesdokument. Et system, der bidrager til et skatteråd, der går til en klient, kræver en anden form for tilsyn end et værktøj, der ordner mødenotater. Governance, der virker, begynder med at skelne mellem disse roller og risikoniveauer, og kobler et passende niveau af tilsyn dertil — ikke baseret på, hvad systemet kaldes, men på, hvad systemet gør, og for hvem resultatet i sidste ende er bestemt.
Kontorer i denne sektor har ofte allerede strukturer for risikohåndtering: sagsgennemgang, four-eyes-principper, compliance-tjek, kvalitetskontrol. En governance-tilgang til AI, der står løsrevet fra dette, bliver et ekstra lag, som ingen tager med. Det er mere formålstjenligt med en tilgang, der tilslutter sig den eksisterende risikostruktur: samme ejere, samme rapporteringslinjer, samme rytme af kontrol, med AI-brug som en del af det, der allerede bliver gennemgået, i stedet for et separat forløb.
En direktør eller General Counsel, der bliver spurgt, hvordan AI-brug er sikret inden for kontoret, har ikke meget gavn af et indtryk. Dokumenterbarhed kræver en registreret oversigt: hvilke værktøjer, hvilken rolle, hvilket risikoniveau, hvilke aftaler om, hvad der må og ikke må gøres med dem. Det er ikke primært ansvarlighed udadtil — det er først og fremmest for ledelsen selv et redskab til at vide, hvad man styrer efter, før en tilsynsmyndighed, klient eller egen risikokomité stiller spørgsmålet.
Måden, skygge-AI opstår på, og måden, governance kan tilsluttes dertil, varierer fra sektor til sektor. Den, der vil sammenligne, hvordan dette spørgsmål udspiller sig, hvor mange systemer og kundekontakt mødes, finder det i AI-governance i den finansielle servicesektor; den, der vil se, hvordan det udspiller sig i en sektor, der selv bygger og bruger AI-produkter, kan læse det i AI-governance i IT-sektoren; og for et billede af, hvordan det fungerer hos organisationer med mange operationelle medarbejdere og lidt central IT-styring, findes AI-governance i detailhandlen.
En kortlægning af AI-brug viser, hvad der kører, og hvem der bruger det, men besvarer ikke det spørgsmål, der kommer bagefter: hvilken del af arbejdet selv, der egentlig kan overdrages til AI, og hvilken del der ikke kan. Det er en anden beregning, per opgave i stedet for per værktøj. Arbejdsscanningen fra FTE TO AI foretager denne beregning: for hver opgave bestemmes, hvilken del af arbejdet der kvalificerer til at blive overtaget af AI, som et opfølgende skridt til det overblik, Responsible AI Scan giver.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.