Detailhandlen er en sektor, hvor AI etablerer sig på to niveauer samtidig. På den ene side står de store, synlige systemer: lagerprognoser, prisoptimering, anbefalingsmotorer på webshoppen, chatbots i kundeservice. Disse er som regel kendt af IT og indkøb, fordi de er anskaffet og implementeret et sted. På den anden side står et langt mere diffust landskab: individuelle medarbejdere på butiksgulvet, i marketing eller i indkøb, som bruger et AI-værktøj til at skrive produktbeskrivelser, besvare kundespørgsmål, generere kampagnebilleder eller scrape konkurrentpriser. Dette andet lag er som regel større end det første, simpelthen fordi tærsklen for at prøve et gratis eller billigt værktøj er lav, og effekten er umiddelbart mærkbar: en hurtigere annoncetekst, et hurtigere svar på en klage.
Hertil kommer, at detailhandlen ofte arbejder med mange tidsbegrænsede og fleksible medarbejdere, spredt over flere forretninger eller kanaler. Det gør det sværere at have et centralt overblik over, hvem der bruger hvilke værktøjer, og hvorfor. Et hovedkontor kan have en klar politik for de systemer, det selv har indkøbt, mens der på forretningsniveau eller inden for et webshop-team opstår AI-anvendelser, som ikke er registreret nogen steder. Forholdet mellem det, der er centralt godkendt, og det, der er opstået lokalt, er i denne sektor typisk skævt: antallet af officielt anskaffede systemer er begrænset, mens antallet af individuelle anvendelser, som medarbejdere selv er begyndt at bruge, som regel er langt større.
Begrebet skygge-AI lyder teknisk, men i detailhandlen er det ganske praktisk: det er værktøjet, en marketingmedarbejder bruger til at generere sociale medie-opslag, chatbotten, et kundeserviceteam selv har konfigureret, eller den AI-model, der anvendes til at analysere anmeldelser, uden at dette nogensinde er blevet gennemgået af IT eller den juridiske afdeling. Dette sker sjældent af uagtsomhed. Det sker, fordi værktøjerne er tilgængelige, fordi presset for hurtighed er højt, og fordi ingen har sagt klart, at det ikke er tilladt.
IT-afdelingens liste over godkendt software giver derfor et ufuldstændigt billede. Den, der vil have et komplet billede, må spørge medarbejderne selv. Det lykkes kun, hvis dette spørgsmål stilles uden konsekvenser. Så snart medarbejdere formoder, at det at melde AI-brug fører til en korrektion eller et forbud, forsvinder oplysningerne igen ud af syne, og brugen flytter til private enheder eller personlige konti. En kortlægning, der starter med at udelukke sanktioner, giver et andet slags svar end en audit, der starter med at lede efter overtrædelser.
Et AI-værktøj, der omskriver produktbeskrivelser, har en anden påvirkning end et system, der automatisk justerer priser baseret på efterspørgsel og konkurrence, eller et værktøj, der bruger kundedata til at give anbefalinger. I detailhandlen er klassificeringen efter rolle og risikoniveau derfor vigtig: er det tale om et støttende hjælpemiddel, om et system, der forbereder beslutninger, eller om et system, der selvstændigt træffer beslutninger, som direkte påvirker kunder, såsom dynamisk prissætning eller automatiseret afvisning af returneringer? Denne indeling afgør, hvilket niveau af tilsyn og dokumentation der er passende, og hvilke systemer der kræver opmærksomhed fra ledelsen eller risikostyringen, og hvilke der kan håndteres inden for et team.
Detailhandelsorganisationer har som regel allerede risikostrukturer for forhold som produktsikkerhed, privatlivslovgivning omkring kundedata eller finansiel kontrol ved prissætning. AI-governance behøver ikke være en ny, separat proces ud over disse strukturer. Det fungerer bedre, når kortlægningen af AI-brug kobles til eksisterende risikokategorier, så et system, der behandler kundedata, vurderes via samme kanal som andre privatlivssensitive processer, og en prisalgoritme følger samme linje som andre kommercielt sensitive beslutninger. Den aktuelle regulering omkring AI-systemer ændrer sig; de præcise forpligtelser og tidsfrister er beskrevet andetsteds. Hvad der tæller her, er mekanismen: at vide, hvad der kører, at vide, hvem der bruger det, og at vide, hvor risikofyldt det er, før der er en ekstern anledning til at undersøge det.
Udfordringerne varierer fra sektor til sektor, selv om den underliggende mekanisme er sammenlignelig. Den, der vil sammenligne, hvordan dette udspiller sig i en sektor med meget kundekontakt og fleksibel arbejdskraft, finder det i beskrivelsen af AI-governance i restaurationsbranchen, mens en sektor med stærke kædeafhængigheder og fysiske processer behandles i analysen af AI-governance i landbrugssektoren. For organisationer, der selv udvikler eller indkøber meget software, er overblikket over AI-governance i IT-sektoren relevant, og den, der handler med stærkt reguleret kundedata, kan sammenligne med AI-governance i den finansielle sektor.
En kortlægning af AI-brug viser, hvad der kører og hvem der bruger det, men giver endnu ikke svar på spørgsmålet om, hvad det betyder for indretningen af selve arbejdet. I detailhandlen, hvor opgaver ofte er rutinemæssige og velafgrænsede — fra at besvare kundespørgsmål til at skrive produkttekster — er dette opfølgende spørgsmål relevant. FTE TO AI's arbejdsscanning beregner for hver opgave, hvor stor en del af arbejdet der kan overtages af AI, baseret på opgaverne, som de faktisk udføres. Hvor Responsible AI Scan kortlægger, hvad der sker og under hvilket risikoniveau det falder, giver arbejdsscanningen perspektivet på organiseringen af arbejdet: hvilke opgaver der er egnede til overtagelse, og i hvilken grad.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.