Detaljhandeln är en sektor där AI etablerar sig på två nivåer samtidigt. På ena sidan finns de stora, synliga systemen: lagerprognoser, prisoptimering, rekommendationsmotorer på webbutiken, chattbotar i kundtjänsten. Dessa är oftast kända av IT och inköp, eftersom de har upphandlats och implementerats någonstans. På andra sidan finns ett mycket mer diffust landskap: enskilda medarbetare i butiken, i marknadsföring eller inköp som använder ett AI-verktyg för att skriva produktbeskrivningar, besvara kundfrågor, generera kampanjbilder eller skrapa konkurrenters priser. Detta andra lager är oftast större än det första, helt enkelt eftersom tröskeln för att prova ett gratis eller billigt verktyg är låg och effekten är direkt märkbar: snabbare en annonstext, snabbare ett svar på ett klagomål.
Därtill kommer att detaljhandeln ofta arbetar med många tillfälliga och flexibla medarbetare, spridda över flera butiker eller kanaler. Det gör det svårare att ha en central överblick över vem som använder vilka verktyg, och varför. Ett huvudkontor kan ha en tydlig policy för de system det själv har upphandlat, medan det på butiksnivå eller inom ett webbutiksteam uppstår AI-tillämpningar som inte är registrerade någonstans. Förhållandet mellan vad som är centralt godkänt och vad som har uppstått lokalt är i denna sektor vanligtvis skevt: antalet officiellt upphandlade system är begränsat, medan antalet enskilda tillämpningar som medarbetare själva har börjat använda vanligtvis är mycket större.
Termen skugg-AI låter teknisk, men inom detaljhandeln är den praktisk: det är verktyget som en marknadsföringsmedarbetare använder för att generera inlägg på sociala medier, chattboten som ett kundtjänstteam har konfigurerat själva, eller AI-modellen som används för att analysera recensioner utan att detta någonsin har granskats av IT eller juridiska avdelningen. Detta sker sällan på grund av oaktsamhet. Det sker eftersom verktygen är lättillgängliga, eftersom trycket på snabbhet är högt, och eftersom ingen explicit har sagt att det inte är tillåtet.
IT-listan över godkänd programvara ger därför en ofullständig bild. Den som vill ha en fullständig bild måste fråga människorna själva. Det fungerar bara om den frågan ställs utan konsekvenser. Så snart medarbetare misstänker att en anmälan av AI-användning leder till en rättelse eller ett förbud, försvinner informationen ur sikte igen och användningen förskjuts till privata enheter eller personliga konton. En inventering som börjar med att utesluta konsekvenser ger ett annat slags svar än en granskning som börjar med att söka efter överträdelser.
Ett AI-verktyg som skriver om produktbeskrivningar har en annan påverkan än ett system som automatiskt anpassar priser baserat på efterfrågan och konkurrens, eller ett verktyg som använder kunddata för att göra rekommendationer. Inom detaljhandeln är klassificeringen efter roll och risknivå därför av betydelse: handlar det om ett stödjande hjälpmedel, om ett system som förbereder beslut, eller om ett system som självständigt fattar beslut som direkt påverkar kunder, som dynamisk prissättning eller automatiserat avslag av returer? Denna indelning avgör vilken nivå av tillsyn och dokumentation som är lämplig, och vilka system som kräver uppmärksamhet från styrelse eller riskhantering och vilka som kan hanteras inom ett team.
Detaljhandelsorganisationer har vanligtvis redan riskstrukturer för sådant som produktsäkerhet, dataskyddslagstiftning kring kunddata, eller finansiell kontroll vid prissättning. AI-styrning behöver inte vara en ny, separat process vid sidan av dessa strukturer. Det fungerar bättre när inventeringen av AI-användning kopplas till befintliga riskkategorier, så att ett system som behandlar kunddata bedöms via samma kanal som andra dataskyddskänsliga processer, och en prisalgoritm följer samma väg som andra kommersiellt känsliga beslut. Den aktuella lagstiftningen kring AI-system förändras; de exakta skyldigheterna och tidsfristerna beskrivs på annan plats. Vad som räknas här är mekanismen: att veta vad som körs, veta vem som använder det, och veta hur riskabelt det är innan det finns en extern anledning att utreda det.
Utmaningarna skiljer sig åt mellan sektorer, även om den underliggande mekanismen är jämförbar. Den som vill jämföra hur detta utfaller i en sektor med mycket kundkontakt och flexibel arbetskraft finner det i beskrivningen av AI-styrning inom restaurangbranschen, medan en sektor med starka kedjeberoenden och fysiska processer behandlas i analysen av AI-styrning inom jordbrukssektorn. För organisationer som själva utvecklar eller upphandlar mycket programvara är översikten över AI-styrning inom IT-sektorn relevant, och den som handlar med starkt reglerad kunddata kan göra jämförelsen med AI-styrning inom finansiella tjänster.
En inventering av AI-användning visar vad som körs och vem som använder det, men ger ännu inget svar på frågan vad det betyder för utformningen av själva arbetet. Inom detaljhandeln, där uppgifter ofta är rutinmässiga och väl avgränsade — från att besvara kundfrågor till att skriva produkttexter — är denna följdfråga verklig. Arbetsanalysen från FTE TO AI beräknar per uppgift hur stor del av arbetet som kan övertas av AI, baserat på uppgifterna som de faktiskt utförs. Där Responsible AI Scan kartlägger vad som händer och under vilken risknivå det faller, erbjuder arbetsanalysen perspektivet av arbetets organisation: vilka uppgifter som lämpar sig för övertagande, och i vilken utsträckning.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.