Kennisbank

Upravljanje umetne inteligence v trgovini na drobno: nadzor nad tem, kaj se resnično uporablja

Kaj to panogo dela drugačno

Trgovina na drobno je panoga, v kateri se umetna inteligenca naseljuje na dveh ravneh hkrati. Na eni strani so veliki, vidni sistemi: napovedi zalog, optimizacija cen, priporočilni sistemi na spletni trgovini, klepetalni roboti v službi za stranke. Ti so ponavadi znani IT-oddelku in nabavi, saj so bili nekje kupljeni in implementirani. Na drugi strani je precej bolj razpršena slika: posamezni sodelavci na trgovski površini, v marketingu ali nabavi, ki uporabljajo orodje umetne inteligence za pisanje opisov izdelkov, odgovarjanje na vprašanja strank, generiranje slik za kampanje ali za pridobivanje podatkov o konkurenčnih cenah. Ta druga plast je ponavadi obsežnejša od prve, preprosto zato, ker je prag za preizkus brezplačnega ali cenovno ugodnega orodja nizek in je učinek takoj opazen: hitreje napisano oglasno besedilo, hitrejši odziv na pritožbo.

Poleg tega trgovina na drobno pogosto dela z veliko začasnimi in prilagodljivimi sodelavci, razpršenimi po več poslovalnicah ali kanalih. To otežuje enoten, osrednji pregled nad tem, kdo uporablja katera orodja in zakaj. Uprava lahko ima jasno politiko za sisteme, ki jih je sama nabavila, medtem ko na ravni poslovalnice ali znotraj ekipe spletne trgovine nastajajo aplikacije umetne inteligence, ki nikjer niso registrirane. Razmerje med tem, kar je centralno odobreno, in tem, kar je nastalo lokalno, je v tej panogi običajno neuravnoteženo: število uradno nabavljenih sistemov je omejeno, število posameznih aplikacij, ki so jih sodelavci sami začeli uporabljati, pa je običajno precej večje.

Senčna umetna inteligenca na trgovski površini in na spletu

Izraz senčna umetna inteligenca zveni tehnično, v trgovini na drobno pa je zelo praktičen: gre za orodje, ki ga marketinški sodelavec uporablja za ustvarjanje objav na družbenih omrežjih, klepetalnega robota, ki ga je ekipa za stranke sama konfigurirala, ali model umetne inteligence, uporabljen za analizo ocen, ne da bi ga kdaj pogledal IT-oddelek ali pravna služba. To se redko zgodi zaradi malomarnosti. Zgodi se, ker so orodja dostopna, ker je pritisk glede hitrosti visok in ker nihče izrecno ni povedal, da to ni dovoljeno.

Seznam odobrene programske opreme IT-oddelka zato ponuja nepopolno slika. Kdor želi popolno slika, mora vprašati same ljudi. To je mogoče le, če se to vprašanje postavi brez posledic. Takoj ko sodelavci sumijo, da bo prijava uporabe umetne inteligence privedla do popravka ali prepovedi, informacija ponovno izgine izpred oči in uporaba se premakne na zasebne naprave ali osebne račune. Popis, ki se začne z izključitvijo obračunavanja odgovornosti, prinese drugačen odgovor kot revizija, ki se začne z iskanjem kršitev.

Vloga in stopnja tveganja: ni vsaka uporaba enaka

Orodje umetne inteligence, ki na novo napiše opise izdelkov, ima drugačen vpliv kot sistem, ki avtomatsko prilagaja cene glede na povpraševanje in konkurenco, ali orodje, ki uporablja podatke strank za pripravo priporočil. V trgovini na drobno je zato pomembna razvrstitev po vlogi in stopnji tveganja: gre za podporno orodje, za sistem, ki pripravlja odločitve, ali za sistem, ki samostojno sprejema odločitve, ki neposredno vplivajo na stranke, kot je dinamično oblikovanje cen ali avtomatizirana zavrnitev vračil? Ta razvrstitev določa, katera raven nadzora in dokumentacije je smiselna ter kateri sistemi zahtevajo pozornost uprave ali obvladovanja tveganj in kateri se lahko obravnavajo znotraj ekipe.

Navezava na obstoječe strukture

Organizacije v trgovini na drobno običajno že imajo strukture za obvladovanje tveganj pri zadevah, kot so varnost izdelkov, zakonodaja o zasebnosti glede podatkov strank ali finančni nadzor pri oblikovanju cen. Upravljanje umetne inteligence ne mora biti nov, ločen proces poleg teh struktur. Deluje bolje, kadar je popis uporabe umetne inteligence povezan z obstoječimi kategorijami tveganja, tako da se sistem, ki obdeluje podatke strank, presoja po istem kanalu kot drugi procesi, občutljivi za zasebnost, in da algoritem za oblikovanje cen poteka po isti liniji kot druge komercialno občutljive odločitve. Trenutna zakonodaja glede sistemov umetne inteligence se spreminja; natančne obveznosti in roki so opisani drugje. Kar je tukaj pomembno, je mehanizem: vedeti, kaj deluje, vedeti, kdo to uporablja, in vedeti, kako tvegano je to, še preden obstaja zunanji razlog, da bi to razjasnili.

Izzivi se razlikujejo glede na panogo, čeprav je osnovni mehanizem podoben. Kdor želi primerjati, kako se to izraža v panogi z veliko stikov s strankami in prilagodljivim delom, to najde v opisu upravljanja umetne inteligence v gostinstvu, medtem ko je panoga z močnimi verižnimi odvisnostmi in fizičnimi procesi obravnavana v analizi upravljanja umetne inteligence v kmetijskem sektorju. Za organizacije, ki same veliko razvijajo ali nabavljajo programsko opremo, je relevanten pregled upravljanja umetne inteligence v IT-sektorju, kdor pa poslovno deluje z močno regulirano podatki strank, lahko naredi primerjavo z upravljanjem umetne inteligence v finančnih storitvah.

Od popisa do dela

Popis uporabe umetne inteligence pokaže, kaj deluje in kdo to uporablja, vendar še ne odgovori na vprašanje, kaj to pomeni za organizacijo samega dela. V trgovini na drobno, kjer so naloge pogosto rutinske in dobro opredeljene — od odgovarjanja na vprašanja strank do pisanja besedil za izdelke — je to naslednje vprašanje resnično. Delovna analiza FTE TO AI izračuna za vsako nalogo, kolikšen delež dela je mogoče prevzeti z umetno inteligenco, na podlagi nalog, kot se dejansko izvajajo. Kjer Responsible AI Scan prikaže, kaj se dogaja in v katero stopnjo tveganja to spada, delovna analiza ponuja perspektivo organizacije dela: katere naloge so primerne za prevzem in v kolikšni meri.