Maloobchod je sektor, v ktorom sa AI zahniezďuje na dvoch úrovniach naraz. Na jednej strane sú veľké, viditeľné systémy: prognózy zásob, optimalizácia cien, odporúčacie systémy na webshope, chatboty v klientskom servise. Tie sú väčšinou známe IT oddeleniu a nákupu, pretože boli niekde obstarané a implementované. Na druhej strane je oveľa difúznejšia oblasť: jednotliví zamestnanci na predajnej ploche, v marketingu alebo v nákupe, ktorí používajú AI nástroj na písanie popisov produktov, odpovedanie na otázky klientov, generovanie kampaňových obrázkov alebo scrapovanie konkurenčných cien. Táto druhá vrstva je väčšinou väčšia ako prvá, jednoducho preto, že prah na vyskúšanie bezplatného alebo lacného nástroja je nízky a efekt je okamžite pocítiteľný: rýchlejšie napísaný reklamný text, rýchlejšia reakcia na sťažnosť.
K tomu sa pridáva skutočnosť, že maloobchod často pracuje s mnohými dočasnými a flexibilnými zamestnancami, rozptýlenými cez viacero pobočiek alebo kanálov. To sťažuje mať jeden centrálny prehľad o tom, kto aké nástroje používa a prečo. Ústredie môže mať jasnú politiku pre systémy, ktoré samo obstaralo, zatiaľ čo na úrovni pobočky alebo v rámci tímu webshopu vznikajú AI-aplikácie, ktoré nie sú nikde registrované. Poměr medzi tým, čo je centrálne schválené, a tým, čo vzniklo lokálne, je v tomto sektore obvykle nevyvážený: počet oficiálne obstaraných systémov je obmedzený, počet individuálnych aplikácií, ktoré si zamestnanci sami začali používať, je zvyčajne oveľa väčší.
Pojem shadow AI znie technicky, ale v maloobchode je to praktická vec: je to nástroj, ktorý marketingový zamestnanec používa na generovanie príspevkov na sociálne siete, chatbot, ktorý si tím klientskeho servisu sám nakonfiguroval, alebo AI model nasadený na analýzu recenzií bez toho, aby to IT alebo právne oddelenie kedy videlo. Toto sa zriedkavo deje z nedbalosti. Deje sa to preto, že nástroje sú dostupné, tlak na rýchlosť je vysoký, a nikto explicitne nepovedal, že to nie je dovolené.
Zoznam schválených softvérov od IT oddelenia preto poskytuje nekompletný obraz. Kto chce úplný obraz, musí sa spýtať samotných ľudí. To sa podarí len tak, že sa táto otázka položí bez následkov. Hneď ako zamestnanci nadobudnú podozrenie, že nahlásenie používania AI vedie k nápravnému opatreniu alebo zákazu, informácia znovu zmizne z dohľadu a používanie sa presunie na súkromné zariadenia alebo osobné účty. Inventarizácia, ktorá začína vylúčením postihu, prináša iný druh odpovede než audit, ktorý začína hľadaním porušení.
AI nástroj, ktorý prepisuje popisy produktov, má iný dosah než systém, ktorý automaticky upravuje ceny na základe dopytu a konkurencie, alebo nástroj, ktorý používa údaje o klientoch na tvorbu odporúčaní. V maloobchode je preto dôležitá klasifikácia podľa role a úrovne rizika: ide o podporný nástroj, o systém, ktorý pripravuje rozhodnutia, alebo o systém, ktorý samostatne prijíma rozhodnutia, ktoré priamo ovplyvňujú klientov, ako je dynamické stanovovanie cien alebo automatizované zamietnutie vrátenia tovaru? Toto rozdelenie určuje, aká úroveň dohľadu a dokumentácie je logická, a ktoré systémy si vyžadujú pozornosť vedenia alebo risk manažmentu a ktoré môžu byť vyriešené v rámci tímu.
Maloobchodné organizácie majú zvyčajne už zavedené rizikové štruktúry pre záležitosti ako bezpečnosť produktov, právne predpisy o ochrane osobných údajov klientov alebo finančnú kontrolu pri stanovovaní cien. AI-governance nemusí byť nový, samostatný proces mimo týchto štruktúr. Funguje lepšie, keď je inventarizácia používania AI naviazaná na existujúce rizikové kategórie, takže systém, ktorý spracúva údaje o klientoch, sa posudzuje rovnakým kanálom ako iné procesy citlivé na ochranu osobných údajov, a cenový algoritmus prechádza rovnakou linkou ako iné komerčne citlivé rozhodnutia. Aktuálna regulácia týkajúca sa AI systémov sa mení; presné povinnosti a lehoty sú popísané inde. Dôležitý je tu mechanizmus: vedieť, čo je v prevádzke, vedieť, kto to používa, a vedieť, aké rizikové to je, predtým než na to vznikne externý podnet.
Výzvy sa líšia podľa sektora, aj keď je základný mechanizmus podobný. Kto chce porovnať, ako sa to prejavuje v sektore s veľkým kontaktom s klientmi a flexibilnou pracovnou silou, nájde to v popise AI-governance v gastronómii, zatiaľ čo sektor so silnými reťazovými závislosťami a fyzickými procesmi je spracovaný v analýze AI-governance v agrárnom sektore. Pre organizácie, ktoré samy vyvíjajú alebo obstarávajú veľa softvéru, je relevantný prehľad AI-governance v IT sektore, a kto obchoduje so silne regulovanými údajmi klientov, môže urobiť porovnanie s AI-governance vo finančných službách.
Inventarizácia používania AI ukazuje, čo je v prevádzke a kto to používa, ale ešte neodpovedá na otázku, čo to znamená pre usporiadanie samotnej práce. V maloobchode, kde sú úlohy často rutinné a dobre ohraničené — od odpovedania na otázky klientov až po písanie textov o produktoch — je táto nasledujúca otázka reálna. Pracovný scan FTE TO AI vypočíta za každú úlohu, akú časť práce je možné previesť na AI, na základe úloh tak, ako sa skutočne vykonávajú. Kde Responsible AI Scan mapuje, čo sa deje a pod akú úroveň rizika to spadá, pracovný scan poskytuje perspektívu organizácie práce: ktoré úlohy sa hodia na prevzatie, a v akej miere.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.