Maloobchod je sektor, ve kterém se AI zabydluje na dvou úrovních současně. Na jedné straně stojí velké, viditelné systémy: prognózy zásob, optimalizace cen, doporučovací nástroje v e-shopu, chatboti v zákaznickém servisu. Ty jsou obvykle známy IT a nákupu, protože byly někde pořízeny a implementovány. Na druhé straně stojí mnohem méně přehledná krajina: jednotliví zaměstnanci na prodejně, v marketingu nebo v nákupu, kteří používají AI nástroj k psaní popisů produktů, zodpovídání dotazů klientů, generování obrázků pro kampaně nebo scrapování cen konkurence. Tato druhá vrstva je zpravidla větší než první, prostě proto, že práh pro vyzkoušení bezplatného nebo levného nástroje je nízký a efekt je okamžitě pociťovaný: rychleji hotový reklamní text, rychlejší reakce na stížnost.
K tomu se přidává skutečnost, že maloobchod často pracuje s mnoha dočasnými a flexibilními zaměstnanci, rozprostřenými přes více poboček nebo kanálů. To ztěžuje udržení jednoho centrálního přehledu o tom, kdo jaké nástroje používá a proč. Ústředí může mít jasnou politiku pro systémy, které samo pořídilo, zatímco na úrovni poboček nebo v rámci týmu e-shopu vznikají AI aplikace, které nejsou nikde registrovány. Poměr mezi tím, co je centrálně schváleno, a tím, co vzniklo lokálně, je v tomto sektoru obvykle nevyvážený: počet formálně pořízených systémů je omezený, počet individuálních aplikací, které si zaměstnanci sami začali používat, je zpravidla mnohem vyšší.
Termín stínová AI zní technicky, ale v maloobchodě je velmi praktický: je to nástroj, který marketingový pracovník používá k generování příspěvků na sociální sítě, chatbot, který si sám nakonfiguroval tým zákaznického servisu, nebo AI model nasazený k analýze recenzí, aniž by to kdy prošlo IT nebo právním oddělením. K tomu zřídka dochází z nedbalosti. Děje se to proto, že nástroje jsou dostupné, tlak na rychlost je vysoký a nikdo explicitně neřekl, že to není dovoleno.
Seznam IT oddělení se schváleným softwarem proto podává neúplný obraz. Kdo chce úplný obraz, musí se zeptat samotných lidí. To se povede pouze tehdy, pokud je tato otázka položena bez následků. Jakmile zaměstnanci nabudou dojmu, že nahlášení používání AI vede k nápravnému opatření nebo zákazu, informace opět zmizí z dohledu a používání se přesune na soukromá zařízení nebo osobní účty. Inventarizace, která začíná vyloučením vyvozování důsledků, přinese jiný typ odpovědi než audit, který začíná hledáním porušení.
AI nástroj, který přepisuje popisy produktů, má jiný dopad než systém, který automaticky upravuje ceny na základě poptávky a konkurence, nebo nástroj, který využívá data klientů k tvorbě doporučení. V maloobchodě je proto klasifikace podle role a úrovně rizika důležitá: jde o podpůrný nástroj, o systém, který připravuje rozhodnutí, nebo o systém, který samostatně přijímá rozhodnutí přímo dotýkající se klientů, jako je dynamická tvorba cen nebo automatizované zamítnutí vrácení zboží? Toto rozdělení určuje, jaká úroveň dohledu a dokumentace je logická a které systémy vyžadují pozornost vedení nebo řízení rizik a které lze vyřešit v rámci týmu.
Maloobchodní organizace mají zpravidla již zavedené rizikové struktury pro záležitosti jako bezpečnost produktů, legislativu o ochraně osobních údajů klientů nebo finanční kontrolu při tvorbě cen. AI governance nemusí být nový, oddělený proces vedle těchto struktur. Funguje lépe, když je inventarizace používání AI spojena s existujícími kategoriemi rizik, takže systém, který zpracovává data klientů, je posuzován stejným kanálem jako jiné procesy citlivé na ochranu osobních údajů, a cenový algoritmus jde stejnou linií jako jiná komerčně citlivá rozhodnutí. Aktuální regulace týkající se AI systémů se mění; přesné povinnosti a lhůty jsou popsány jinde. Co se zde počítá, je mechanismus: vědět, co běží, vědět, kdo to používá, a vědět, jak rizikové to je, ještě předtím, než existuje externí podnět to zjišťovat.
Výzvy se liší podle sektoru, i když je základní mechanismus podobný. Kdo chce porovnat, jak to funguje v sektoru s velkým kontaktem se zákazníky a flexibilní prací, nalezne to v popisu AI governance v gastronomii a hotelnictví, zatímco sektor se silnými závislostmi na dodavatelském řetězci a fyzickými procesy je zpracován v analýze AI governance v zemědělském sektoru. Pro organizace, které samy vyvíjejí nebo pořizují mnoho softwaru, je relevantní přehled AI governance v IT sektoru, a kdo obchoduje se silně regulovanými daty klientů, může provést srovnání s AI governance ve finančních službách.
Inventarizace používání AI ukazuje, co běží a kdo to používá, ale ještě neodpovídá na otázku, co to znamená pro uspořádání samotné práce. V maloobchodě, kde jsou úkoly často rutinní a dobře vymezené — od zodpovídání dotazů klientů po psaní produktových textů — je tato navazující otázka reálná. Pracovní skenování FTE TO AI vypočítává pro každý úkol, jakou část práce lze převést na AI, na základě úkolů tak, jak jsou fakticky vykonávány. Zatímco Responsible AI Scan mapuje, co se děje a pod jakou úrovní rizika to spadá, pracovní skenování nabízí perspektivu organizace práce: které úkoly se hodí k převzetí, a v jaké míře.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.