Handel detaliczny to sektor, w którym AI zadomawia się na dwóch poziomach jednocześnie. Z jednej strony mamy duże, widoczne systemy: prognozowanie zapasów, optymalizację cen, silniki rekomendacji w sklepie internetowym, chatboty w obsłudze klienta. Te są zazwyczaj znane działom IT i zakupów, ponieważ zostały gdzieś zakupione i wdrożone. Z drugiej strony istnieje znacznie bardziej rozproszony krajobraz: poszczególni pracownicy na sali sprzedażowej, w marketingu czy w zakupach, którzy korzystają z narzędzia AI, aby pisać opisy produktów, odpowiadać na zapytania klientów, generować grafiki kampanii lub zbierać dane o cenach konkurencji. Ta druga warstwa jest zazwyczaj większa niż pierwsza, po prostu dlatego, że próg wypróbowania bezpłatnego lub niedrogiego narzędzia jest niski, a efekt jest natychmiast odczuwalny: szybciej powstaje tekst reklamowy, szybciej pojawia się odpowiedź na reklamację.
Do tego dochodzi fakt, że handel detaliczny często pracuje z wieloma pracownikami tymczasowymi i elastycznymi, rozproszonymi po wielu lokalizacjach lub kanałach. To sprawia, że trudniej jest mieć jeden centralny przegląd tego, kto korzysta z jakich narzędzi i dlaczego. Centrala może mieć jasną politykę dotyczącą systemów, które sama zakupiła, podczas gdy na poziomie poszczególnych sklepów lub w ramach zespołu odpowiedzialnego za sklep internetowy powstają zastosowania AI, które nigdzie nie są zarejestrowane. Relacja między tym, co zostało zatwierdzone centralnie, a tym, co powstało lokalnie, jest w tym sektorze zwykle nierówna: liczba systemów formalnie zakupionych jest ograniczona, natomiast liczba indywidualnych zastosowań, które pracownicy zaczęli sami wykorzystywać, jest zazwyczaj znacznie większa.
Termin cień AI brzmi technicznie, ale w handlu detalicznym jest bardzo konkretny: to narzędzie, którego pracownik marketingu używa do generowania postów w mediach społecznościowych, chatbot, który zespół obsługi klienta samodzielnie skonfigurował, lub model AI wykorzystywany do analizy recenzji, którego nigdy nie sprawdził dział IT ani prawny. Dzieje się to rzadko z powodu niedbalstwa. Dzieje się to, ponieważ narzędzia są łatwo dostępne, presja na szybkość jest wysoka, a nikt nie powiedział wyraźnie, że jest to zabronione.
Lista zatwierdzonego oprogramowania działu IT daje więc niepełny obraz. Kto chce uzyskać pełny obraz, musi zapytać samych pracowników. To udaje się tylko wtedy, gdy pytanie to zadaje się bez konsekwencji. Jeśli pracownicy podejrzewają, że zgłoszenie wykorzystania AI doprowadzi do korekty lub zakazu, informacja znowu znika z pola widzenia, a użycie przenosi się na urządzenia prywatne lub konta osobiste. Inwentaryzacja, która zaczyna się od wykluczenia rozliczania winy, daje inny rodzaj odpowiedzi niż audyt, który zaczyna się od szukania naruszeń.
Narzędzie AI, które przepisuje opisy produktów, ma inny wpływ niż system, który automatycznie dostosowuje ceny na podstawie popytu i konkurencji, lub narzędzie, które wykorzystuje dane klientów do formułowania rekomendacji. W handlu detalicznym klasyfikacja według roli i poziomu ryzyka ma więc znaczenie: czy chodzi o pomocnicze narzędzie wspierające, o system, który przygotowuje decyzje, czy o system, który samodzielnie podejmuje decyzje bezpośrednio dotyczące klientów, takie jak dynamiczne ustalanie cen lub automatyczne odrzucanie zwrotów? Ten podział określa, jaki poziom nadzoru i dokumentacji jest sensowny, oraz które systemy wymagają uwagi zarządu lub zarządzania ryzykiem, a które można obsłużyć w ramach zespołu.
Organizacje handlu detalicznego zwykle mają już struktury ryzyka dotyczące takich zagadnień jak bezpieczeństwo produktów, przepisy o ochronie prywatności dotyczące danych klientów, czy kontrola finansowa przy ustalaniu cen. Zarządzanie AI nie musi być nowym, odrębnym procesem obok tych struktur. Działa lepiej, gdy inwentaryzacja wykorzystania AI jest połączona z istniejącymi kategoriami ryzyka, tak aby system przetwarzający dane klientów był oceniany za pomocą tego samego kanału, co inne procesy wrażliwe na ochronę prywatności, a algorytm cenowy przechodził przez tę samą ścieżkę, co inne decyzje istotne z komercyjnego punktu widzenia. Aktualne przepisy dotyczące systemów AI zmieniają się; dokładne obowiązki i terminy opisane są w innym miejscu. Tutaj liczy się mechanizm: wiedzieć, co działa, wiedzieć, kto z tego korzysta, i wiedzieć, jak ryzykowne jest to, zanim pojawi się zewnętrzny powód, aby to sprawdzić.
Wyzwania różnią się w zależności od sektora, choć podstawowy mechanizm jest podobny. Kto chce porównać, jak wygląda to w sektorze z dużym kontaktem z klientem i elastyczną pracą, znajdzie to w opisie zarządzania AI w gastronomii, natomiast sektor charakteryzujący się silnymi zależnościami łańcuchowymi i procesami fizycznymi jest omówiony w analizie zarządzania AI w sektorze rolniczym. Dla organizacji, które same intensywnie tworzą lub kupują oprogramowanie, istotny jest przegląd zarządzania AI w sektorze ICT, a kto ma do czynienia z silnie regulowanymi danymi klientów, może porównać to z zarządzaniem AI w usługach finansowych.
Inwentaryzacja wykorzystania AI pokazuje, co działa i kto to wykorzystuje, ale nie daje jeszcze odpowiedzi na pytanie, co to znaczy dla organizacji samej pracy. W handlu detalicznym, gdzie zadania są często rutynowe i dobrze zdefiniowane — od odpowiadania na zapytania klientów do pisania tekstów o produktach — to pytanie następcze jest realne. Skan pracy FTE TO AI wylicza dla każdego zadania, jaka część pracy może zostać przejęta przez AI, na podstawie zadań tak, jak są one faktycznie wykonywane. Podczas gdy Responsible AI Scan pokazuje, co się dzieje i pod jaki poziom ryzyka to podpada, skan pracy oferuje perspektywę organizacji pracy: które zadania nadają się do przejęcia i w jakim stopniu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.