Il commercio al dettaglio è un settore in cui l'IA si insedia su due livelli contemporaneamente. Da un lato ci sono i grandi sistemi visibili: previsioni delle scorte, ottimizzazione dei prezzi, motori di raccomandazione sul webshop, chatbot nel servizio clienti. Questi sono generalmente noti all'IT e agli acquisti, perché sono stati acquistati e implementati in modo formale. Dall'altro lato c'è un panorama molto più diffuso: singoli dipendenti sul punto vendita, nel marketing o negli acquisti che usano uno strumento di IA per scrivere descrizioni di prodotto, rispondere a domande dei clienti, generare immagini per campagne o raccogliere dati sui prezzi della concorrenza. Questo secondo livello è generalmente più ampio del primo, semplicemente perché la soglia per provare uno strumento gratuito o economico è bassa e l'effetto è immediatamente percepibile: un testo pubblicitario più rapido, una risposta più veloce a un reclamo.
A ciò si aggiunge che il commercio al dettaglio lavora spesso con molti dipendenti temporanei e flessibili, distribuiti su più punti vendita o canali. Questo rende più difficile avere una panoramica centrale unica di chi usa quali strumenti e perché. Una sede centrale può avere una politica chiara per i sistemi che ha acquistato direttamente, mentre a livello di punto vendita o all'interno di un team webshop nascono applicazioni di IA che non vengono registrate da nessuna parte. Il rapporto tra ciò che è stato approvato a livello centrale e ciò che è nato a livello locale è generalmente sbilanciato in questo settore: il numero di sistemi acquistati ufficialmente è limitato, mentre il numero di applicazioni individuali che i dipendenti hanno iniziato a usare autonomamente è generalmente molto più grande.
Il termine shadow AI suona tecnico, ma nel commercio al dettaglio è molto concreto: è lo strumento che un addetto al marketing usa per generare post sui social media, il chatbot che un team di servizio clienti ha configurato autonomamente, o il modello di IA impiegato per analizzare le recensioni senza che questo sia mai stato esaminato dall'IT o dall'ufficio legale. Ciò avviene raramente per negligenza. Avviene perché gli strumenti sono accessibili, perché la pressione sulla velocità è alta, e perché nessuno ha detto esplicitamente che non è consentito.
L'elenco IT dei software approvati offre quindi un quadro incompleto. Chi vuole un quadro completo deve chiederlo direttamente alle persone. Questo funziona solo se la domanda viene posta senza conseguenze. Non appena i dipendenti sospettano che segnalare l'uso dell'IA porti a una correzione o a un divieto, l'informazione torna a nascondersi e l'uso si sposta su dispositivi privati o account personali. Un'inventariazione che inizia escludendo le sanzioni produce un tipo di risposta diverso da un audit che inizia cercando le infrazioni.
Uno strumento di IA che riscrive descrizioni di prodotto ha un impatto diverso da un sistema che adegua automaticamente i prezzi in base alla domanda e alla concorrenza, o da uno strumento che usa i dati dei clienti per fare raccomandazioni. Nel commercio al dettaglio la classificazione per ruolo e livello di rischio è quindi importante: si tratta di uno strumento di supporto, di un sistema che prepara decisioni, o di un sistema che prende autonomamente decisioni che riguardano direttamente i clienti, come la determinazione dinamica dei prezzi o il rifiuto automatizzato dei resi? Questa classificazione determina quale livello di supervisione e documentazione sia logico, e quali sistemi richiedano l'attenzione della direzione o della gestione del rischio e quali possano essere gestiti all'interno di un team.
Le organizzazioni del commercio al dettaglio dispongono generalmente già di strutture di rischio per questioni come la sicurezza dei prodotti, la normativa sulla privacy relativa ai dati dei clienti, o il controllo finanziario nella determinazione dei prezzi. La governance dell'IA non deve essere un processo nuovo e separato rispetto a queste strutture. Funziona meglio quando l'inventariazione dell'uso dell'IA viene collegata alle categorie di rischio esistenti, in modo che un sistema che elabora dati dei clienti venga valutato attraverso lo stesso canale di altri processi sensibili dal punto di vista della privacy, e un algoritmo di prezzo segua lo stesso percorso di altre decisioni commercialmente sensibili. La normativa attuale relativa ai sistemi di IA è in evoluzione; gli obblighi e le scadenze precisi sono descritti altrove. Ciò che conta qui è il meccanismo: sapere cosa è in uso, sapere chi lo usa, e sapere quanto sia rischioso prima che vi sia un motivo esterno per indagare.
Le sfide differiscono da settore a settore, anche se il meccanismo sottostante è simile. Chi vuole confrontare come questo si manifesta in un settore con molto contatto con i clienti e lavoro flessibile, lo trova nella descrizione di Governance dell'IA nella ristorazione e nell'hôtellerie, mentre un settore con forti dipendenze di filiera e processi fisici è trattato nell'analisi di Governance dell'IA nel settore agricolo. Per le organizzazioni che sviluppano o acquistano molto software autonomamente, è rilevante la panoramica di Governance dell'IA nel settore ICT, e chi tratta dati dei clienti fortemente regolamentati può fare il confronto con Governance dell'IA nei servizi finanziari.
Un inventario dell'uso dell'IA mostra cosa è in funzione e chi lo usa, ma non risponde ancora alla domanda su cosa ciò significhi per l'organizzazione del lavoro stesso. Nel commercio al dettaglio, dove i compiti sono spesso di routine e ben definiti — dal rispondere a domande dei clienti allo scrivere testi di prodotto — questa domanda successiva è concreta. La scansione del lavoro di FTE TO AI calcola per ciascun compito quale parte del lavoro può essere ripresa dall'IA, sulla base dei compiti come vengono effettivamente svolti. Mentre la Responsible AI Scan mappa cosa accade e a quale livello di rischio ciò appartiene, la scansione del lavoro offre la prospettiva dell'organizzazione del lavoro: quali compiti si prestano a essere ripresi, e in quale misura.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.