V doprave a logistike AI často nesídli v samostatnom systéme s menom a vlastníkom, ale je prepletená so samotnou operáciou: plánovanie trás, optimalizácia nakladania, prediktívne systémy údržby, prognózy dopytu a algoritmy, ktoré určujú, ktorý vodič dostane ktorú jazdu. Časť z toho prichádza cez softvér od dopravcov, expedítorov alebo platforiem, a funguje teda podľa rozhodovacích pravidiel, ktoré si samotná organizácia nenastavila a niekedy ich ani nevidí úplne. Vzťah medzi tým, čo si oddelenie plánovania samo zaobstaralo, a tým, čo prichádza prostredníctvom partnerov v reťazci alebo zabudovanej funkcionality, sa neustále posúva. To robí inventarizáciu v tomto sektore nie jednoduchšou ako inde, ale inou: otázkou nie je len to, kto nainštaloval nástroj AI, ale aj to, ktoré automatizované rozhodnutia sa v existujúcich systémoch nachádzali ešte skôr, ako ich niekto označil ako AI.
Prehľad schváleného softvéru zriedka vypovedá celý príbeh. Plánovači, ktorí používajú nástroj AI na optimalizáciu trás, klientský servis, ktorý nasadzuje chatbota na sledovanie zásielok, alebo pracovník skladu, ktorý používa aplikáciu na tvorbu prognóz zásob: tento druh použití často vzniká lokálne, hnaný časovým tlakom alebo konkrétnou úlohou, bez toho, aby niekto podal žiadosť. Kto chce toto zmapovať, musí sa spýtať ľudí, ktorí danú prácu vykonávajú, a to sa podarí len tak, ak zadávanie otázok nevyvoláva okamžitú nápravu. Organizácia, ktorá chce nájsť tzv. shadow AI, musí najprv jasne ukázať, že nahlásenie nepredstavuje riziko.
Inventár, ktorý ide ďalej než IT-zoznam, zobrazuje, ktoré nástroje AI sú skutočne v používaní, kde v procese sa nachádzajú a kto na ich základe prijíma rozhodnutia. V doprave a logistike to často znamená rozlíšenie medzi systémami, ktoré len poradia, systémami, ktoré automaticky plánujú bez zásahu, a systémami, ktoré majú vplyv na ľudí mimo organizácie, ako sú vodiči alebo klienti, ktorým sa predloží dodacia lehota na základe predpovede. Toto rozlíšenie je relevantné, pretože sa tým mení úroveň rizika: nástroj, ktorý len ponúkne plánovačovi návrh, si vyžaduje inú formu dohľadu než systém, ktorý samostatne stanovuje rozvrhy alebo trasy.
Po inventári nasleduje otázka, čo presne robí každá aplikácia a pre koho. Systém, ktorý predpovedá, kedy je potrebná údržba, má iný dopad než systém, ktorý určuje, ktorý vodič dostane pridelenú jazdu na základe výkonnostných údajov. Klasifikácia tu neznamená použitie pevnej šablóny, ale usporiadanie toho, čo bolo zistené: ktorá aplikácia sa dotýka rozhodnutí o ľuďoch, ktorá sa dotýka len logistickej optimalizácie a ktorá funguje čisto podporne. Aktuálna regulácia, ktorá určuje, aké povinnosti sa vážu na akú úroveň rizika, je uvedená inde; tu ide o štruktúru potrebnú na to, aby sa tieto pravidlá dali neskôr uplatniť, nezávisle od toho, čo presne text predpisuje.
Dopravné spoločnosti bežne už pracujú s riadením rizík v oblasti bezpečnosti, plánovania a compliance. AI-governance nemusí byť novým aparátom vedľa tohto existujúceho systému; funguje lepšie, keď sa klasifikácia AI aplikácií napojí na kategórie, ktoré už existujú, aby riaditeľ alebo risk manažér nemusel viesť dva samostatné prehľady. To si vyžaduje súbor governance údajov, ktorý uvádza, kto aplikáciu správcuje, kto za ňu zodpovedá a aká kontrola nad ňou existuje, a to vo forme, ktorá zapadá do už existujúcej štruktúry reportovania a zodpovednosti.
Riaditeľ alebo General Counsel, od ktorého sa žiada, aby vysvetlil, ktoré systémy AI sú v organizácii aktívne, to musí byť schopný podložiť viac než len zoznamom z nákupného systému. Preukázateľnosť znamená, že existuje aktuálny prehľad aplikácií, ich klasifikácie a stavu dohľadu nad nimi, a že tento prehľad obstojí aj vtedy, keď sa niekto začne pýtať do hĺbky. Iné sektory poznajú podobné otázky, ako je vidieť pri AI-governance v maloobchode, AI-governance v agrárnom sektore a AI-governance v IT sektore, pričom každý má svoj vlastný vzťah medzi tým, čo bolo zaobstarané centrálne, a tým, čo vzniklo lokálne.
Responsible AI Scan, ktorý spája túto inventarizáciu, klasifikáciu a governance štruktúru, sa práve vyvíja. Kto s tým chce začať, môže sa prihlásiť na čakaciu listinu; momentálne nie je k dispozícii žiadny hotový produkt na objednanie a tu sa to ani inak nepredstiera.
Hneď ako je jasné, ktoré aplikácie AI bežia v dopravnom reťazci a aká úroveň rizika im prislúcha, vzniká následná otázka, na ktorú inventarizácia neodpovedá: koľko z práce, ktorú teraz robia plánovači, vodiči alebo pracovníci klientského servisu, sa dá pomocou týchto aplikácií skutočne prevziať. Táto otázka je governance blízka, ale nie je s ňou totožná, a odpovedá na ňu pracovný scan od FTE TO AI, ktorý pre každú úlohu vypočíta, akú časť práce je možné prevziať pomocou AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.