V dopravě a logistice AI často nesídlí v samostatném systému s vlastním názvem a vlastníkem, ale je provázaná se samotným provozem: plánování tras, optimalizace nakládky, systémy predikce údržby, předpověď poptávky a algoritmy, které určují, který řidič dostane kterou jízdu. Část toho přichází prostřednictvím softwaru dopravců, přepravců nebo platforem, a pracuje tak s rozhodovacími pravidly, která organizace sama nenastavila a někdy je ani nemůže plně vidět. Poměr mezi tím, co si plánovací oddělení samo pořídilo, a tím, co přichází přes partnery v dodavatelském řetězci nebo vestavěnou funkcionalitu, se neustále posouvá. To dělá inventarizaci v tomto sektoru ne jednodušší než jinde, ale odlišnou: otázka nezní jen, kdo instaloval nějaký AI nástroj, ale i jaká automatizovaná rozhodnutí už byla v existujících systémech přítomna, než je někdo pojmenoval jako AI.
Přehled schváleného softwaru zřídka vypovídá celý příběh. Plánovači, kteří používají AI nástroj k optimalizaci tras, zákaznický servis nasazující chatbota pro sledování zásilek, nebo skladový pracovník používající aplikaci k tvorbě predikcí zásob: tyto aplikace často vznikají lokálně, poháněné časovým tlakem nebo konkrétní úlohou, aniž by kdokoli podal žádost. Kdo to chce zmapovat, musí se zeptat lidí, kteří tuto práci vykonávají, a to se povede jen tehdy, když se položení otázky nespojí okamžitě s nápravným opatřením. Organizace, která chce najít stínovou AI, musí nejprve jasně sdělit, že nahlášení není riziko.
Inventarizace, která přesahuje seznam z IT oddělení, zmapuje, které AI aplikace jsou skutečně v provozu, kde v procesu se nacházejí a kdo na ně navazuje rozhodnutí. V dopravě a logistice to často znamená rozlišení mezi systémy, které pouze poskytují doporučení, systémy, které automaticky plánují bez zásahu člověka, a systémy, které mají dopad na lidi mimo organizaci, jako jsou řidiči nebo klienti, kterým je na základě předpovědi předložen dodací termín. Toto rozlišení je relevantní, protože se s ním mění úroveň rizika: nástroj, který plánovači jen poskytuje návrh, vyžaduje jinou formu dohledu než systém, který samostatně stanovuje rozvrhy nebo trasy.
Po inventarizaci následuje otázka, co přesně každá aplikace dělá a pro koho. Systém, který předpovídá, kdy je potřeba údržba, má jiný dopad než systém, který určuje, kterému řidiči je přidělena jízda na základě výkonnostních dat. Klasifikace zde neznamená použití pevné šablony, ale uspořádání toho, co bylo zjištěno: která aplikace se dotýká rozhodnutí o lidech, která se dotýká pouze logistické optimalizace, a která funguje čistě podpůrně. Aktuální regulace, která určuje, jaké povinnosti se váží k jaké úrovni rizika, je popsána jinde; zde jde o strukturu potřebnou k tomu, aby bylo možné tato pravidla později uplatnit, ať už text přesně předepisuje cokoli.
Dopravní společnosti obvykle již pracují s řízením rizik v oblasti bezpečnosti, plánování a compliance. AI governance nemusí být novým aparátem vedle tohoto existujícího systému; funguje lépe, pokud klasifikace AI aplikací navazuje na kategorie, které již existují, takže vedoucí pracovník nebo risk manager nemusí vést dva samostatné přehledy. To vyžaduje soubor pravidel governance, který uvádí, kdo aplikaci správuje, kdo za ni odpovídá a jaká kontrola nad ní existuje, ve formě, která odpovídá tomu, co už existuje ve struktuře reportování a odpovědnosti.
Vedoucí pracovník nebo General Counsel, který je vyzván, aby uvedl, jaké AI systémy jsou v organizaci aktivní, to musí umět podložit něčím víc než seznamem z nákupního systému. Prokazatelnost znamená, že existuje aktuální přehled aplikací, jejich klasifikace a stavu dohledu nad nimi, a že tento přehled obstojí i tehdy, když se někdo zeptá podrobněji. Podobné otázky se vyskytují i v jiných sektorech, jak je vidět u AI governance v maloobchodu, AI governance v zemědělství a AI governance v IT sektoru, pokaždé s vlastním poměrem mezi tím, co bylo pořízeno centrálně, a tím, co vzniklo lokálně.
Responsible AI Scan, který spojuje tuto inventarizaci, klasifikaci a strukturu governance, se právě vyvíjí. Kdo s tím chce začít, může se přihlásit na seznam zájemců; momentálně není k dispozici žádný hotový produkt k objednání, a nic jiného zde není tvrzeno.
Jakmile je jasné, jaké AI aplikace v dopravním řetězci běží a jaká úroveň rizika k nim patří, vzniká navazující otázka, na kterou inventarizace neodpoví: kolik z práce, kterou nyní vykonávají plánovači, řidiči nebo pracovníci zákaznického servisu, je pomocí těchto aplikací skutečně možné převzít. Tato otázka je blízko governance, ale není s ní totožná, a odpovídá na ni pracovní scan od FTE TO AI, který pro každou úlohu vypočítá, jakou část práce je možné převést na AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.