Veľa governance iniciatív začína novým procesom: formulárom, schvaľovacím krokom, výborom, ktorý má posúdiť použitie AI ešte pred jeho začatím. Predpoklad je, že zamestnanci budú tento proces dodržiavať, pretože existuje. V praxi sa to stáva len zriedka. Kto môže úlohu vykonať rýchlejšie s nástrojom, ktorý si sám našiel, nepýta súhlas výboru, ktorého agendu nepozná a ktorého dobu vybavenia nevie odhadnúť. Nástroj použije a mlčí o tom.
To nie je neochota. Je to racionálna reakcia na proces, ktorý stojí vedľa práce, nie v nej. Druhý proces si vyžaduje čas, prináša neistotu o výsledku a neposkytuje žiadnu viditeľnú výhodu pre toho, kto ho dodrží. Pravdepodobnosť, že bude ignorovaný, je potom väčšia než pravdepodobnosť, že sa dodrží.
Dôsledkom nie je, že sa AI nepoužíva. Dôsledkom je, že AI sa používa mimo dohľadu toho, kto je za to zodpovedný. IT zoznam schválených nástrojov potom zostáva popisom toho, čo bolo kedysi požiadané, nie toho, čo sa skutočne používa. Medzi týmito dvoma zoznamami môže existovať značný rozdiel, a ten, kto sa pozerá len na schválený zoznam, tento rozdiel nevidí.
Toto sa priamo dotýka otázky, kto je zodpovedný, keď AI-aplikácia urobí chybu. Vedúci pracovník, ktorý chce vedieť, kam umiestniť zodpovednosť, musí vedieť, ktorý systém ovplyvnil rozhodnutie. Ak tento systém nebol nikdy zaregistrovaný, pretože registračný postup bol vynechaný, tento základ chýba práve v momente, keď je potrebný.
Metóda, ktorú používame, nezačína schvaľovacím procesom, ale inventarizáciou, ktorá sa pýta, nie kontroluje. Rozdiel je malý vo forme a veľký v efekte. Zamestnanec, ktorého sa pýtajú, čo používa a na čo, bez toho, aby to pre neho malo dôsledky, nemá dôvod odpoveď zamlčať. Zamestnanec, ktorý vie, že úprimná odpoveď môže vyústiť do zákazu alebo nápravy, má všetky dôvody odpoveď upraviť.
Toto je zraniteľné miesto v metóde a radšej ho pomenujeme, než by sme ho zamlčali. Inventarizácia bez postihu prináša presnejší obraz než audit s dôsledkami, ale neposkytuje záruku, že bude nahlásené každé použitie. Kto používa nástroj, o ktorom tuší, že je problematický, môže stále mlčať, aj bez priamej hrozby. Inventarizácia znižuje prah na nahlásenie; úplne ho neodstraňuje. Čo metóda skutočne prináša, je väčšia šanca na úplný obraz než proces, ktorý vopred už naznačuje trest.
Druhý proces sa ignoruje. Doplnenie existujúceho procesu má väčšiu šancu prežiť. Preto klasifikujeme používanie AI podľa role a úrovne rizika v rámci rizikovej štruktúry, ktorú organizácia už používa, a nie tak, že vedľa nej vytvoríme novú štruktúru. To, čo je klasifikované ako vysoké riziko, sa dostáva na to isté miesto ako iné vysoké riziká v existujúcom registri rizík. To zároveň znamená, že otázka ako často treba prekvalifikovať nevyžaduje nový kalendár, ale nadväzuje na existujúci cyklus posudzovania rizík.
Toto nadväzovanie nevyrieši všetko. AI register, ktorý bol vytvorený jednorazovo, zastarie hneď, ako niekto začne používať nový nástroj bez toho, aby to nahlásil. Preto je otázka ako udržať AI register aktuálny rovnako dôležitá ako prvotná inventarizácia. Register, ktorý sa neudržiava, je po čase znova len popisom minulosti.
Dohľad nad používaním AI sa často predstavuje ako technická otázka: systém, ktorý monitoruje, dashboard, ktorý hlási. Ale dohľad, ktorý funguje, začína pri ľuďoch, ktorí chápu, prečo má nahlasovanie zmysel a ktorí vedia, čo sa s ich odpoveďou stane. To je otázka správania, nielen techniky, a súvisí s tým, čo znamená ľudský dohľad v praxi na pracovisku, a s tým, čo konkrétne obnáša AI-gramotnosť zamestnancov. Bez tohto pochopenia zostáva každý proces, nech je navrhnutý akokoľvek dobre, len formulárom, ktorý ľudia vyplnia, pretože musia, nie pretože z toho niečo vyplynie.
Tento prístup neposkytuje úplnú istotu, že budú nájdené všetky AI-aplikácie. Znižuje prah na nahlásenie a nadväzuje na existujúce štruktúry, ale organizácia, ktorá inventarizuje po prvýkrát, musí počítať s tým, že časť používania zostane neviditeľná, aj keď táto časť je po dôkladnej inventarizácii zvyčajne menšia než predtým.
Inventarizácia používania AI ukáže, čo je v chode a kto to používa, ale ešte nič nehovorí o tom, koľko z podkladovej práce môže AI skutočne prevziať. Táto otázka ide o krok ďalej a odpovedá na ňu pracovný skener FTE TO AI, ktorý pre každú úlohu vypočíta, akú časť práce je možné prevziať. Kto raz vie, aké nástroje sa v organizácii používajú, môže s pomocou tohto skenu zistiť, čo toto používanie znamená pre usporiadanie samotnej práce.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.