Tím chcel niečo vyskúšať. Chatbota pre otázky klientov, skript, ktorý zhŕňa reporty, prepojenie s jazykovým modelom na triedenie e-mailov. Nebolo potrebné žiadne veľké rozhodnutie: niekto mal účet, API kľúč alebo bezplatnú skúšobnú verziu a do jedného popoludnia niečo bežalo. Pilot fungoval, alebo fungoval dostatočne, a nikto už nemal dôvod ho vypnúť.
Toto nie je výjimka. Je to bežný spôsob, akým AI vstupuje do organizácie. Nie prostredníctvom verejného obstarávania alebo schváleného rozpočtu, ale prostredníctvom skúšobnej zostavy, ktorá prežije svoj vlastný skúšobný status. Testovacia fáza nikdy nebola formálne ukončená, pretože nikdy nemala ani formálny začiatok, ktorý by sa dal ukončiť.
Pilot, ktorý funguje, sa používa. A to, čo sa používa, sa stáva závislosťou. Tím, ktorý vytvoril nástroj na zhrnutie reportov, možno už odišiel, ale zhrnutie prichádza aj tento týždeň. Nikto nemá príkaz to vypnúť a nikto nechce riskovať, že niečo prestane funkovať bez toho, aby vedel, čím to nahradiť.
K tomu treba prirátať, že skúšobná zostava zvyčajne nemá vlastníka v tom zmysle, ako to očakáva štruktúra governance. Nebola vytvorená žiadna klasifikácia rizika, nebola vykonaná žiadna analýza dát, nebolo prijaté žiadne rozhodnutie o tom, kto je zodpovedný, ak sa niečo pokazí. Pilot existuje v medzipriestore: príliš používaný na to, aby sa ignoroval, príliš neformálny na to, aby sa riadil. Presne to je vzor, ktorý vedie k zamestnancom, ktorí používajú nástroj, ktorý nikto neschválil — len na úrovni tímu, nie jednotlivca.
Reflex pri objavení neautorizovanej skúšobnej zostavy je často: kto to povolil a prečo sme o tom nevedeli. Táto otázka je pochopiteľná, ale pôsobí kontraproduktívne. Kto už pri prvom rozhovore cíti, že prichádza otázka viny, nabudúce nič nepovie. A ďalšia skúšobná zostava — ktorá nepochybne prídе — potom zmizne z dohľadu presne tak ako táto.
Inventarizácia postavená na dôvere prináša viac ako audit postavený na kontrole. Nie preto, že by ľudia nemali čo skrývať, ale preto, že informácie, ktoré hľadáte, sú u používateľa, a ten hovorí len tak, ak nebude braný na zodpovednosť za to, čo nájde.
Hneď ako je skúšobná zostava zmapovaná, prvá otázka nie je, či môže ďalej existovať, ale čo presne robí. Aké dáta do nej vstupujú, kto používa výsledok a čo sa stane, ak je výsledok nesprávny. Sú to rovnaké otázky, ktoré platia pre každú inú AI aplikáciu, a odpoveď určuje, či ide o neformálny pomocný nástroj, alebo o riziko, ktoré si zaslúži pozornosť.
Potom nasleduje klasifikácia: zapadá aplikácia do rizikovej kategórie, ktorá už existuje, alebo si vyžaduje nové posúdenie. Následne: čo treba zaznamenať, aby bolo preukázateľné, že organizácia vie, čo je v prevádzke a prečo. Presne to je téma, ktorú rozoberá čo treba zaznamenať pre každú aplikáciu — nie ako ďalšiu byrokraciu, ale ako minimálnu dokumentáciu potrebnú na odlíšenie pilota od rizika.
Skúšobná zostava, ktorá tento test obstojí, môže ďalej existovať, teraz s vlastníkom a klasifikáciou. Skúšobná zostava, ktorá test neobstojí, musí byť ukončená — ale to je kontrolovaný proces, nie prepustenie osoby, ktorá ju kedysi spustila.
Skúšobná zostava, ktorá nikdy nebola vypnutá, je jedna forma širšieho vzoru. Zamyslite sa nad rozšírením prehliadača s prístupom k vašej pošte, ktoré si niekto kedysi nainštaloval, aby ušetril čas, alebo nad firemnými dátami, ktoré skončia v bezplatnom chatovacom okne, pretože to bolo rýchlejšie ako oficiálny nástroj. Všetky tieto situácie majú spoločný jeden znak: vznikli z praktickej potreby, nie z rozhodnutia v rámci politiky, a existujú ďalej dovtedy, kým sa na ne nikto nespýta.
IT zoznam schváleného softvéru teda nie je začiatočným bodom inventarizácie — je začiatočným bodom pátrania po tom, čo tento zoznam nepokrýva. Kto chce vedieť, ako toto pátranie vyzerá, nájde postup v ako vybudovať inventár AI.
Skúšobná zostava, ktorá vyjde na povrch, obyčajne vyvolá ďalšiu otázku, ktorá presahuje governance: prečo to vlastne fungovalo tak dobre, že sa to nikto neodvážil zastaviť? Je to otázka o samotnej práci, nielen o riziku. Pracovný skener od FTE TO AI vypočíta pre každú úlohu, akú časť práce je možné previesť na AI, a tým zviditeľní to, čo skúšobná zostava implicitne už ukázala: že časť práce sa môže usporiadať inak. Zatiaľ čo Responsible AI Scan mapuje, čo je v prevádzke a pod akým rizikom, pracovný skener ukazuje, odkiaľ toto používanie pochádza a čo strukturálne znamená pre rozdelenie úloh.
Responsible AI Scan, s inventarizáciou, klasifikáciou a súborom nástrojov governance popísaným vyššie, je vo vývoji. Kto sa s týmto už teraz stretáva a chce byť informovaný, hneď ako bude nástroj k dispozícii, sa môže prihlásiť na čakaciu listinu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.