IT systémy zaznamenávajú správanie, nie zámer. To z nich robí použiteľný východiskový bod pre inventúru, a zároveň neúplný zdroj. Kto chce vytvoriť prehľad AI, ktorá sa skutočne používa, musí vedieť, ktoré signály niečo vypovedajú a ktoré vytvárajú falošný pocit úplnosti.
Prevádzka smerujúca na domény poskytovateľov AI je väčšinou najkonkrétnejší signál, ktorý je k dispozícii. Firewall alebo proxy zaznamenáva, ktoré domény sa navštevujú, z akého zariadenia a s akou frekvenciou. Toto ukazuje používanie, ktoré nikto nemusel nahlásiť. Neukazuje, čo sa v tej interakcii odohralo: aké údaje boli zadané, na akú úlohu, s akým výsledkom. Prevádzka na doménu chatbota môže byť jednorazový test alebo denná pracovná rutina. Bez doplnkového kontextu zostáva tento rozdiel neviditeľný.
Faktúry, predplatné a odpísania z firemných kariet ukazujú, ktoré nástroje boli formálne obstarané, často mimo oficiálneho IT nákupu. Tím, ktorý si zriadi predplatné na firemnú kartu, zanecháva stopu, ktorú vie nákup alebo finančné oddelenie dohľadať. Tento signál je spoľahlivý pre to, čo bolo obstarané, ale nič nevypovedá o bezplatných nástrojoch, skúšobných verziách alebo osobných účtoch používaných na prácu. Viac o tom, čo táto stopa konkrétne prináša, je popísané na stránke o nákupných a licenčných stopách ako zdroji pre AI inventúru.
Platformy single sign-on a poskytovatelia identity zaznamenávajú, ktoré aplikácie boli prepojené s firemným účtom. Tento signál zachytáva nástroje, ktoré získali prístup napríklad k e-mailovému účtu alebo dokumentovému prostrediu cez OAuth. Je to jeden z mála zdrojov, ktorý ukazuje aj to, aké oprávnenia nástroj získal, nielen že bol používaný. Obmedzenie: nástroje používané bez prepojenia, cez prehliadač a samostatný účet, tu zostávajú nezachytené.
Softvér nainštalovaný na laptopoch a pracovných staniciach je zvyčajne viditeľný cez platformu na správu, ktorú IT používa na opravy a aktualizácie. Toto ukazuje nainštalované AI nástroje, ale chýba všetko, čo beží cez webový prehliadač bez inštalácie. Pri väčšine AI aplikácií, ktoré sa dnes používajú, ide o podstatnú časť celku.
V organizáciách, kde pracujú vývojári, je používanie AI modelov cez API samostatná stopa. Platformy na správu od cloudových poskytovateľov a API brány zaznamenávajú, ktoré kľúče sú aktívne a aký objem spracúvajú. Tento signál je často najviac podceňovaný: samostatný skript, ktorý vyvoláva model pre internú úlohu, vypadáva z každej diskusie o „AI nástrojoch“, pretože ho nikto ako taký nerozpozná.
Každý z týchto zdrojov ukazuje časť správania, zaznamenanú systémom, ktorý na to nebol navrhnutý. Žiadny z týchto signálov nezaznamenáva, prečo sa nástroj používa, na akú úlohu, s akým typom údajov, alebo kto je za neho zodpovedný. To je dôvod, prečo inventúra, ktorá sa spolieha len na techniku, dáva skreslený obraz. Prečo sa zoznam, ktorý dodá IT, systematicky nezhoduje s tým, čo sa skutočne používa, je vysvetlené na stránke o tom, prečo IT zoznam nesedí.
Technické signály sú dôvod na to, aby ste sa pýtali, nie náhrada za samotné pýtanie. Zamestnanec, ktorý používa nástroj na tvorbu konceptov textov, urýchlenie analýzy alebo kontrolu kódu, vie veci, ktoré žiadny log nezaznamená: prečo si vybral ten nástroj, čo s ním robí, a čo by mu chýbalo, keby bol vypnutý. Tento rozhovor prináša výsledky len ak sa vedie bez vyvodzovania dôsledkov. Ako sa to v praxi rieši, je popísané na stránke o tom, ako sa pýtať zamestnancov bez pocitu zúčtovania.
Hodnota sieťových dát, nákupných stôp, identity logov a rozhovorov so zamestnancami vznikne až vtedy, keď sa spoja do pevnej štruktúry: ktorá aplikácia, aká rola, aká úroveň rizika, kto je vlastník. Bez tejto štruktúry to zostáva zbierkou samostatných pozorovaní. Ako táto výstavba postupuje krok za krokom, je popísané na stránke o vytváraní AI inventúry, a čo presne je potrebné zaznamenať pri každej aplikácii, je na stránke o poliach na zaznamenávanie pre každú AI aplikáciu.
Úplný prehľad toho, aká AI sa používa, odpovedá na otázku prehľadu a rizika. Neodpovedá na otázku, koľko z práce samotnej môže AI prevziať, a kde sa to konkrétne prejaví pri jednotlivých úlohách. Hneď ako je jasné, ktoré nástroje sa v akej role nasadzujú, táto nadväzujúca otázka sa ponúka sama. Pracovný scan od FTE TO AI vypočíta pre každú úlohu, akú časť práce môže AI prevziať, ako doplnok k prehľadu, ktorý poskytuje Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.