IT systémy zaznamenávají chování, nikoli záměr. To z nich dělá užitečný výchozí bod pro inventuru, a zároveň nekompletní zdroj. Kdo chce vybudovat přehled AI, která se skutečně používá, musí vědět, které signály něco vypovídají a které vytvářejí falešný pocit úplnosti.
Provoz směřující k domènám poskytovatelů AI je obvykle nejkonkrétnější dostupný signál. Firewall nebo proxy zaznamenává, které domény jsou navštěvovány, z jakého zařízení a s jakou frekvencí. To ukazuje používání, které nikdo nemusel nahlásit. Neukazuje to, co se v dané interakci odehrálo: jaké údaje byly zadány, pro jaký úkol, s jakým výsledkem. Provoz k domènu chatbota může být jednorázový test nebo denní pracovní rutina. Bez doplňujícího kontextu zůstává tento rozdíl neviditelný.
Faktury, předplatná a odpisy z firemních karet ukazují, které nástroje byly formálně pořízeny, často mimo standardní IT nákup. Tým, který si sjedná předplatné na firemní kartu, zanechává stopu, kterou nákup nebo finance mohou dohledat. Tento signál je spolehlivý pro to, co bylo pořízeno, ale nic nevypovídá o bezplatných nástrojích, zkušebních verzích nebo osobních účtech používaných pro práci. Více o tom, co tato stopa konkrétně přináší, je popsáno na stránce o nákupních a licenčních stopách jako zdroji pro inventuru AI.
Platformy pro jednotné přihlašování (SSO) a poskytovatelé identity zaznamenávají, které aplikace byly propojeny s firemním účtem. Tento signál zachycuje nástroje, které získaly přístup přes OAuth, například k e-mailovému účtu nebo dokumentovému prostředí. Je to jeden z mála zdrojů, který ukazuje i to, jaká oprávnění nástroj získal, nejen že byl použit. Omezení: nástroje používané bez propojení, přes prohlížeč a samostatný účet, zůstávají mimo tento přehled.
Software nainstalovaný na noteboocích a pracovních stanicích je obvykle vidět prostřednictvím platformy pro správu, kterou IT používá pro opravy a aktualizace. Toto ukazuje instalované nástroje AI, ale chybí vše, co běží přes webový prohlížeč bez instalace. Pro většinu AI aplikací používaných dnes je to podstatná část celku.
V organizacích, kde pracují vývojáři, je používání AI modelů přes API samostatnou stopou. Správní platformy cloudových poskytovatelů a API brány zaznamenávají, které klíče jsou aktivní a jaký objem zpracovávají. Tento signál je často nejvíce podceňovaný: samostatný skript, který volá model pro interní úkol, zůstává mimo veškerou diskuzi o „nástrojích AI", protože ho nikdo jako takový nerozpozná.
Každý z těchto zdrojů ukazuje část chování, zaznamenanou systémem, který k tomu nebyl navržen. Žádný z těchto signálů nezaznamenává, proč je nástroj používán, pro jaký úkol, s jakým typem údajů, nebo kdo za něj nese odpovědnost. To je důvod, proč inventura opírající se pouze o techniku poskytuje zkreslený obraz. Proč se seznam, který dodá IT, strukturálně neshoduje s tím, co se skutečně používá, je vysvětleno na stránce o tom, proč IT seznam neodpovídá skutečnosti.
Technické signály jsou důvodem k tomu, aby se ptalo, nikoli náhradou za samotné ptaní. Zaměstnanec, který používá nástroj k vytváření konceptů textů, urychlení analýzy nebo kontrole kódu, ví věci, které žádný log nezaznamená: proč si vybral tento nástroj, co s ním dělá a co by mu chybělo, kdyby byl vypnut. Tento rozhovor přinese něco pouze tehdy, pokud se vede bez vyvozování důsledků. Jak se to v praxi řeší, je popsáno na stránce o tom, jak se ptát zaměstnanců, aniž by to působilo jako vyvozování odpovědnosti.
Hodnota síťových dat, nákupních stop, identity logů a rozhovorů se zaměstnanci vzniká až tehdy, když se spojí do pevné struktury: jaká aplikace, jaká role, jaká úroveň rizika, jaký vlastník. Bez této struktury zůstává vše sbírkou izolovaných pozorování. Jak tato výstavba probíhá krok za krokem, je popsáno na stránce o vybudování inventury AI, a co přesně je nutné zaznamenat u každé aplikace, je uvedeno na stránce o polích pro zaznamenávání u jednotlivých AI aplikací.
Úplný přehled toho, jaká AI se používá, zodpovídá otázku po přehledu a riziku. Nezodpovídá otázku, jak velkou část samotné práce je možné převést na AI a kde se to konkrétně projeví u jednotlivých úkolů. Jakmile je jasné, jaké nástroje se v jaké roli používají, tato navazující otázka se přímo nabízí. Werkscan od FTE TO AI vypočítá pro každý úkol, jakou část práce lze převést na AI, jako doplnění přehledu, který přináší Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.