IT-sistemi zabeležijo vedenje, ne namena. To jih naredi za uporabno izhodišče za inventar, hkrati pa za nepopoln vir. Kdor želi zgraditi pregled AI, ki se dejansko uporablja, mora vedeti kateri signali povedo nekaj konkretnega in kateri dajejo lažen občutek popolnosti.
Prenos podatkov do domen ponudnikov AI je običajno najbolj konkreten razpoložljiv signal. Požarni zid ali proxy zabeleži katere domene se obiskujejo, iz katere naprave in s kakšno pogostostjo. To pokaže uporabo, ki je nihče ni bil dolžan sporočiti. Ne pokaže pa, kaj se je dogajalo v tej interakciji: kateri podatki so bili vneseni, za katero nalogo, s kakšnim rezultatom. Prenos podatkov do domene klepetalnega robota je lahko enkraten test ali dnevna delovna rutina. Brez dodatnega konteksta ta razlika ostane neopazna.
Računi, naročnine in bremenitve kreditnih kartic pokažejo katera orodja so bila formalno nabavljena, pogosto zunaj uradne IT-nabave. Ekipa, ki sklene naročnino s poslovno kartico, pusti sled, ki jo lahko nabava ali finance najdejo. Ta signal je zanesljiv glede tega, kaj je bilo nabavljeno, vendar ne pove nič o brezplačnih orodjih, preizkusnih verzijah ali osebnih računih, ki se uporabljajo za delo. Več o tem, kaj ta sled konkretno pokaže, je opisano na strani o sledeh nabave in licenc kot viru za inventar AI.
Platforme za enotno prijavo in ponudniki identitete zabeležijo katere aplikacije so bile povezane s poslovnim računom. Ta signal zajame orodja, ki so prek OAuth pridobila dostop do na primer e-poštnega računa ali okolja za dokumente. To je eden od redkih virov, ki pokaže tudi katere pravice je orodje dobilo, ne le da je bilo uporabljeno. Omejitev: orodja, ki se uporabljajo brez povezave, prek brskalnika in ločenega računa, ostanejo zunaj tega.
Programska opremа, nameščena na prenosnikih in delovnih postajah, je običajno vidna preko platforme za upravljanje, ki jo IT uporablja za popravke in posodobitve. To pokaže nameščena orodja AI, vendar spregleda vse, kar teče prek spletnega brskalnika brez namestitve. Za večino aplikacij AI, ki se danes uporabljajo, je to znaten del celote.
V organizacijah, kjer delajo razvijalci, je uporaba modelov AI prek API-jev ločena sled. Upravljalne platforme ponudnikov v oblaku in API-vhodi (gateways) zabeležijo kateri ključi so aktivni in kakšen obseg podatkov obdelujejo. Ta signal je pogosto najbolj podcenjen: samostojen skript, ki kliče model za notranjo nalogo, pade zunaj vsakega pogovora o "orodjih AI", ker ga nihče ne prepozna kot takega.
Vsak od teh virov pokaže del vedenja, zabeleženega s sistemom, ki ni bil zasnovan za ta namen. Nobeden od teh signalov ne zabeleži zakaj se orodje uporablja, za katero nalogo, s kakšno vrsto podatkov ali kdo je za to odgovoren. To je razlog, zakaj inventar, ki se opira le na tehniko, dá izkrivljeno slika. Zakaj se seznam, ki ga pripravi IT, strukturno ne ujema s tem, kaj se dejansko uporablja, je pojasnjeno na strani o tem, zakaj seznam IT ni pravilen.
Tehnični signali so razlog za vprašanje, niso nadomestilo za samo vprašanje. Sodelavec, ki uporablja orodje za pisanje osnutkov besedil, hitrejšo analizo ali preverjanje kode, ve stvari, ki jih nobeni dnevnik ne zabeleži: zakaj je izbral to orodje, kaj z njim dela in kaj bi pogrešal, če bi ga ukinili. Ta pogovor prinese rezultat le, če poteka brez obračunavanja. Kako se to izvede v praksi, je opisano na strani o tem, kako vprašati sodelavce, ne da bi se to počutilo kot zagovarjanje.
Vrednost omrežnih podatkov, sledi nabave, dnevnikov identitete in pogovorov s sodelavci se pojavi šele, ko jih združimo v fiksno strukturo: katera aplikacija, katera vloga, katera stopnja tveganja, kateri lastnik. Brez te strukture to ostane zbirka posameznih opazovanj. Kako ta gradnja poteka korak za korakom, je opisano na strani o gradnji inventarja AI, in kaj natanko je treba zabeležiti za posamezno aplikacijo, je na strani o poljih za zabeležbo po aplikaciji AI.
Popoln pregled tega, katera AI se uporablja, odgovori na vprašanje o pregledu in tveganju. Ne odgovori pa na vprašanje, koliko od samega dela je mogoče prevzeti z AI in kje se to konkretno pokaže po posamezni nalogi. Ko je jasno katera orodja se uporabljajo v kateri vlogi, je to naslednje vprašanje samoumevno. Delovni pregled (werkscan) podjetja FTE TO AI po posamezni nalogi izračuna kateri del dela je mogoče prevzeti z AI, kot dopolnilo pregledu, ki ga daje Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.