IT-süsteemid registreerivad käitumist, mitte kavatsust. See teeb neist kasutatava lähtepunkti ülevaate koostamiseks, kuid samal ajal ka ebatäieliku allika. Kes soovib koostada ülevaate tegelikult kasutatavast AI-st, peab teadma, millised signaalid annavad sisulist teavet ja millised jätavad vale mulje täielikkusest.
Liiklus AI-pakkujate domeenidele on tavaliselt kõige konkreetsem saadaolev signaal. Tulemüür või proksi registreerib, milliseid domeene külastatakse, millisest seadmest ja millise sagedusega. See näitab kasutust, millest kellelgi ei tulnud teatada. See ei näita, mis selle interaktsiooni sees toimus: milliseid andmeid sisestati, mille jaoks ja millise tulemusega. Liiklus vestlusroboti domeenile võib olla ühekordne test või igapäevane töörutiin. Täiendava konteksti puudumisel jääb see erinevus nähtamatuks.
Arved, tellimused ja krediitkaardimaksed näitavad, millised tööriistad on ametlikult ostetud, sageli ilma ametliku IT-hankeprotsessi kaasamiseta. Meeskond, kes tellib ettevõtte kaardiga tellimuse, jätab maha jälje, mille hange või rahandusosakond saab tuvastada. See signaal on usaldusväärne selle kohta, mis on ostetud, kuid ei ütle midagi tasuta tööriistade, prooviversioonide või töö jaoks kasutatavate isiklike kontode kohta. Rohkem selle kohta, mida see jälg konkreetselt näitab, on kirjas lehel hanke- ja litsentsijälgede kohta AI-inventuuri allikana.
Ühekordse sisselogimise platvormid ja identiteedipakkujad registreerivad, millised rakendused on ühendatud ettevõtte kontoga. See signaal tuvastab tööriistad, mis on OAuthi kaudu saanud juurdepääsu näiteks e-posti kontole või dokumendikeskkonnale. See on üks vähestest allikatest, mis näitab ka seda, millised õigused tööriist on saanud, mitte ainult seda, et see on kasutusel olnud. Piirang: tööriistad, mida kasutatakse ühenduseta, brauseri ja eraldiseisva konto kaudu, jäävad sellest välja.
Sülearvutitesse ja tööarvutitesse installitud tarkvara on tavaliselt nähtav haldusplatvormi kaudu, mida IT kasutab paranduste ja uuenduste jaoks. See näitab installitud AI-tööriistu, kuid ei näita kõike, mis töötab veebibrauseris installimist vajamata. Enamiku täna kasutatavate AI-rakenduste puhul on see märkimisväärne osa tervikust.
Organisatsioonides, kus töötavad arendajad, on AI-mudelite kasutamine API-de kaudu eraldi jälg. Pilveteenuse pakkujate haldusplatvormid ja API-gateway'd registreerivad, millised võtmed on aktiivsed ja millist mahtu need töötlevad. See signaal on sageli kõige alahinnatum: eraldiseisev skript, mis kutsub mudelit sisemise ülesande jaoks, jääb väljaspool igasugust vestlust "AI-tööriistade" kohta, kuna keegi ei tunnista seda sellisena.
Kumbki neist allikatest näitab osa käitumisest, mille on registreerinud süsteem, mis ei ole selleks loodud. Ükski neist signaalidest ei registreeri, miks tööriista kasutatakse, mille ülesande jaoks, millist andmetüüpi kasutades või kes selle eest vastutab. Sellepärast annab inventuur, mis toetub ainult tehnikale, moonutatud pildi. Miks IT osakonna esitatud nimekiri struktuurselt ei vasta tegelikult kasutatavale, on selgitatud lehel selle kohta, miks IT nimekiri ei vasta tegelikkusele.
Tehnilised signaalid on põhjus küsimuste esitamiseks, mitte küsimuste esitamise asendus. Töötaja, kes kasutab tööriista mustandtekstide loomiseks, analüüsi kiirendamiseks või koodi kontrollimiseks, teab asju, mida ükski logi ei registreeri: miks ta selle tööriista valis, mida ta sellega teeb ja mida ta jääks ilma, kui see suletaks. See vestlus annab tulemusi vaid siis, kui see toimub ilma tagajärgedeta. Kuidas see praktikas toimub, on kirjas lehel küsimuste esitamise kohta, ilma et see tunduks vastutuse võtmisena.
Võrguandmete, hankejälgede, identiteedilogide ja töötajatega peetud vestluste väärtus tekib ainult siis, kui need viiakse kokku fikseeritud struktuuris: milline rakendus, milline roll, milline riskitase, kes on omanik. Selle struktuurita jääb see üksikute tähelepanekute kogumiks. Kuidas see ülesehitus samm-sammult toimub, on kirjas lehel AI-inventuuri koostamise kohta, ja mida täpselt tuleb iga rakenduse kohta registreerida, on kirjas lehel registreerimisväljade kohta iga AI-rakenduse jaoks.
Täielik ülevaade sellest, millist AI-d kasutatakse, vastab ülevaate ja riski küsimusele. See ei vasta küsimusele, kui suur osa tööst on AI-le üle antav, ja kus see ülesande kohta konkreetselt väljendub. Kui on selge, milliseid tööriistu millises rollis kasutatakse, on see järelküsimus loogiline järgmine samm. FTE TO AI töövoo skaneering arvutab ülesande kaupa välja, kui suur osa tööst on AI-le üle antav, täiendades ülevaadet, mille annab Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.