Kennisbank

Monitooring, mis toimib, on monitooring, mis haakub sellega, mis juba on paigas

Suur osa AI kasutuse monitooringut sünnib eraldiseisva algatusena: uus vorm, uus koosolek, uus dashboard. Käivitamise hetkel näeb see terviklik välja. Aasta hiljem on see hääbunud. Mitte sisu halva kvaliteedi tõttu, vaid sellepärast, et see seisis olemasoleva struktuuri kõrval, mitte selle sees.

Küsimus ei ole seega ainult see, mida tuleb monitoorida, vaid kuhu see monitooring maandub. Protsess, mida kellelgi ei tule meeles pidada, kuna see on juba osa rutiinist, mis niikuinii toimub, jääb ellu. Protsess, mis nõuab lisasammu inimestelt, kes on juba niigi ülekoormatud, jäetakse mõne aja pärast vahele. See ei ole tõrksus. See on organisatsioonide aja ja tähelepanuga ümberkäimise ettearvatav tagajärg.

Miks teine protsess kaotab

Iga organisatsioonil on juba oma rütm: kvartaliaruandlus, riskikomiteed, auditi tsüklid, meeskonna koosolekud. Kui AI kasutuse monitooring toob kaasa uue rütmi, konkureerib see kõige olemasolevaga — ja jääb üldjuhul alla. Selle jaoks ei ole päevakorrapunkti, ei ole omanikku, kes peaks seda oma rolli tuumosaks, ei ole hetke, mil see loomulikult jutuks tuleks.

Seevastu, kui monitooring muutub küsimuseks, mida juba küsitakse — olemasolevas riskikomitees, olemasolevas sisekontrollis, olemasolevas juhatusele aruandluse liinis — siis ei pea keegi midagi uut meeles pidama. Küsimus "millised AI-rakendused on lisandunud või muutunud" muutub siis nii loomulikuks kui küsimus "kas on uusi tarnijaid" või "kas on esinenud intsidente". See, kuidas see haakumine täpselt kuju võtab, sõltub sellest, kuidas olemasoleva riskistruktuuriga haakumine on teie juures juba korraldatud — see struktuur on lähtepunkt, mitte midagi selle kõrval.

Mis kuulub dokumenti

Toimiv monitooringudokument on piisavalt lühike, et seda korduvalt kasutada, ja piisavalt spetsiifiline, et sellest teavitada, kui midagi muutub. Selles on kindlasti:

• Ajakohane loetelu AI-rakendustest, sealhulgas see, mis on IT kaudu registreeritud, ja see, mida kasutatakse sellest väljaspool. See teine kategooria on tihti kõige suurem ning kaob igast dokumendist, mis toetub üksnes ametlikule heakskiidule.
• Riskiklassifikatsioon rakenduse kohta, nii et mitte igal muudatusel ei tule sama tähelepanu paluda. Sisemiste märkmete tekstigeneraator vajab teistsugust tähelepanu kui mudel, mis osaleb kliendi aktsepteerimise otsustamises.
• Omanik rakenduse kohta, nimi, mitte osakond. Omanikuta jääb muudatus kusagil märkamatuks.
• Kindel intervall, mille alusel loetelu üle vaadatakse, seotud hetkega, mis juba eksisteerib — mitte uue hetkega, mis tuleb eraldi planeerida.
• Koht, kus kõrvalekalded muutuvad nähtavaks, nii et uus kasutus või muutunud rakendamine ei paistaks silma alles kuude pärast.

Dokumendi väärtus ei seisne täielikkuses esimesel päeval. See on harva saavutatav ega ole ka vajalik. Väärtus seisneb selles, et dokumenti hoitakse ajakohasena, ja et selle ajakohastamine ei nõua eraldi pingutust lisaks sellele, mis juba toimub.

Miks vastutusele võtmine peatab informatsiooni

Monitooring sõltub sellest, mida inimesed on valmis teatama. Niipea kui teatamine tähendab riski, et selle eest kuidagi vastutusele võetakse, peatub informatsioon. Kes viib ülesande AI-tööriista abil kiiremini lõpule kui oodatud, ei teata sellest, kui selle tagajärjeks on eelarve vähendamine või ebamugav vestlus. Loetelu jääb siis ametlikult täielikuks ja sisuliselt tühjaks — täpselt see probleem, mis säilitab varjatud AI kasutust (shadow-AI).

Sellest tuleneb, et monitooring toimib ainult siis, kui küsimusi esitatakse ilma vastutusele võtmise ähvardusega. Mitte sellepärast, et kasutus peaks jääma tagajärgedeta, vaid sellepärast, et esimene samm — teadmine, mis toimub — vajab teistsugust hoiakut kui teine samm — hinnang, kas see on asjakohane. Kes need kaks sammu lasevad kokku langeda, ei saa mõlemale ausat vastust.

See vahetegemine on ka kohas, kus juhtimine (governance) ja aruandekohustus kohtuvad. Nähtavus juhatuse jaoks ei pea tähendama, et iga üksik rakendus laual laotatakse; küsimus on aruandlustasemest, mis võimaldab hinnangu andmist, minemata detailidesse uppuma, nagu on kirjeldatud ühe lehekülje pikkuse juhatuse aruande juures. See, mis on sellest allpool — otsuste dokumenteerimine konkreetsete rakenduste kohta — sobib pigem oversight-otsuste nimekirja kui dokumenti, mis läheb ülespoole.

Küsimus, kas poliitikadokumenti üldse loetakse, on sarnane küsimus: teksti, mida keegi ei konsulteeri, pakub niivõrd vähe tuge kui monitooringuprotsess, mida keegi ei täida. Vaadake selle kohta AI-poliitika, mida loetakse. Ja neile, kes küsivad, milline osa sellest vastutusest kuulub juhatuse lauda ja milline osa IT-juhtimisele, on olemas vahetegemine selle vahel, mida juhatuse liige peaks teadma AI-riskist ja mida CIO peaks teadma AI-riskist — mõlemad küsimused vajavad erinevat detailsuse tasandit ühe ja sama monitooringuprotsessi raames.

Sellest, mis toimib, sinnamaani, mida see annab

Monitooringustruktuur, mis haakub sellega, mis juba on paigas, annab mingil hetkel usaldusväärse ülevaate sellest, milliseid AI-rakendusi kasutatakse ja mille jaoks. See loend on omaette küsimus võrreldes sellega, kui palju alusprotsessist AI tegelikult tehtud saab, ja millise mõjuga. Kes soovib seda ülesannete kaupa välja arvutada — millist osa mingist funktsioonist või protsessist saab AI-le üle kanda, lähtudes ülesannetest, nagu neid praegu täidetakse — leiab selle FTE TO AI töövoo skaneeringust.