Meeskond soovib töötada kiiremini ja käivitab AI-tööriista, tavaliselt selleks, et testida midagi konkreetset: kokkuvõtet, esimest kavandit, klassifikatsiooni. Heakskiitmisprotsessi ei ole, kuna see on "veel ainult katse". Katse toimib, või toimib piisavalt hästi, ja kaob igapäevasesse töövoogu, ilma et kunagi oleks tehtud otsust seda alal hoida. Ei olnud hetke, mil keegi teadlikult otsustas: võtame selle oma AI-inventuuri, sellele on omanik, see kuulub sellisele riskitasemele. Oli ainult hetk, mil alustati, ja see hetk juurdub töövisiooniks, mida enam keegi puudutanud ei ole.
Katsestendi seiskamine eeldab otsust. Jätkamine ei eelda midagi. Kuni keegi ei teata intsidendist või välispool ei küsi kontrolli tõendeid, ei ole ka põhjust tulla tagasi millegi juurde, mis on ammu muutunud tavapäraseks tööks. Tööriista kasutavatel inimestel ei ole huvi seda esile tõsta: see toimib, see säästab aega, ja teavitamine tundub riskina, et see võetakse ära. Sel moel jääb ajutine lahendus struktuurseks, mitte kuna keegi ei tea sellest, vaid kuna keegi ei esita küsimust, mis viiks sulgemisele.
On loogiline arvata, et heakskiidetud tarkvara ülevaade muudab selle nähtavaks. See ülevaade näitab, mida on soetatud, mitte mida kasutatakse. Katsestend jookseb sageli väljaspool sellist kanalit: tasuta konto, brauseri pistikprogramm, eraldi tellimus meeskonnakaardil. Sama mustrit näeme brauserilaienduse puhul, millel on juurdepääs teie meilile, osakonna puhul, millel on oma tellimus väljaspool keskset hankeprotsessi, ja äriandmete puhul, mida kleebitakse tasuta jututoa aknasse, ilma et selle taga oleks lepingut andmetöötluse tingimustega. Ükski nendest olukordadest ei ole IT-nimekirjas, kuna ükski neist ei ole kunagi projektina registreeritud.
Einus viis teada, mis tegelikult töötab, on küsida. Mitte tagantjärgi kontrollina, vaid avanguna: mida te kasutate, milleks, ja alates millal. Kes esitab selle küsimuse karistuse ähvardusega taustal, ei saa vastust või saab poolikut vastust. Töötajatel, kes kasutavad tööriista, mida keegi ei ole heaks kiitnud, on ausalt vastates midagi kaotada ja mitte midagi võita. See on täpselt pinge, mis tuleb esile töötajate puhul, kes kasutavad tööriista, mida keegi ei ole heaks kiitnud: ilma kutsuta, millele on turvaline vastata, jääb katsestend maa alla, ega kaob, muutub vaid vaiksemaks.
Inventuur, millel ei ole tagajärgi teatajale, on esimene samm, mitte kokkuvõte. Pärast nähtavaks tegemist järgneb klassifitseerimine: mis see on, millist rolli see mängib protsessis, ja milline riskitase sellele vastab. Sisemärkmete kokkuvõtte tööriist eeldab teistsugust režiimi kui tööriist, mis osaleb otsustamisel kliendi vastuvõtmise või personali hindamise üle. Selline klassifikatsioon peaks liituma olemasoleva riskistruktuuriga, mitte olema uus raamistik selle kõrval. Teine, mitteametlik protsess, mida ignoreeritakse olemasoleva protsessi kõrval, on täpselt see, mispärast teine protsess olemasoleva kõrval jäetakse ignoreerimatuks on tuttav muster: inimesed järgivad väiksema vastupanuga teed, ja see tee muutub nähtavaks alles siis, kui keegi selle kohta küsib.
Seejärel tuleb küsimus, kes seda veel vaatab. Katsestendil, mis on igapäevatöösse vabastatud, ei ole tavaliselt enam omanikku, kes hindaks tulemusi enne nende kasutamist. Siin muutub oluliseks mida menselijk toezicht praktikas tähendab: mitte abstraktse põhimõttena, vaid konkreetse küsimusena, kes loeb väljundit enne, kui see mõjutab klienti, dokumenti või otsust.
Juht, kellelt selle kohta küsitakse — järelevaataja, audiitori, nõukogu poolt — omab kahte võimalust: väita, et ülevaade on täielik, või öelda, et protsess on olemas, et see täielikuks muuta ja hoida. Teine võimalus on ausam ja pikemas perspektiivis tugevam, kuna organisatsioon, mis aktiivselt inventeerib, omab midagi tõendatavat, ka kui inventuur ei ole veel valmis. Küsimus ei ole selles, et loata katsestendi enam kunagi ei tekiks. Küsimus on selles, et on olemas mehhanism, mis need leiab enne, kui intsident selle teie eest teeb.
Kui on kord nähtavaks tehtud, mis AI on plaanimatult tekkinud, tekib sageli teine küsimus: kui see meeskond juba tegi seda, ilma et keegi seda organiseeriks, mis juhtuks, kui me seda tegelikult organiseeriksime? See on teistsugune küsimus kui haldus (governance), ja see kuulub FTE TO AI töövahendite skaneerimisele, mis arvutab ülesande kohta, milline osa töö on mõistlikult AI-le üle antav. Kus see leht kirjeldab, kuidas saada kontroll selle üle, mis juba töötab, kirjeldab see skaneerimine, sama kaine pilguga ülesannetele ja riskidele, mida veel saab üles ehitada.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.