Tim tal-marketing għandu bżonn assistent tal-kitba. Analista finanzjarju jrid għodda li tiġbor fil-qosor spreadsheets. Ħadd minnhom ma jistenna proċess ta' xiri li jdum xhur. Hemm karta ta' kreditu, indirizz tal-email, u fi żmien għaxar minuti hemm abbonament li d-dipartiment iħallas hu stess, jimmaniġġja hu stess, u juża hu stess. Id-dipartiment tal-IT ma jaf xejn dwaru. M'hemmx raġuni biex jiġi rapportat, għax ma sar xejn ħażin — sempliċement issolva problema.
Ħafna mill-AI-tad-dell ma tibdax b'tentattiv biex jiġu evitati r-regoli. Tibda b'kompitu li jrid isir aktar malajr, deadline li ma tistenniex proċess ta' approvazzjoni, u għodda li hi aċċessibbli mingħajr l-intervent ta' ħadd ieħor. Id-dipartiment li jabbona ma jarahx bħala deċiżjoni tal-IT. Iħossu bħal materjal tal-uffiċċju, mhux differenti minn liċenzja ta' softwer li kulħadd kien diġà juża qabel ma kien hemm politika ta' xiri ċentrali. Il-fatt li mudell tal-lingwa jipproċessa data tal-kumpanija, jaqra data tal-klijenti jew jiġġenera test abbozz li joħroġ 'il barra, għall-utent mhix mistoqsija ta' governanza. Hija sempliċement xogħol.
L-istess dinamika tidher fil-każ ta' fornitur li bena l-AI fil-prodott tiegħu mingħajr ma sar diskors separat dwar dan: il-funzjonalità tidher f'aġġornament, ħadd ma jiffirma xejn dwarha, u l-organizzazzjoni tużaha qabel ma xi ħadd jistabbilixxi min hu responsabbli għaliha.
Avviż li għodod mhux awtorizzati mhumiex permessi ma jbiddel ftit. Id-dipartiment li għandu l-abbonament iħoss li din hi soluzzjoni li taħdem, mhux riskju li għandu jiġi rrapportat. Projbizzjoni mingħajr alternattiva twassal għal żewġ affarijiet: l-abbonament jinżel taħt l-art, jew it-tim jieqaf jużah u x-xogħol jerġa' jsir bil-mod. Lanqas waħda minn dawn hi dak li organizzazzjoni tixtieq.
Ma' dan, abbonament bħal dan rari huwa deċiżjoni ta' darba. Isir parti mill-workflow, marbut ma' għodod oħra, użat f'proċessi li issa jiddependu minnu. Dak li jibda bħala prova jsir parti fissa minn kif il-tim jaħdem — eżattament l-istess mudell li jidher ukoll fil-każ ta' installazzjoni ta' prova li qatt ma tqaffiet: ħadd ma ddeċieda li jagħmilha permanenti, imma lanqas ħadd ma ddeċieda li jtemmha.
ir-reflex li tissejjaħ l-AI-tad-dell u l-utent jiġi kkonfrontat dwarha jaħdem bil-kontra. Min jaf li rapport iwassal għal ċanfira, ma jirrapportax. L-abbonament jibqa' jeżisti, biss inqas viżibbli. Id-dipartiment isir aktar kawt f'dak li jirrapporta, mhux aktar attent f'dak li juża.
Dak li jaħdem hu li ssaqsi mingħajr sanzjoni marbuta miegħu. Tim li juża għodda biex jgħaġġel kompitu ġeneralment għandu raġuni għal dan li l-organizzazzjoni tixtieq tafha: proċess li hu bil-mod wisq, kompitu li qed jinħela ż-żejjed, bżonn li l-offerta eżistenti ma tkoprix. Ara kif dan hu deskritt fil-każ ta' impjegati li jużaw għodda li ħadd ma approva — il-punt tat-tluq mhuwiex il-ksur, imma l-bżonn li hemm warajh.
L-ewwel pass mhuwiex l-infurzar, imma l-inventarjar: liema għodod jeżistu, min jużahom, għal liema kompitu, u b'liema data. Dan ma jsirx permezz tal-lista tal-IT — dik tirreġistra dak li ġie approvat, mhux dak li qed jintuża. Isir billi ssaqsi, b'mod li ma jkun fih l-ebda theddida.
Darba li jkun hemm viżjoni fuq x'inhu attiv, tista' ssegwi l-klassifikazzjoni: liema rwol għandha l-għodda, liema livell ta' riskju jaqbel magħha, u liema forma ta' sorveljanza hi xierqa. Mhux kull abbonament li dipartiment ikun issottoskriva hu problema. Għodda li tirriskrivi test pubbliku hi f'kategorija differenti minn għodda li tipproċessa data tal-klijenti mingħajr ma xi ħadd jaf fejn tmur dik id-data. Id-distinzjoni bejn dawn il-kategoriji hi eżattament dak li is-sorveljanza umana fil-prattika tirrigwarda: mhux kull użu jitlob l-istess livell ta' kontroll, imma kull użu jitlob li jkun magħruf li jeżisti.
Wara dan tiġi struttura ta' governanza li taqbel ma' dak li diġà jeżisti — mhux proċess ġdid ħdejn il-qafas eżistenti tar-riskju, imma estensjoni tiegħu. Organizzazzjoni li tittratta r-riskju tal-AI separatament mill-bqija tal-ġestjoni tar-riskju tagħha tirriskja li s-sistema t-tieni tiġi injorata, kif jista' jinqara fil-każ ta' proċess sekondarju ħdejn dak eżistenti li jiġi injorat. L-approċċ li jibqa' jeżisti hu dak li jaqbel ma' dak li l-organizzazzjoni diġà tagħmel biex tikkontrolla r-riskju.
Abbonament li dipartiment innifsu ssottoskriva ġeneralment hu sinjal li xi ħaġa trid issir aktar malajr milli l-proċess attwali jippermetti. Dik il-mistoqsija — liema parti mix-xogħol tista' titħaffef, u fejn dan jista' jsir b'mod strutturat minflok mingħajr ma jidher — hi eżattament dak li l-werkscan ta' FTE TO AI tagħti tweġiba dwaru. Il-werkscan tikkalkula għal kull kompitu liema parti mix-xogħol tista' tittieħed mill-AI, sabiex il-bżonn li wassal għal abbonament tad-dell jieħu post fi proċess li l-organizzazzjoni verament tafu u verament timmaniġġja.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.