Għandkom lista ta' għodod tal-AI approvati. Il-mistoqsija mhijiex jekk dik il-lista hijiex korretta, iżda jekk għad tfissir xi ħaġa. Impjegat li jgħaġġel biċċa xogħol permezz ta' chatbot li mhux fil-lista, ma jirrapportax dan bħala inċident. Ma jirrapportahx għax ma jħossux inċident. Ir-risposta li ma tistgħux taċċettaw hija għalhekk "għandna politika tal-AI u lista approvata" — għax dik is-sentenza ma tgħid xejn dwar dak li jseħħ barra dik il-lista, u dak probabbilment huwa l-akbar parti.
Bħala CIO, intom min irid jispjega għaliex inċident tal-AI ma kienx magħruf qabel, filwaqt li l-bqija tal-organizzazzjoni jassumu li l-IT għandu ħarsa ġenerali. Dik il-ħarsa ġenerali teżisti għal sistemi li ġew akkwistati. Ma teżistix għall-estensjoni li tim installa hu stess, il-verżjoni ta' prova li ħaddieħor attiva, jew il-mudell li ġie flimkien ma' għodda tas-servizz tal-klijenti. Ir-riskju għalikom mhux li tintuża l-AI — dak iseħħ minkejja kollox — iżda li intom tkunu l-aħħar li tkunu jafu b'dan, fil-mument li diġà mar ħażin.
Inventarju korrett ibiddel il-pożizzjoni tagħkom. Minflok tirreaġixxu għal inċidenti li ma stennejtux, tistgħu tindikaw minn qabel fejn jinsabu r-riskji u għaliex. Din hija wkoll il-bażi biex tmexxu d-djalogu fl-organizzazzjoni mal-General Counsel, li minn perspettiva differenti jħares lejn l-istess shadow-AI, u mal-maniġer tar-riskju, li jrid jinkludiha fl-istruttura eżistenti tar-riskju minflok ma jibda proċess separat ħdejha.
Il-lista tal-IT tirreġistra dak li ġie akkwistat u approvat. Shadow-AI toħloq fejn dawn iż-żewġ passi jinqabżu: impjegat isib għodda, jużaha, u ma jirrapporta xejn għax jidher li m'hemm xejn x'jiġi rrapportat. Dan mhux negliġenza — huwa r-riżultat ta' proċess ta' akkwist li ma ġiex iddisinjat biex isegwi dak li n-nies jaqbdu weħidhom. Kemm hi akbar l-organizzazzjoni u kemm iktar timijiet jaħdmu b'mod indipendenti, kemm ikbar id-differenza bejn il-lista u r-realtà. Kemm hi żgħira dik id-differenza tiddependi minn kemm il-timijiet għandhom libertà li jagħżlu l-għodda huma stess u kemm dan l-imġiba diġà hija viżibbli — ma hemmx ċifra dwar dan, biss id-direzzjoni.
l-uniku mod biex tafu x'qed jaħdem tabilħaqq huwa li tistaqsu lin-nies li jużawh. Dan jaħdem biss jekk it-tweġiba ma twassalx għal konsegwenza għal min jagħtiha. Jekk tistaqsu "tuża għodod tal-AI li mhumiex approvati" b'tonalità li tfakkar konverżazzjoni ta' evalwazzjoni, tirċievu t-tweġiba li l-lista tal-IT diġà tathkom: le. Jekk tistaqsu dan mingħajr konsegwenzi, bl-għan li tifhmu minflok tikkorreġu, tinħoloq stampa li tabilħaqq taqbel mal-prattika. Din id-distinzjoni — mistoqsijiet mingħajr konsegwenzi versus mistoqsijiet b'konsegwenzi — hija d-differenza bejn inventarju li jiswa u eżerċizzju li ma jgħid xejn lil ħadd.
Lista ta' għodod użati hija punt tat-tluq, mhux punt tat-tmiem. Mhux kull applikazzjoni tal-AI iġġorr l-istess riskju. Għodda li tikteb mill-ġdid test għall-użu intern hija differenti minn għodda li tieħu sehem fid-deċiżjoni dwar l-aċċettazzjoni ta' klijent jew evalwazzjoni tal-persunal. Il-klassifikazzjoni skont ir-rwol — x'tagħmel is-sistema — u skont il-livell ta' riskju — x'inhu l-impatt jekk imur ħażin — hija meħtieġa biex tkunu tafu fuq fejn għandkom tiffokaw l-attenzjoni. Mingħajr klassifikazzjoni, kull applikazzjoni tal-AI tidher l-istess f'rapport, u dik hija eżattament l-istampa li ma tgħinx lil bord jieħu sehem.
Bħala CIO, probabbilment għandkom diġà qafas ta' riskju għas-sistemi tal-IT, is-sigurtà tal-informazzjoni u l-fornituri. Il-governanza tal-AI taħdem aħjar jekk tikkonnettja ma' dik l-istruttura milli jekk issir qafas separat ħdejha. Dan huwa wkoll fejn jiltaqgħu l-uffiċjal tal-konformità u l-mexxej tal-programm tal-AI: wisq inizjattivi separati tal-AI li ma jitkellmux ma' xulxin, filwaqt li l-bord jistenna tweġiba waħda koerenti dwar x'qed jiġri u x'qed isir dwaru.
Dak li shadow-AI tfisser, ivarja skont is-settur. Fis-settur tal-bini l-affari sejjer b'mod differenti minn fis-settur tal-installazzjoni, u ħaqqu li tħares lejn kif tidher il-governanza tal-AI fis-settur tal-bini jew kif tidher fis-settur tal-installazzjoni qabel ma tassumu li approċċ wieħed jgħodd għal kullimkien.
ir-Responsible AI Scan li twassal għal dan — inventarju, klassifikazzjoni, sett ta' governanza li jikkonnettja mal-istruttura eżistenti tagħkom — qed jinbena. Min irid jibda diġà b'dan, jista' jirreġistra ruħu fil-lista tal-istennija; għad m'hemmx prodott lest biex jiġi offrut, u aħna nippreferu niktbu dan onestament milli nwiegħdu xi ħaġa li għadha ma teżistix.
Hekk kif tkunu tafu liema AI qed tintuża u b'liema riskju, ġejja awtomatikament il-mistoqsija ta' segwitu: liema parti mix-xogħol innifsu tista' tkun kompitu għall-AI, u liema parti le. Din hija mistoqsija differenti mill-immaniġġjar tar-riskju — tikkonċerna l-kapaċità, mhux l-espożizzjoni — u l-work scan ta' FTE TO AI jikkalkula dan għal kull kompitu, sabiex intom mhux biss tkunu tafu x'qed jaħdem diġà, iżda wkoll fejn l-AI tista' tieħu f'idejha x-xogħol innifsu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.