Teil on nimekiri heakskiidetud AI-tööriistadest. Küsimus ei ole selles, kas see nimekiri on õige, vaid kas see veel midagi tähendab. Töötaja, kes kiirendab ülesannet vestlusrobotiga, mis ei ole nimekirjas, ei teata sellest intsidendina. Ta ei teata sellest, kuna see ei tundu intsidendina. Vastus, mida te ei aktsepteeri, on siis "meil on AI-poliitika ja heakskiidetud nimekiri" — sest see lause ei ütle midagi selle kohta, mis toimub väljaspool sellest nimekirja, ja see on tõenäoliselt suurem osa.
CIO-na olete te see, kes peab selgitama, miks AI-intsident ei olnud varem teada, samal ajal kui ülejäänud organisatsioon eeldab, et IT-l on ülevaade. See ülevaade on olemas süsteemide kohta, mis on soetatud. Seda ei ole olemas lisandmooduli kohta, mille meeskond on ise paigaldanud, prooviversiooni kohta, mille kellegi on aktiveerinud, või mudeli kohta, mis on tulnud kaasa klienditeenindustööriistaga. Risk teie jaoks ei ole see, et AI-d kasutatakse — see juhtub niikuinii — vaid see, et te saate sellest teada viimasena, hetkel, kui asi on juba viltu läinud.
Õige inventuur muudab teie positsiooni. Selle asemel, et reageerida intsidentidele, mida te ette ei näinud, saate ette näidata, kus riskid asuvad ja miks. See on ka aluseks organisatsiooni sisese vestluse pidamiseks General Counseliga, kes vaatab teisest vaatenurgast sama varju-AI-d, ja riskijuhiga, kes soovib selle paigutada olemasolevasse riskistruktuuri, mitte panna eraldi rada selle kõrvale.
IT-nimekiri registreerib, mis on soetatud ja heaks kiidetud. Varju-AI tekib seal, kus need kaks etappi vahele jäetakse: töötaja leiab tööriista, kasutab seda ja ei raporteeri midagi, kuna näib, et ei ole midagi raporteerida. See ei ole hooletus — see on tulemus soetusprotsessist, mis ei ole loodud jälgimiseks selle üle, mida inimesed ise leiavad. Mida suurem organisatsioon ja mida rohkem meeskonnad iseseisvalt töötavad, seda suurem võib olla vahe nimekirja ja tegelikkuse vahel. Kui väike see vahe on, sõltub sellest, kui palju vabadust meeskondadel on tööriistu ise valida ja kui nähtav see käitumine juba on — arv selle kohta puudub, on olemas ainult suund.
Ainus viis teada saada, mis tegelikult toimib, on küsida seda inimestelt, kes seda kasutavad. See toimib ainult siis, kui vastus ei too kaasa tagajärgi sellele, kes selle annab. Kui te küsite "kasutate te AI-tööriistu, mis ei ole heaks kiidetud" toonis, mis meenutab hindamisvestlust, saate vastuse, mille IT-nimekiri juba andis: ei. Kui küsite selle lahti karistusest, eesmärgiga mõista, mitte parandada, tekib pilt, mis vastab tegelikult praktikale. See vahe — küsimine tagajärgedeta versus küsimine tagajärgedega — on vahe inventuuri vahel, mis on midagi väärt, ja harjutuse vahel, mis ei ütle kellelegi midagi.
Kasutatavate tööriistade nimekiri on lähtepunkt, mitte lõpp-punkt. Mitte igal AI-rakendusel ei ole sama risk. Tööriist, mis kirjutab teksti ümber siseseks kasutamiseks, on erinev tööriistast, mis osaleb otsuses kliendi aktsepteerimise või töötaja hindamise kohta. Klassifitseerimine rolli järgi — mida süsteem teeb — ja riskitaseme järgi — mis on mõju, kui asi läheb viltu — on vajalik, et teada, kuhu tähelepanu suunata. Klassifitseerimiseta näeb iga AI-rakendus aruandes ühesugune, ja see on täpselt pilt, mis ei aita juhatust kaasa saada.
CIO-na on teil tõenäoliselt juba riskiraamistik IT-süsteemide, infoturbe ja tarnijate jaoks. AI-juhtimine toimib parem, kui see ühendub selle struktuuriga, kui saada eraldi raamistikuks selle kõrval. See on ka see, millega puutuvad kokku vastavusametnik ja AI-programmijuht: liiga palju eraldiseisvaid AI-algatusi, mis üksteisega ei suhtle, samal ajal kui juhatus ootab just ühte sidusat vastust küsimusele, mis toimub ja mida selle kohta tehakse.
Mida varju-AI tähendab, erineb sektori kaupa. Ehitussektoris toimib see erinevalt kui paigaldussektoris, ja tasub vaadata, kuidas AI-juhtimine kujuneb ehitussektoris või kuidas see näeb välja paigaldussektoris, enne kui eeldate, et üks lähenemine sobib kõikjale.
Responsible AI Scan, mis selle annab — inventuur, klassifitseerimine, juhtimiskomplekt, mis ühendub teie olemasoleva struktuuriga — on ehitamisel. Kes soovib sellega juba nüüd tegelema hakata, saab registreeruda ootenimekirja; valmis toodet pakkuda veel ei ole, ja eelistame seda ausalt kirja panna, kui lubada midagi, mida veel ei ole.
Niipea kui te teate, milline AI on kasutusel ja millise riskiga, järgneb loomulikult järgmine küsimus: milline osa tööst võiks olla ülesanne AI-le ja milline osa mitte. See on teistsugune küsimus kui riskijuhtimine — see käib võimekuse, mitte kokkupuute kohta — ja FTE TO AI töö-skanneering arvutab selle ülesannete kaupa välja, nii et te ei teaks ainult, mis juba toimib, vaid ka kus AI võiks töö ise üle võtta.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.