Tarnija tarnib raamatupidamispaketti, personalisüsteemi või klienditeeninduse tööriista. On olemas leping, andmetöötluslepe, võib-olla ka turvaaudit. Seejärel lisab tarnija ühe uuenduse käigus AI-funktsiooni: automaatse klassifitseerimise, tekstisoovitused, vestlusroboti, mis on lastud teie andmete kallale. Väljalaskemärkmetes nimetatakse seda täiustuseks. Kellelgi teie organisatsioonis ei olnud selle kohta midagi öelda, kuna keegi ei teadnud, et see tuleb.
See ei ole erand tarkvara tarnimise viisis. See on saanud normiks. Tarnijad konkureerivad AI-funktsionaalsusega ja ehitavad selle sisse võimalikult kiiresti, tihti osana tellimusest, mille eest te juba maksate. Küsimust, kas see mahub teie olemasolevate kokkulepete raamesse, esitatakse harva enne, kui funktsioon läheb tööle.
Hankeosakond kontrollib tarnijat ostmise ajal. Pärast seda liigub tähelepanu arvele, töökindlusele ja toele. Funktsionaalsed uuendused jäävad sellest protsessist väljaspoole, kuna need liigituvad hoolduse, mitte uue ostu alla. Kes peaks sellest teavitama? Tarnija käsitleb seda tooteparendusena. Ostja ei näe uuendust, või näeb, aga arvab, et see puudutab keda teist. Organisatsiooni kasutaja märkab peamiselt, et üks nupp teeb midagi targemat, ega küsi endalt, kas selle taga on keeltemudel, mis töötleb andmeid väliselt.
Muster sarnaneb sellega, mis juhtub teie meilile juurdepääsu omava brauserilaienduse puhul: juurdepääs antakse hetkel, mil keegi AI-le ei mõelnud, ja jääb hiljem märkamatult aktiivseks. Tarnijate puhul on skaleerumisprobleem suurem, kuna see ei puuduta üht töötajat, vaid tervet organisatsiooni, mis puutub kokku ühe lepingu kaudu.
Lepinguline säte, mis kohustab teavitama AI-funktsionaalsusest, on kasulik uute lepingute puhul. Olemasolevate lepingute puhul sellist sätet ei ole, ja ei ole iseenesestmõistetav, et tarnija nõustub sellega tagasiulatuvalt. Pealegi ei lahenda klausel avastamisprobleemi: kui keegi ei kontrolli perioodiliselt, mida tarnija on tegelikult lisanud, jääb teavitamine sõltuvaks tarnija valmisolekust ise sellest teatada.
Mis tõesti töötab, on fikseeritud hetkeülevaade: perioodiline inventuur selle kohta, mida iga võtmetarnija hetkel AI-funktsionaalsuse osas pakub, lahti seotud sellest, mida ostuhetkel hinnati. See ei ole juriidiline vahend, vaid faktiline ülevaade, mida saab seejärel võrrelda protsessi riskikategooriaga, milles tarnija tegutseb.
Sama dünaamika, mis hoiab töötajate seas alal varju-AI-d, kehtib ka siin, ainult tarnija tasandil. Kes küsib "kas te kasutate siin AI-d", tahab ausat vastust, mitte kliendihalduri kaitsereaktsiooni. See tähendab, et küsimust ei tohiks esitada lepingu lõpetamise ettevalmistusena, vaid osana fikseeritud protsessist, milles vastusel ei ole tagajärgi, välja arvatud klassifitseerimine. Vaadake, kuidas see toimib töötajate puhul, kes kasutavad tööriista, mida keegi ei ole heaks kiitnud: kasulik teave tuleb esile alles siis, kui küsimuste esitamine on lahutatud karistamisest.
Tarnijate loend on lähtepunkt, mitte lõpp-punkt. Iga tarnija puhul, kellel on juurdepääs tootmisandmetele, kliendiandmetele või personaliandmetele, on oluline teada, kas seal on vahepeal AI-funktsionaalsus, mida see funktsionaalsus andmetega teeb, ja kas selline kasutus mahub samasse riskikategooriasse, mille alusel tarnija algselt heaks kiideti. Tarnija, keda viis aastat tagasi hinnati madala riskiga, kuna ta ainult esitas arveid, võib nüüd käitada moodulit, mis klassifitseerib arveid automaatselt väliselt treenitud keeltemudeli põhjal. See on teine riskikategooria, ehkki arvel on ikka sama nimi.
See inventuur ei peaks olema eraldiseisev organisatsiooni ülejäänud AI-juhtimisest. Sama klassifikatsioon, mida rakendatakse sisemiselt ehitatud tööriistadele või katseseadistusele, mida kunagi välja ei lülitatud, peaks kehtima ka selle kohta, mida tarnijad sisse toovad. Üks ülevaade, üks riskiskaala, sõltumata sellest, kas AI on sisemiselt ehitatud, töötaja poolt kaasa toodud, või tarnija poolt lisatud teatamata.
Kui on selge, milline AI tarnijate kaudu sisse tuleb, tekib järgmine küsimus, mis läheb kaugemale riskist: mida see AI faktiliselt teeb tööga, mida praegu tegevad inimesed, ja kus see kattub ülesannetega, mis niikuinii kvalifitseeruvad automatiseerimiseks. FTE TO AI töövoo skaneering arvutab iga ülesande kohta, kui suur osa tööst on AI-le üle antav, sõltumata sellest, milline tarnija või süsteem selle lõpuks täidab. See muudab riskist algava inventuuri kasutatavaks ka järgmise küsimuse jaoks: mitte ainult see, mis töötab, vaid see, mis on töö tegelik väärtus.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.