Ponudnik dobavlja računovodski paket, kadrovski sistem ali orodje za podporo strankam. Obstaja pogodba, pogodba o obdelavi podatkov, morda varnostna revizija. Nato ponudnik v posodobitvi doda funkcijo AI: samodejno razvrščanje, besedilne predloge, klepetalnega robota, ki je bil spuščen na vaše podatke. Opombe ob izdaji to imenujejo izboljšava. Nihče v vaši organizaciji ni imel besede pri tem, ker nihče ni vedel, da prihaja.
To ni izjema pri dobavi programske opreme. To je postalo standard. Ponudniki tekmujejo na področju funkcionalnosti AI in jo vgrajujejo kar se da hitro, pogosto kot del naročnine, ki jo že plačujete. Vprašanje, ali to sodi v okvir vaših obstoječih dogovorov, se redko zastavi, preden funkcija zaživi.
Nabavni oddelek preveri ponudnika ob nakupu. Nato se pozornost preusmeri na račun, razpoložljivost sistema in podporo. Funkcionalne posodobitve potekajo zunaj tega procesa, saj sodijo pod vzdrževanje, ne pod nov nakup. Kdo naj bi to sploh sporočil? Ponudnik to vidi kot izboljšavo izdelka. Nabavnik posodobitve ne opazi, ali jo opazi, vendar meni, da to zadeva nekoga drugega. Uporabnik v organizaciji predvsem opazi, da gumb počne nekaj pametnejšega, in se ne sprašuje, ali stoji zadaj jezikovni model, ki podatke obdeluje zunaj organizacije.
Vzorec spominja na to, kar se zgodi pri razširitvi brskalnika z dostopom do vaše e-pošte: dostop se podeli v trenutku, ko nihče ni razmišljal o AI, in nato ostane neopazno aktiven. Pri ponudnikih je problem obsega večji, ker ne gre za enega zaposlenega, temveč za celotno organizacijo, ki je izpostavljena prek ene same pogodbe.
Pogodbena določba, ki uveljavlja obveznost obveščanja ob funkcionalnosti AI, pomaga pri novih pogodbah. Pri obstoječih pogodbah je te določbe ni, in ni samoumevno, da bo ponudnik to sprejel za nazaj. Poleg tega klavzula ne reši problema odkrivanja: če nihče periodično ne preverja, kaj je ponudnik dejansko dodal, je obveščanje še naprej odvisno od pripravljenosti ponudnika, da sam poroča.
Kar pa deluje, je stalni trenutni posnetek: periodičen popis tega, kaj vsak ključni ponudnik trenutno ponuja na področju funkcionalnosti AI, ločeno od tega, kar je bilo ocenjeno ob nakupu. To ni pravni instrument, temveč dejansko preglednica, ki jo je nato mogoče preveriti glede na kategorijo tveganja procesa, v katerem ponudnik deluje.
Enaka dinamika, ki vzdržuje senčno AI pri zaposlenih, se odvija tudi tukaj, le na ravni ponudnikov. Kdor postavi vprašanje »ali za to uporabljate AI«, želi pošten odgovor, ne odzivnega obrambnega stavka od skrbnika za stranke. To pomeni, da vprašanja ni treba postaviti kot pripravo na odpoved pogodbe, temveč kot del ustaljenega postopka, kjer odgovor nima druge posledice kot razvrstitev. Poglejte, kako to deluje pri zaposlenih, ki uporabljajo orodje, ki ga nihče ni odobril: uporabne informacije pridejo na dan šele, ko postavljanje vprašanj ni povezano s kaznovanjem.
Seznam ponudnikov je izhodišče, ni končna točka. Za vsakega ponudnika, ki ima dostop do produkcijskih podatkov, podatkov o strankah ali kadrovskih podatkov, je pomembno, ali je medtem vgrajena funkcionalnost AI, kaj ta funkcionalnost počne s podatki in ali ta uporaba sodi v isto kategorijo tveganja, za katero je bil ponudnik prvotno odobren. Ponudnik, ki je bil pred petimi leti ocenjen kot nizko tveganje, ker je zgolj izdajal račune, lahko zdaj poganja modul, ki račune samodejno razvršča na podlagi jezikovnega modela, usposobljenega zunaj organizacije. To je druga kategorija tveganja, tudi če je na računu še vedno isto ime.
Ta popis ne bi smel biti ločen od preostalega upravljanja AI v organizaciji. Enaka razvrstitev, ki se uporablja za notranje razvita orodja ali za poskusno postavitev, ki nikoli ni bila ugasnjena, bi morala veljati tudi za tisto, kar prinašajo ponudniki. En pregled, ena lestvica tveganja, ne glede na to, ali je AI zgrajena interno, jo je prinesel zaposleni, ali jo je dodal ponudnik brez obvestila.
Ko je jasno, katera AI prihaja prek ponudnikov, se pojavi naslednje vprašanje, ki presega samo tveganje: kaj ta AI dejansko počne z delom, ki ga zdaj opravljajo ljudje, in kje se to prekriva z nalogami, ki bi tako ali tako prišle v poštev za avtomatizacijo. Delovni skener podjetja FTE TO AI po posamezni nalogi izračuna, kolikšen delež dela je mogoče prevzeti z AI, ne glede na to, kateri ponudnik ali sistem to nazadnje izvede. To naredi popis, ki se začne pri tveganju, uporaben tudi za vprašanje, ki pride za tem: ne le kaj teče, temveč koliko je delo dejansko vredno.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.