Dobavljač isporučuje računovodstveni paket, HR-sustav ili alat za korisničku podršku. Postoji ugovor, ugovor o obradi podataka, možda i sigurnosna revizija. Zatim dobavljač u nekoj nadogradnji dodaje AI-funkciju: automatsku klasifikaciju, prijedloge teksta, chatbota koji je pušten na vaše podatke. U bilješkama o izdanju to se opisuje kao poboljšanje. Nitko u vašoj organizaciji nije o tome imao što reći, jer nitko nije znao da dolazi.
Ovo nije iznimka u načinu na koji se softver isporučuje. To je postalo standard. Dobavljači se natječu na temelju AI-funkcionalnosti i ugrađuju je što brže mogu, često kao dio pretplate koju već plaćate. Pitanje pada li to unutar vaših postojećih ugovora rijetko se postavlja prije nego što funkcija postane aktivna.
Odjel nabave provjerava dobavljača prilikom nabave. Nakon toga pažnja se pomiče na račun, dostupnost sustava i podršku. Funkcionalne nadogradnje odvijaju se izvan tog procesa, jer spadaju pod održavanje, a ne pod novu nabavu. Tko bi to trebao prijaviti? Dobavljač to vidi kao poboljšanje proizvoda. Nabava ne vidi nadogradnju, ili je vidi, ali smatra da se to tiče nekog drugog. Korisnik u organizaciji primijeti prije svega da neki gumb radi pametnije, i ne pita se stoji li iza toga jezični model koji podatke obrađuje izvan organizacije.
Ovaj obrazac sliči onome što se događa kod proširenja preglednika s pristupom vašoj e-pošti: pristup se dodjeljuje u trenutku kad nitko nije mislio na AI, a zatim ostaje neopaženo aktivan. Kod dobavljača je problem opsega veći, jer se ne odnosi na jednog zaposlenika, nego na cijelu organizaciju koja je izložena putem jednog ugovora.
Ugovorna odredba koja nameće obvezu prijave kod AI-funkcionalnosti pomaže kod novih ugovora. Kod postojećih ugovora te odredbe nema, i nije samo po sebi razumljivo da će dobavljač prihvatiti da vrijedi retroaktivno. Osim toga, klauzula ne rješava problem otkrivanja: ako nitko periodično ne provjerava što je dobavljač zapravo dodao, prijava ostaje ovisna o volji dobavljača da sam prijavi.
Što zaista djeluje jest fiksni presjek stanja: periodični pregled onoga što svaki ključni dobavljač trenutačno isporučuje u vidu AI-funkcionalnosti, odvojeno od onoga što je procijenjeno prilikom nabave. To nije pravni instrument, nego činjenični pregled, koji se zatim može provjeriti u odnosu na kategoriju rizika procesa u kojem dobavljač djeluje.
Ista dinamika koja održava sjenoviti AI kod zaposlenika djeluje i ovdje, samo na razini dobavljača. Ko postavlja pitanje "koristite li ovdje AI" želi iskren odgovor, a ne obranu account managera. To znači da se pitanje ne smije postavljati kao uvod u raskid ugovora, nego kao dio fiksnog procesa u kojem odgovor nema posljedicu osim klasifikacije. Vidite kako to funkcionira kod zaposlenika koji koriste alat koji nitko nije odobrio: korisna informacija dolazi tek kad je postavljanje pitanja odvojeno od kažnjavanja.
Popis dobavljača je početna točka, ne krajnja. Za svakog dobavljača koji ima pristup produkcijskim podacima, podacima o klijentima ili kadrovskim podacima relevantno je sadrži li u međuvremenu AI-funkcionalnost, što ta funkcionalnost radi s podacima, i pada li ta upotreba u istu kategoriju rizika za koju je dobavljač izvorno odobren. Dobavljač koji je prije pet godina procijenjen kao nizak rizik jer samo izdaje račune, sada može pokretati modul koji automatski klasificira račune na temelju jezičnog modela koji je treniran izvana. To je druga kategorija rizika, čak i ako na računu stoji isto ime.
Ovaj pregled ne treba stajati odvojeno od ostatka AI-upravljanja u organizaciji. Ista klasifikacija koja se primjenjuje na interno izgrađene alate ili na probni postav koji nikada nije isključen, treba se primijeniti i na ono što dobavljači unose. Jedan pregled, jedna skala rizika, bez obzira je li AI izgrađen interno, donesen od strane zaposlenika, ili dodan od dobavljača bez obavijesti.
Čim je jasno koji AI ulazi putem dobavljača, nastaje sljedeće pitanje koje ide dalje od samog rizika: što taj AI stvarno radi s poslom koji sada obavljaju ljudi, i gdje se to preklapa sa zadacima koji su ionako kandidati za automatizaciju. Radna skener tvrtke FTE TO AI izračunava po zadatku koji dio posla AI može preuzeti, bez obzira koji dobavljač ili sustav to konačno izvršava. To čini da inventarizacija koja počinje od rizika bude korisna i za pitanje koje slijedi nakon toga: ne samo što radi, nego koliko taj posao zapravo vrijedi.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.