Piegādātājs piegādā grāmatvedības pakotni, HR sistēmu vai klientu apkalpošanas rīku. Ir līgums, datu apstrādes vienošanās, iespējams, drošības audits. Tad piegādātājs kādā atjauninājumā pievieno AI funkciju: automātisku klasifikāciju, teksta ieteikumus, čatbotu, kam ir piekļuve jūsu datiem. Izlaiduma piezīmēs tas nosaukts par uzlabojumu. Nevienam jūsu organizācijā nav bijis par to ko sacīt, jo neviens nezināja, ka tas nāk.
Tas nav izņēmums no tā, kā programmatūra tiek piegādāta. Tas ir kļuvis par standartu. Piegādātāji konkurē ar AI funkcionalitāti un iebūvē to cik ātri vien iespējams, bieži kā daļu no abonementa, ko jūs jau maksājat. Jautājums, vai tas iekļaujas jūsu esošajās vienošanās, tiek uzdots reti pirms funkcija tiek aktivizēta.
Iepirkuma nodaļa novērtē piegādātāju iegādes brīdī. Pēc tam uzmanība pāriet uz rēķinu, darbspējas laiku un atbalstu. Funkcionālie atjauninājumi notiek ārpus šī procesa, jo tie ietilpst uzturēšanā, nevis jaunā iegādē. Kam būtu jāziņo? Piegādātājs to redz kā produkta uzlabojumu. Iepircējs atjauninājumu nepamana, vai pamana, bet domā, ka tas skar kādu citu. Lietotājs organizācijā galvenokārt pamana, ka poga dara kaut ko gudrāku, un neaizdomājas, vai tās pamatā ir valodas modelis, kas datus apstrādā ārēji.
Modelis atgādina to, kas notiek ar pārlūkprogrammas paplašinājumu ar piekļuvi jūsu e-pastam: piekļuve tiek piešķirta brīdī, kad neviens nedomāja par AI, un pēc tam paliek nepamanīta aktīva. Piegādātāju gadījumā mēroga problēma ir lielāka, jo tā attiecas nevis uz vienu darbinieku, bet uz visu organizāciju, kas tiek pakļauta riskam ar viena līguma starpniecību.
Līgumiska norma, kas paredz paziņošanas pienākumu par AI funkcionalitāti, palīdz jaunos līgumos. Esošajos līgumos šīs normas nav, un nav pašsaprotami, ka piegādātājs to pieņemtu ar atpakaļejošu spēku. Turklāt klauzula neatrisina atklāšanas problēmu: ja neviens periodiski nepārbauda, ko piegādātājs faktiski ir pievienojis, paziņošana joprojām ir atkarīga no piegādātāja gatavības ziņot pašam.
Tas, kas patiešām darbojas, ir regulārs momentuzņēmums: periodiska inventarizācija par to, ko katrs galvenais piegādātājs šobrīd piedāvā AI funkcionalitātes jomā, atrauta no tā, kas tika novērtēts iegādes brīdī. Tas nav juridisks instruments, bet faktisks pārskats, kuru pēc tam var pārbaudīt pret procesa riska kategoriju, kurā piegādātājs darbojas.
Tā pati dinamika, kas uztur ēnu AI darbinieku līmenī, darbojas arī šeit, tikai piegādātāju līmenī. Tas, kurš uzdod jautājumu "vai jūs tam izmantojat AI", grib godīgu atbildi, nevis klienta menedžera aizsardzības reakciju. Tas nozīmē, ka jautājumu nedrīkst uzdot kā priekšspēli līguma izbeigšanai, bet kā daļu no pastāvīga procesa, kurā atbildei nav seku, izņemot klasifikāciju. Skatiet, kā tas darbojas ar darbiniekiem, kas izmanto rīku, ko neviens nav apstiprinājis: noderīgā informācija atbrīvojas tikai tad, ja jautājumu uzdošana ir atdalīta no sodīšanas.
Piegādātāju sarakts ir sākumpunkts, ne beigu punkts. Katram piegādātājam, kam ir piekļuve produkcijas datiem, klientu datiem vai personāla datiem, ir svarīgi, vai tam pa šo laiku ir iebūvēta AI funkcionalitāte, ko šī funkcionalitāte dara ar datiem, un vai šis lietojums iekļaujas tajā pašā riska kategorijā, kurā piegādātājs sākotnēji ticis apstiprināts. Piegādātājs, kas pirms piecpadsmit gadiem novērtēts kā zema riska, jo tas veic tikai rēķinu izrakstīšanu, tagad var darbināt moduli, kas rēķinus automātiski klasificē, izmantojot valodas modeli, kas apmācīts ārēji. Tā ir cita riska kategorija, kaut arī rēķinā ir tas pats nosaukums.
Šai inventarizācijai nevajadzētu pastāvēt atsevišķi no organizācijas AI pārvaldības pārējās daļas. Tā pati klasifikācija, kas tiek piemērota iekšēji izstrādātiem rīkiem vai izmēģinājuma iekārtai, kas nekad netika izslēgta, būtu piemērojama arī tam, ko ienes piegādātāji. Viens pārskats, viena riska skala, neatkarīgi no tā, vai AI ir izstrādāta iekšēji, ieviesta ar darbinieka starpniecību, vai pievienota piegādātāja, par to nepaziņojot.
Tiklīdz ir skaidrs, kāda AI nāk iekšā ar piegādātāju starpniecību, rodas turpmāks jautājums, kas ir plašāks par risku: ko šī AI faktiski dara ar darbu, kuru tagad veic cilvēki, un kur tas pārklājas ar uzdevumiem, kas jau tā ir piemēroti automatizācijai. FTE TO AI darba skenēšana (werkscan) katram uzdevumam izrēķina, kādu daļu darba var pārņemt AI, neatkarīgi no tā, kurš piegādātājs vai sistēma to galu galā izpilda. Tas padara inventarizāciju, kas iesākas ar risku, izmantojamu arī tam jautājumam, kas nāk pēc tam: ne tikai, kas darbojas, bet ko darbs faktiski ir vērts.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.