Tiekėjas priduria funkciją, kuri po gaubtu veikia kalbos modelio ar trečiosios šalies API pagrindu. Tiekėjui tai yra produkto atnaujinimas, ne įvykis, apie kurį reikia pranešti. Naujienose apie leidimą minimas naujas mygtukas, o ne technologija už jo. Jūsų organizacija programinę įrangą jau naudoja, sutartis pasirašyta pagal senąjį funkcionalumą, o pakeitimas nepraeina per pirkimų ar saugumo skyrių — jie stebi tik tai, kas vyksta įsigyjant naujus produktus, o ne tai, kas tyliai priduriama prie esamo produkto.
Modelis toks pats kaip su naršyklės plėtiniu, turinčiu prieigą prie jūsų pašto: prieiga ir funkcija egzistuoja jau anksčiau, nei kas nors jas įvertina. Su tiekėju atstumas tiesiog didesnis — jūs negalite pažvelgti į išeities kodą ir turite pasitikėti tuo, ką tiekėjas sako arba nesako.
Nėra momento, kuriuo tai apie save praneštų. Darbuotojas naudoja naują funkciją, nes ji patogi, o ne nes atpažįsta joje AI komponentą. Tiekėjas neturi motyvacijos apie tai aktyviai pranešti, kol kas nors nepaklausia: tai neatneša pajamų, tačiau gali sukelti klausimų. O tikimybė, kad patys tai pastebėsite, yra nedidelė, nebent įvyksta incidentas arba tai pastebi periodinė patikra.
Tai panašu į vidinį pilotinį projektą, kuris taip ir neišjungtas: kaip ir niekada neišjungtos bandomosios sistemos atveju, trūksta ne piktų kėslų, o momento, kuriuo kas nors užduoda klausimą. Su tiekėju prie to prisideda ir tai, kad esate priklausomi nuo jo noro atsakyti.
Išeities taškas nėra teisiškai reikalauti sutarties vykdymo prie pirmos abejonės, o pirmiausia sužinoti, kas vyksta. Tai pradedama klausimais tiekėjui: kurios produkto dalys naudoja AI, kokie duomenys į jas patenka ir ar tai pasikeitė nuo sutarties pasirašymo. Tiekėjai, galintys atsakyti be pasekmių, tai daro nuoširdžiau nei tiekėjai, kurie įtaria, kad sąžiningas atsakymas gali pakenkti sutarčiai.
Ta pati logika veikia ir organizacijos viduje: darbuotojai, naudojantys įrankį, apie kurio AI komponentą niekas nežino, apie tai praneša tik tada, kai pranešimas neatneša baudos. Kaip tai organizuoti, aprašyta darbuotojai, kurie naudoja įrankį, kurio niekas nepatvirtino. Su tiekėju principas veikia lygiai taip pat: klausimas be įtarimų sulaukia kitokio atsakymo nei klausimas, suprantamas kaip sankcijų pradžia.
Kai tampa aišku, ką tiekėjas pridėjo, kitas klausimas yra ne teisinis, o funkcinis: kokį vaidmenį šis AI komponentas atlieka procese, koks rizikos lygis ir kas dėl to turi būti užfiksuota. Tuos pačius klausimus turėtumėte kelti kiekvienam AI pritaikymui, kurį patys naudojate, nesvarbu, ar jis atkeliauja per tiekėją, ar per darbuotoją, naudojantį nemokamą įrankį — žr. taip pat įmonės duomenys, patenkantys į nemokamą pokalbių langą. Kas turi būti užfiksuota kiekvienam pritaikymui, priklauso nuo to, ką tas pritaikymas daro ir su kokiais duomenimis, o ne nuo to, iš kur tas pritaikymas atsirado. Apžvalga, kas šiuo atveju svarbu, yra pateikta kas turi būti užfiksuota kiekvienam pritaikymui.
Tiekėjas, kuris prideda AI be pranešimo, todėl neturėtų būti nagrinėjamas atskirai kaip incidentas, o turėtų būti įtrauktas į inventorizaciją, kurią jau kuriate visai kitai organizacijos daliai. Kaip ta inventorizacija praktiškai kuriama — įskaitant tai, kaip tiekėjams joje skiriama vieta — aprašyta kaip sukurti AI inventorizaciją.
Tai nėra pagrindas teisiniam puolimui prieš kiekvieną tiekėją, kuris kažko nepranešė. Sutarties pažeidimo nustatymas yra kitas klausimas nei rizikos nustatymas, ir šie du automatiškai nesutampa: tiekėjas gali kažko nepranešti, nors pritaikymas nekelia didelės rizikos, ir atvirkščiai. Pirmasis žingsnis yra rizikos įvertinimas, ne kaltės klausimas. Kas pradeda sankcijomis, iš tiekėjų ateityje gaus mažiau informacijos, ne daugiau.
Kai tampa aišku, kokie AI komponentai per tiekėjus, darbuotojus ar savas iniciatyvas veikia organizacijoje, kyla kitas klausimas: ką tai reiškia patiems darbams. Ne kiekvienas atkeliaujantis AI pritaikymas iš tiesų daro kažką naudingo procese, kuriame jis yra — ir ne kiekvienas procesas, kuris dabar vyksta rankiniu būdu, būtinai geriau apsiverčia be AI. FTE TO AI darbo skanavimas kiekvienai užduočiai apskaičiuoja, kokią darbo dalį pagrįstai gali perimti AI, nepriklausomai nuo to, kaip ta AI atsirado. Tai paverčia inventorizaciją, kurią dabar kuriate, ne tik valdymo įrankiu, bet ir pagrindu nustatyti, kur AI iš tiesų sukuria skirtumą.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.