Tiekėjas pristato apskaitos paketą, personalo sistemą ar klientų aptarnavimo įrankį. Yra sutartis, duomenų tvarkymo sutartis, galbūt saugumo auditas. Tada tiekėjas atnaujinimo metu įtraukia AI funkciją: automatinę klasifikaciją, teksto pasiūlymus, pokalbių robotą, kuris paleistas ant jūsų duomenų. Atnaujinimo aprašyme tai pavadinama patobulinimu. Niekas jūsų organizacijoje neturėjo galimybės dėl to pasisakyti, nes niekas nežinojo, kad tai ateina.
Tai nėra išimtis, kaip programinė įranga pristatoma. Tai tapo norma. Tiekėjai konkuruoja AI funkcionalumu ir įtraukia jį kiek galima greičiau, dažnai kaip dalį prenumeratos, kurią jūs jau mokate. Klausimas, ar tai patenka į jūsų esamas sutartis, retai keliamas prieš funkciją paleidžiant.
Pirkimo skyrius įvertina tiekėją įsigijimo metu. Po to dėmesys nukrypsta į sąskaitas, veikimo laiką ir palaikymą. Funkciniai atnaujinimai vyksta už šio proceso ribų, nes jie patenka į priežiūros, o ne naujo įsigijimo kategoriją. Kas turėtų apie tai pranešti? Tiekėjas tai vertina kaip produkto patobulinimą. Pirkėjas atnaujinimo nepastebi, arba pastebi, bet mano, kad tai kito rūpestis. Organizacijos naudotojas dažniausiai pastebi tik tai, kad mygtukas daro kažką protingiau, ir nesusimąsto, ar už to slypi kalbos modelis, tvarkantis duomenis išorėje.
Tai panašu į tai, kas vyksta su naršyklės plėtiniu, turinčiu prieigą prie jūsų pašto: prieiga suteikiama tuo metu, kai apie AI niekas nepagalvojo, ir po to lieka veikianti nepastebėta. Tiekėjų atveju mastelio problema didesnė, nes tai neapima vieno darbuotojo, o visą organizaciją, kuri per vieną sutartį yra atverta.
Sutartinė nuostata, įpareigojanti pranešti apie AI funkcionalumą, padeda sudarant naujas sutartis. Esamose sutartyse tokios nuostatos nėra, ir nėra savaime aišku, kad tiekėjas ją priims su galiojimu atgaline data. Be to, nuostata neišsprendžia aptikimo problemos: jei niekas periodiškai nepatikrina, ką tiekėjas faktiškai pridėjo, pranešimas tebūna priklausomas nuo tiekėjo noro pačiam apie tai informuoti.
Tai, kas veikia, yra fiksuota momentinė nuotrauka: periodinis kiekvieno pagrindinio tiekėjo AI funkcionalumo inventorizavimas šiuo metu, atsietas nuo to, kas buvo įvertinta įsigijimo metu. Tai nėra teisinis instrumentas, o faktinė apžvalga, kurią po to galima patikrinti pagal proceso, kuriame tiekėjas veikia, rizikos kategoriją.
Ta pati dinamika, kuri palaiko šešėlinę AI tarp darbuotojų, veikia ir čia, tik tiekėjų lygmenyje. Kas užduoda klausimą „ar jūs čia naudojate AI tam“, norima gauti nuoširdų atsakymą, o ne apsauginę paskyros valdytojo reakciją. Tai reiškia, kad klausimas neturi būti keliamas kaip įžanga į sutarties nutraukimą, o kaip dalis nuolatinio proceso, kuriame atsakymas neturi jokių pasekmių, išskyrus klasifikaciją. Žr., kaip tai veikia su darbuotojais, kurie naudoja įrankį, kurio niekas nepatvirtino: naudinga informacija atsiskleidžia tik tada, kai klausimo kėlimas atsiejamas nuo baudimo.
Tiekėjų sąrašas yra pradžios taškas, ne galutinis rezultatas. Kiekvienam tiekėjui, turinčiam prieigą prie gamybos duomenų, klientų duomenų ar personalo duomenų, yra svarbu, ar dabar jame yra AI funkcionalumo, ką ta funkcija daro su duomenimis, ir ar tas naudojimas patenka į tą pačią rizikos kategoriją, kuriai tiekėjas pirmiausia buvo patvirtintas. Tiekėjas, kuris prieš penkis metus buvo įvertintas kaip mažos rizikos, nes tik išrašinėja sąskaitas, dabar galbūt vykdo modulį, kuris automatiškai klasifikuoja sąskaitas remdamasis kalbos modeliu, apmokytu išorėje. Tai kitokia rizikos kategorija, net jei sąskaitoje nurodytas tas pats pavadinimas.
Ši inventorizacija neturėtų būti atskirta nuo likusios organizacijos AI valdymo. Ta pati klasifikacija, taikoma vidiniams sukurtiems įrankiams ar bandomajai konfigūracijai, kuri niekada nebuvo išjungta, turėtų būti taikoma ir tam, ką tiekėjai atsineša. Viena apžvalga, viena rizikos skalė, nesvarbu, ar AI sukurta vidujai, atsinešta darbuotojo, ar tiekėjo pridėta be pranešimo.
Kai tampa aišku, kokia AI patenka per tiekėjus, iškyla tolesnis klausimas, kuris apima daugiau nei vien riziką: ką ta AI faktiškai daro su darbu, kurį dabar atlieka žmonės, ir kur tai sutampa su užduotimis, kurios vis tiek tinkamos automatizuoti. FTE TO AI darbo skanas apskaičiuoja pagal kiekvieną užduotį, kokią darbo dalį AI galima perimti, nepriklausomai nuo to, kuris tiekėjas ar sistema tai galiausiai atlieka. Tai leidžia inventorizaciją, kuri prasideda nuo rizikos, panaudoti ir vėlesniam klausimui: ne tik kas veikia, bet ir ką tas darbas iš tikrųjų vertas.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.