Ekipa je želela nekaj preizkusiti. Klepetalnega robota za vprašanja strank, skripto, ki povzema poročila, povezavo z jezikovnim modelom za razvrščanje e-pošte. Za to ni bilo potrebno veliko odločitve: nekdo je imel račun, API-ključ ali brezplačno preizkusno obdobje, in v enem popoldnevu je nekaj že delovalo. Pilot je deloval, ali pa je deloval dovolj dobro, in nihče ni imel več razloga, da ga ugasne.
To ni izjema. To je običajen način, kako AI vstopi v organizacijo. Ne prek razpisa ali odobrenega proračuna, temveč prek poskusne postavitve, ki preživi svoj lastni poskusni status. Testna faza nikoli ni bila uradno zaključena, ker tudi nikoli ni bila uradno začeta, da bi jo bilo treba zaključiti.
Pilot, ki deluje, se uporablja. In kar se uporablja, postane odvisnost. Ekipa, ki je zgradila povzemalnik poročil, je morda odšla, vendar povzetek še vedno prispe vsak teden. Nihče nima naročila, da ga ugasne, in nihče ni pripravljen tvegati, da nekaj preneha delovati, brez da bi vedel, kaj bo prišlo namesto tega.
Poleg tega poskusna postavitev običajno nima lastnika v smislu, kot ga pričakuje struktura upravljanja. Ni bila izdelana razvrstitev tveganja, ni bila izvedena analiza podatkov, ni bila sprejeta odločitev o tem, kdo je odgovoren, če gre kaj narobe. Pilot obstaja v vmesnem prostoru: preveč uporabljen, da bi ga prezrli, preveč neuraden, da bi ga upravljali. To je natanko vzorec, ki vodi do zaposlenih, ki uporabljajo orodje, ki ga nihče ni odobril — le da je tokrat na ravni ekipe namesto na ravni posameznika.
Refleks ob odkritju nepooblaščene poskusne postavitve je pogosto: kdo je to dovolil, in zakaj tega nismo vedeli. To vprašanje je razumljivo, vendar deluje ravno nasprotno. Kdor že pri prvem pogovoru začuti, da prihaja vprašanje krivde, naslednjič ne bo povedal ničesar več. In naslednja poskusna postavitev — ki bo brez dvoma prišla — bo prav tako izginila iz vidnega polja kot ta.
Popis, zgrajen na zaupanju, prinese več kot revizija, zgrajena na nadzoru. Ne ker bi ljudje ne imeli ničesar skrivati, temveč ker so informacije, ki jih iščete, pri uporabniku, in ta uporabnik govori le, če ni obračunavan za to, kar pove.
Brž ko je poskusna postavitev odkrita, prvo vprašanje ni, ali lahko še naprej obstaja, temveč kaj natanko počne. Kateri podatki gredo vanjo, kdo uporablja izsledek, in kaj se zgodi, če je izsledek napačen. To so isti vprašanja, ki veljajo za vsako drugo uporabo AI, in odgovor določa, ali je nekaj neuradno pripomoček ali tveganje, ki si zasluži pozornost.
Nato sledi razvrstitev: ali se uporaba umesti v obstoječo kategorijo tveganja, ali zahteva novo presojo. Nato: kaj je treba zabeležiti, da bi izkazljivo dokazali, da organizacija ve, kaj deluje in zakaj. To je natanko tisto, kar obravnava kaj morate zabeležiti za posamezno uporabo — ne kot dodatna birokracija, temveč kot minimalna dokumentacija, potrebna za razločevanje med pilotom in tveganjem.
Poskusna postavitev, ki prestane to preverjanje, lahko obstaja naprej, zdaj z lastnikom in razvrstitvijo. Poskusna postavitev, ki preverjanja ne prestane, mora biti postopno ukinjena — vendar je to nadzorovan proces, ne odpuščanje osebe, ki jo je nekoč zagnala.
Poskusna postavitev, ki nikoli ni bila ugasnjena, je ena oblika širšega vzorca. Pomislite na razširitev brskalnika z dostopom do vaše e-pošte, ki jo je nekdo nekoč namestil, da bi prihranil čas, ali na poslovne podatke, ki pristanejo v brezplačnem klepetalnem okencu, ker je bilo to hitreje kot uradno orodje. Vse te situacije imajo skupno lastnost: nastale so iz praktične potrebe, ne iz odločitve o politiki, in obstajajo naprej, dokler jih nihče ne vpraša.
Seznam IT-ja z odobreno programsko opremo torej ni izhodišče popisa — je začetna točka iskanja tistega, kar pade zunaj tega seznama. Kdor želi vedeti, kako to iskanje poteka, najde pristop v kako zgradite popis AI.
Poskusna postavitev, ki pride na dan, običajno sproži nadaljnje vprašanje, ki presega upravljanje: zakaj je to sploh delovalo tako dobro, da si ga nihče ni upal ustaviti? To je vprašanje o samem delu, ne le o tveganju. Delovni pregled FTE TO AI izračuna za posamezno nalogo, kolikšen delež dela lahko prevzame AI, in s tem naredi vidno to, kar je poskusna postavitev že implicitno pokazala: da je del dela mogoče drugače organizirati. Kjer Responsible AI Scan prikaže, kaj deluje in pod kakšnim tveganjem, delovni pregled pokaže, od kod ta uporaba izvira in kaj to strukturno pomeni za razporeditev dela.
Responsible AI Scan, s popisom, razvrstitvijo in nizom orodij za upravljanje, opisanimi zgoraj, je v razvoju. Kdor se s tem že zdaj sooča in želi biti obveščen, ko bo orodje na voljo, se lahko prijavi na čakalni seznam.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.