Üks meeskond soovis midagi proovida. Vestlusrobot klienditeenindusküsimuste jaoks, skript, mis võtab aruanded kokku, ühendus keelemudeliga e-kirjade sortimiseks. Selleks ei olnud vaja suurt otsust: kellel oli konto, API-võti või tasuta prooviperiood, ja ühe pärastlõuna jooksul hakkas midagi töötama. Pilootprojekt toimis, või toimis piisavalt hästi, ja kellelgi ei olnud enam põhjust see välja lülitada.
See ei ole erand. See on tavaline viis, kuidas AI organisatsiooni siseneb. Mitte hanke või heaks kiidetud eelarve kaudu, vaid katseseade kaudu, mis elab üle oma katseseisundi. Testfaas ei ole kunagi ametlikult lõpetatud, kuna sellel ei olnud ka kunagi ametlikku algust, mida lõpetada.
Pilootprojekt, mis toimib, jääb kasutusse. Ja see, mida kasutatakse, muutub sõltuvuseks. Meeskond, kes ehitas aruannete kokkuvõtja, on võib-olla lahkunud, kuid kokkuvõte tuleb siiski iga nädal. Kellelgi ei ole ülesannet see välja lülitada, ja kellelgi ei taha võtta riski, et midagi lakkab töötamast, teadmata, mis selle asemele tuleb.
Lisaks sellele ei ole katseseadel enamasti omanikku selles tähenduses, mida juhtimisstruktuur eeldab. Riskiklassifikatsiooni ei ole tehtud, andmeanalüüsi ei ole läbi viidud, otsust selle kohta, kes on vastutav, kui midagi läheb valesti, ei ole tehtud. Pilootprojekt eksisteerib vahepealses ruumis: liiga kasutatud, et ignoreerida, liiga informaalne, et juhtida. See on täpselt see muster, mis viib töötajateni, kes kasutavad tööriista, mida kellelgi ei ole heaks kiitnud — ainult siis meeskonna tasandil, mitte individuaalsel tasandil.
Reaktsioon volitamata katseseadme avastamisel on tihtipeale: kes lubas selle, ja miks me sellest ei teadnud. See küsimus on mõistetav, aga see toimib vastupidiselt. Kes juba esimeses vestluses tunneb, et süüküsimus on lähenemas, ei räägi järgmisel korral enam midagi. Ja järgmine katseseade — mis kindlasti tuleb — kaob siis samamoodi vaateväljast nagu see praegune.
Inventuur, mis on ehitatud usaldusele, annab rohkem kui audit, mis on ehitatud kontrollile. Mitte sellepärast, et inimesed ei tahaks midagi varjata, vaid sellepärast, et informatsioon, mida te otsite, on kasutaja käes, ja see kasutaja räägib ainult siis, kui teda ei võeta vastutusele selle eest, mida ta arvab.
Kui katseseade on tuvastatud, ei ole esimene küsimus, kas see võib edasi eksisteerida, vaid mida see täpselt teeb. Millised andmed sisenevad, kes kasutab tulemust, ja mis juhtub, kui tulemus on vale. Need on samad küsimused, mis kehtivad iga muu AI-rakenduse kohta, ja vastus määrab, kas midagi on informaalne abivahend või risk, mis vajab tähelepanu.
Selle järel tuleb klassifikatsioon: kas rakendus sobitub riskikategooriasse, mis juba eksisteerib, või vajab see uut kaalutlust. Edasi: mida tuleb dokumenteerida, et tõendada, et organisatsioon teab, mis töötab ja miks. Just seda käsitleb mida tuleb rakenduse kohta dokumenteerida — mitte täiendava bürokraatiana, vaid minimaalse dokumentatsioonina, mis on vajalik, et eristada pilootprojekti riskist.
Katseseade, mis selle testi läbib, võib edasi eksisteerida, nüüd omaniku ja klassifikatsiooniga. Katseseade, mis testi ei läbi, tuleb maha jätta — kuid see on kontrollitud protsess, mitte selle isiku vallandamine, kes seda kunagi alustas.
Katseseade, mida ei ole kunagi välja lülitatud, on üks vorm laiemast mustrist. Mõelge brauserlaiendusele, millel on juurdepääs teie e-postile, mille kellegi kunagi paigaldas, et säästa aega, või ettevõtte andmetele, mis satuvad tasuta vestlusaknasse, sest see läks kiiremini kui ametlik tööriist. Kõik need olukorrad jagavad üht tunnust: need tekkisid praktilisest vajadusest, mitte poliitilisest otsusest, ja need jäävad kestma seni, kuni kellelgi neid ei küsi.
IT-poolt heaks kiidetud tarkvara nimekiri ei ole seetõttu inventuuri lähtepunkt — see on lähtepunkt otsingule selle kohta, mis jääb sellest nimekirjast välja. Kes soovib teada, milline see otsing välja näeb, leiab lähenemise kuidas te ehitate üles AI-inventuuri.
Katseseade, mis tuleb päevavalgele, tõstatab tavaliselt järelküsimuse, mis läheb kaugemale juhtimisest: miks see tegelikult nii hästi töötas, et kellelgi ei julgenud seda peatada? See on küsimus töö enda kohta, mitte ainult riski kohta. FTE TO AI töiskaneering arvutab ülesande kaupa välja, kui suur osa töö on AI-le üle antav, ja teeb sellega nähtavaks, mida katseseade juba kaudselt näitas: et osa tööd võib olla teisiti korraldatud. Kui Responsible AI Scan kaardistab, mis töötab ja millise riski all, näitab töiskaneering, kust see kasutus tuleb ja mida see struktuurselt tähendab ülesannete jaotusele.
Responsible AI Scan, koos ülalkirjeldatud inventuuri, klassifikatsiooni ja juhtimiskomplektiga, on arendamisel. Kes juba praegu selle küsimusega tegeleb ja soovib saada teavet niipea, kui tööriist on saadaval, saab liituda ootenimekirjaga.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.