AI-rakendus teeb vea. Otsus ei ole õige, nõuanne on eksitav, klient lükatakse ekslikult tagasi. Küsimus, mis sellele järgneb, ei ole ainult tehniline. Kes peaks selle ette näinud olema, kes haldas süsteemi ja kes suudab selgitada, miks see kasutusele võeti nii, kui see kasutusele võeti.
See vastus ei eksisteeri registrist eraldi. Vastutus eeldab, et keegi teab, et rakendus eksisteerib, milleks see mõeldud on ja kes selle eest vastutab. Selle aluse puudumisel on vastutuse küsimus retooriline: kedagi ei ole, kes seda teaks, seega ei ole kedagi, kes saaks seda selgitada.
Responsible AI Scan kaardistab, mis on kasutuses, kes seda kasutab ja millise riskitasemega see kaasneb. See on lähtepunkt, mitte seisukohavõtt süü kohta. Skaneering klassifitseerib rakenduse rolli ja riski järgi; see ei hinda, kas konkreetne otsus oli õige. See hindamine kuulub juhtumi enda juurde, mitte sellele eelnenud inventuuri juurde.
Mida skaneering aga teeb, on struktuuri pakkumine, mille raames see hindamine hiljem toimuda saab. Kui on teada, kes on rakenduse hankinud, kes seda haldab ja mille jaoks see on heaks kiidetud, on olemas joon, millele tagasi pöörduda. Selle struktuuri puudumisel taandub vastutuse küsimus tagantjärele oletamiseks.
Mitmel organisatsioonil on ülevaade heakskiidetud tarkvarast. See ülevaade on peaaegu mitte kunagi täielik. Töötajad kasutavad tööriistu, mida keegi ei ole registreerinud, sageli sellepärast, et töö läheb kiiremini ja keegi ei küsinud. See ei ole definitsiooni järgi vastutustundetu käitumine; see on see, mis juhtub, kui organisatsioon ei pakku muud teed.
Kes soovib teada, mida tegelikult kasutatakse, peab selle küsima. Ja see toimib ainult siis, kui küsimisel ei ole tagajärgi. Niipea kui töötaja kahtlustab, et aus vastus toob kaasa korrigeeriva vestluse, jääb vastus tulemata. Mida teete töötajatega, kes kasutavad tööriista, mida keegi ei ole heaks kiitnud käsitleb täpselt seda mehhanismi: inventuur on nii hea, kui usaldus, millega see kokku kogutakse.
Sellega kaasneb ka küsimus, mis juhtub ettevõtte teabega, kui see kirjutatakse välisesse akendisse. Mida teete ettevõtte andmetega tasuta vestlusaknas kirjeldab riski, mis on sõltumatu pahatahtlikkusest: keegi tahab lihtsalt teksti kontrollida ja kirjutab sealjuures kaasa seda, mida ei tohtinud.
Inventuurile järgnev governance-komplekt reguleerib, kes rakenduse heaks kiidab, kes teostab järelevalvet ja kuidas seda dokumenteeritakse. See sobib kokku riskistruktuuriga, mis organisatsioonil juba on teiste valdkondade jaoks: samad komiteed, samad raporteerimisliinid, samad eskaleerimisteed. Ei tekita uut aparaati olemasoleva kõrvale; olemasolevale lisandub kategooria.
See annab tõendatavuse: juhatus saab näidata, et on vaadatud, klassifitseeritud ja järelevalve on korraldatud. See ei annab garantiid, et rakendus ei tee enam kunagi viga. Need kaks asja on eraldi ja skaneering ei võta seisukohta teise kohta. Selle tulemus on alus, millele juhatus saab selgitada, mida on tehtud, mitte kindlustus selle vastu, mis veel juhtuda võib.
Sageli tehtav viga on eraldi AI-protsessi loomine, olemasolevast riski- ja vastavusstruktuurist lahus. See protsess saab alguses tähelepanu ja kaob seejärel taandplaanile, kuna keegi ei jätka teise süsteemi hooldamist esimese kõrval. Miks olemasoleva kõrval olev teine protsess ignoreeritakse selgitab, miks lõimimine olemasolevate struktuuridega ei ole efektiivsuse küsimus, vaid eeltingimus, et midagi püsima jääks.
Selle juurde kuulub ka, et inventuur on hetk, mitte lõpp-punkt. Lisandub uusi rakendusi, olemasolevad muutuvad funktsiooni poolest, ja klassifikatsioon, mis oli õige tarnimise hetkel, ei ole automaatselt õige aasta pärast. Kui tihti peate ümber klassifitseerima ja kuidas hoiate AI-registrit ajakohasena kirjeldavad, mida see hooldus praktikas nõuab, ning miks ühekordselt koostatud register lähitulevikus reaalsusega vastuollu läheb.
Inimesed, kes nende rakendustega töötavad, on pealegi osa lahendusest, mitte üksnes risk, mida tuleb hallata. See, mida töötajad kasutatavatest süsteemidest mõistavad ja mida mitte, määrab, kas governance-komplektil on praktikas mingit tähendust. Mida tähendab AI-kirjaoskus teie töötajate jaoks käsitleb seda aspekti.
Kes teab, milliseid AI-rakendusi kasutatakse ja kes nende eest vastutab, jõuab paratamatult järelküsimuseni: milline osa praegu käsitsi tehtavast tööst on tegelikult sobiv AI-rakendusele üle anda. See on erinev küsimus vastutusest, kuid toetub samale inventuurile. FTE TO AI töö-skaneering arvutab ülesannete kaupa välja, kui suure osa tööst saab AI üle võtta, järgmise sammuna pärast selguse saamist, mis juba käib ja kes selle üle otsustab.
Sellel lehel kirjeldatud skaneering on veel arendamisel. Kes on sellest huvitatud, saab registreeruda ootenimekirja; praegu ei pakuta veel midagi, mis ei ole valmis.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.