Poslovne storitve ne prodajajo izdelka, temveč presojo: nasvet, analizo, drugo mnenje. To pomeni, da je odnos do AI drugačen kot v sektorjih, kjer AI predvsem pospešuje procese. Tukaj se AI dotika samega bistva stroke — miselnega dela samega in zaupnosti tega, kar je stranka delila, da bi to miselno delo bilo mogoče. Odvetnik, ki jezikovnemu modelu posreduje gradivo iz zadeve, svetovalec, ki osnutek analize preveri s klepetalnim robotom, računovodja, ki podatke povzame z zunanjim sistemom: v vsakem primeru se premika informacija, ki bi pravzaprav morala ostati znotraj sten pisarne in znotraj zaupnega odnosa s stranko.
Razmerje med tem, kar so organizacije uradno kupile, in tem, kar zaposleni dejansko uporabljajo, praviloma ni v ravnotežju. Kjer se v sektorjih z veliko operativnih procesov AI pogosto uvaja prek IT-oddelka, je pritisk v svetovalnih in pravnih pisarnah predvsem individualen: nekdo z rokom in orodjem AI, ki dela hitreje kot sodelavec zraven. To pomeni, da senčna AI tukaj ni izjema, temveč verjetna norma — ravno v sektorju, kjer se čas zaračunava in hitrost nagrajuje.
Pregled programskih licenc pokaže, kaj je bilo kupljeno, ne kaj se uporablja. V poslovnih storitvah poleg tega velik del osebja dela z lastnimi napravami, lastnimi razširitvami brskalnika in lastnimi naročninami na storitve AI, ki jih je brezplačno mogoče preizkusiti. Partner ali višji svetovalec, ki uporabi jezikovni model za preverjanje osnutka memoranduma, se ne pojavi v nobeni IT-nadzorni plošči. Kljub temu je ravno ta uporaba tista z najvišjim tveganjem: dotika se zaupnosti stranke, poklicne molčečnosti, vprašanja, kdo je za kaj odgovoren, kadar je nasvet delno oblikoval algoritem.
Edini način, da izveste, kaj se dejansko dogaja, je vprašati — in to vprašanje ima smisel le, če za odgovarjajočega ni ničesar na kocki. Zaposleni, ki sumi, da bo priznanje uporabe AI sprožilo pogovor o nesposobnosti, bo odgovoril nikalno ali sploh ne bo odgovoril. Popis, ki izhaja iz zaupanja namesto nadzora, dobi drugačno slikо: ne popolno, a bolj poštено kot seznam, ki zgolj sešteva to, kar je bilo odobreno.
Uporaba AI v tem sektorju ne sodi v eno kategorijo. Orodje, ki preverja dejstva v pravnem dokumentu, nosi drugačno tveganje kot orodje, ki povzema interni procesni dokument. Sistem, ki soustvarja davčni nasvet, namenjen stranki, zahteva drugačno vrsto nadzora kot orodje, ki ureja zapisnike. Governance, ki deluje, se začne z razločevanjem teh vlog in stopenj tveganja ter jim pripiše ustrezno raven nadzora — ne glede na to, kako se sistem imenuje, temveč glede na to, kaj sistem počne in za koga je izid končno namenjen.
Pisarne v tem sektorju imajo pogosto že strukture za obvladovanje tveganj: pregled zadev, načela štirih oči, preverjanje skladnosti, nadzor kakovosti. Pristop k governance za AI, ki je od tega ločen, postane dodatna plast, ki je nihče ne bo sprejel. Smiselnejši je pristop, ki se naveže na obstoječo strukturo obvladovanja tveganj: isti lastniki, iste poročevalske linije, isti ritem preverjanja, pri čemer je uporaba AI del tega, kar se že spremlja, namesto ločenega postopka.
Vodja ali generalni pravni svetovalec (General Counsel), ki ga vprašajo, kako je uporaba AI znotraj pisarne zavarovana, ima od vtisa malo koristi. Dokazljivost zahteva zapisan popis: katera orodja, katera vloga, katera stopnja tveganja, kakšni dogovori o tem, kaj je z njimi dovoljeno početi in kaj ne. To ni primarno zunanje poročanje — je predvsem instrument za vodstvo samo, da ve, kaj usmerja, še preden vprašanje zastavi nadzorni organ, stranka ali lastni odbor za tveganja.
Način, na katerega nastaja senčna AI, in način, na katerega se lahko governance na to naveže, se razlikuje po sektorjih. Kdor želi primerjati, kako se to vprašanje razvija tam, kjer se združuje veliko sistemov in stikov s strankami, to najde v AI-governance v finančnih storitvah; kdor želi videti, kako se to odvija v sektorju, ki sam izdeluje in uporablja izdelke AI, lahko to prebere v AI-governance v IT-sektorju; za sliko, kako to deluje pri organizacijah z veliko operativnega osebja in malo centralnega IT-vodenja, pa je na voljo AI-governance v trgovini na drobno.
Popis uporabe AI prikaže, kaj teče in kdo to uporablja, ne odgovori pa na vprašanje, ki pride za tem: kateri del dela samega se dejansko lahko prenese na AI in kateri ne. To je drugačen izračun, po nalogi in ne po orodju. Delovni scan podjetja FTE TO AI ta izračun opravi: po posamezni nalogi se določi, kateri del dela pride v poštev, da ga prevzame AI, kot naslednji korak po pregledu, ki ga prinese Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.