AI programmas vadītājs parasti saņem vienu mandātu: panākt, ka AI tiek adoptēta, ka komandas ar to strādā ātrāk, ka programma uzrāda rezultātus. Otrs mandāts reti tiek pievienots: panākt, ka viss, kas šajā laikā rodas, ir atbildīgi pārvaldīts. Tomēr viņu vērtē pēc abiem, tiklīdz kaut kas noiet greizi. Tā ir viņa riska būtība: viņš ir atbildīgs par programmu, kuras robežas viņš pats nezina.
Tas, ko viņš iegūst ar adopciju — ātrāki procesi, apmierinātas komandas, redzams inovācijas stāsts — ir pretstatā tam, ko viņš zaudē, ja kaut kas noiet greizi: incidents ar rīku, kas nebija viņa sarakstā, audits, kas uzdod jautājumus, uz kuriem viņam nav atbildes, valde, kas jautā, kāpēc programma nepamanīja to, kas jau darbojās. Šī asimetrija padara viņa pozīciju vājā, arī tad, ja pati programma norit labi.
Viņa jautājums nav "kādus AI rīkus mēs esam apstiprinājuši". Šis saraksts viņam ir, un tas bieži ir īsāks par realitāti. Viņa jautājums ir: ko izmanto komandas, kuras nav manā sarakstā, un kā es to varu izzināt tā, lai cilvēki to neslēptu. Programmas vadītājs, kas vēlas veicināt adopciju, nevar atļauties, ka lietotāji slēpj savus rīkus, baidoties no korekcijas. Kas jautā, ko izmanto, un tad no tā rada problēmu, uz nākamo jautājumu vairs neatbildi nesaņems. Pārvaldība un adopcija šeit strādā viena pret otru, ja tas tiek pieietas nepareizi.
Atbilde, ko viņš nepieņem, ir vienkārša bloķēšana: "AI izmantošana nav atļauta bez apstiprinājuma." Šāda atbilde uz brīdi apmierina auditoru, bet pārvieto izmantošanu uz vietām, kuras neviens neredz. Tas ir pretējs tam, ko programmas vadītājs vēlas panākt: viņš vēlas, lai AI izmantošana būtu redzama un pavadīta, nevis lai tā nogrimtu pagrīdē. Aizliegums bez mehānisma ziņošanai un mācīšanās viņam ir zaudējums, arī ja tas uz papīra izklausās atbilstošs.
Viņš arī nepieņem atbildi, kas visu pielīdzina vienam līmenim. Rīks, kas apkopo tekstu iekšējai lietošanai, nav tāds pats risks kā rīks, kas automātiski pieņem lēmumus par klientiem vai darbiniekiem. Bez nošķiršanas pēc lomas un riska līmeņa programma nevar noteikt prioritātes, un programmas vadītājs, kas nevar noteikt prioritātes, nevar īstenot savu mandātu.
Tas, kas patiešām strādā, ir apzināšana, kas sākas no tā, kas ir, nevis no tā, kas ir apstiprināts. Tas nozīmē uzdot komandām jautājumus par to, ko tās faktiski izmanto, un darīt to tā, lai tas nenestu sev līdzi norēķinu. Tikai tad parādās ēnu AI — sistēmas, kas ieviestas bez formālā procesa, bieži tāpēc, ka tās atviegloja darbu un neviens neredzēja iemeslu gaidīt apstiprinājumu.
Tad seko klasifikācija: kura pielietojuma joma skar klientus, kura skar tikai iekšējo procesu, kura pieņem lēmumus bez cilvēka iesaistes. Šī iedalīšana nosaka, kur uzraudzībai jābūt stingrai un kur tā var palikt vieglāka. Bez šī iedalījuma programma visu apstrādā vienādi smagi vai vienādi vieglprātīgi, un abi ir problēma: pirmais kavē adopciju, otrais atstāj riskus nepārvaldītus.
Pārvaldības struktūrai, kas seko pēc tam, jāsaskan ar to, kas organizācijā jau pastāv — ar esošajām riska komitejām, ar esošajām atskaites līnijām — nevis jāveido jauna paralēla sistēma. Tas ir arī tas, kur programmas vadītājs atšķiras no citām lomām organizācijā: valdes locekli interesē tas, ko valdes loceklim jāzina par AI risku galīgās atbildības līmenī, CIO to skata no sistēmu un pieejas viedokļa, kā aprakstīts ko CIO jāzina par AI risku, un juridiskais direktors (General Counsel) skatās uz atbildību un dokumentācijas pienākumu, kā izklāstīts ko General Counsel jāzina par AI risku. Programmas vadītājam jāspēj apkalpot šīs trīs perspektīvas, nezaudējot savu pašu uzdevumu — adopciju.
Kādas konkrētas prasības attiecas uz kuru riska kategoriju un kādos termiņos, nav šīs lapas temats. Šis teksts mainās, tiek precizēts un izskaidrots citās vietās. Šeit runa ir par mehānismu: kā programma iegūst pārskatu par to, kas notiek, kā tā to pārvērš riska līmeņos, un kā tā to pierādāmi parāda valdei un uzraudzības iestādēm, neatkarīgi no tā, ko konkrētajā brīdī nosaka precīzais noteikumu teksts.
Tiklīdz ir skaidrs, kas darbojas un kurš par to ir atbildīgs, rodas cits jautājums: ko tas sniedz, ja šis darbs tiek pareizi sakārtots. Šis jautājums jāatbild uz uzdevuma līmeņa, nevis organizācijas līmeņa. FTE TO AI darba skenēšana šajā līmenī izrēķina, kuru darba daļu var pārņemt AI, tā ka programmas vadītājs zina ne tikai to, kas notiek, bet arī to, kur papildu kapacitātes pievienošana patiešām rada atšķirību.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.