Organizácie si často myslia, že ich rola je pevne stanovená: my sme používateľ, dodávateľ je poskytovateľ, hotovo. Tento predpoklad pravidelne neplatí, alebo platí dnes, ale zajtra už nie. Rola, ktorú má organizácia vo vzťahu k AI-systému, nie je pevná vlastnosť organizácie. Je to výsledok toho, čo sa so systémom deje: kto ho vytvára, kto ho upravuje, kto ho uvádza na trh a pod akým názvom. Zmení sa jeden z týchto faktorov, môže sa zmeniť aj rola, a tým aj povinnosti, ktoré s ňou súvisia.
To znamená, že zaradenie nie je momentka. Rola, ktorá bola pri obstaraní správne určená, môže byť o rok neskôr nesprávna bez toho, aby o tom bolo interne vedome rozhodnuté.
Zaradenie závisí od obmedzeného počtu faktorov, no tieto faktory nie sú všetky v rukách strany, ktorá systém používa. Relevantné je okrem iného to, či bol systém vyvinutý sám alebo zakúpený, či sa zakúpený systém nasadzuje bez zmien alebo sa upravuje, a či úprava ovplyvňuje rizikový profil systému. Relevantné je aj to, pod akým názvom sa systém dostáva von: systém, ktorý sa ďalej predáva alebo ďalej vyvíja pod vlastnou značkou, môže so sebou niesť inú rolu než nechať bez zmeny bežať externý produkt. Pre presnú hranicu medzi týmito dvoma pozíciami je relevantná stránka o tom, čo sa zmení, keď organizácia sama upraví zakúpený model, a pre základnú otázku, ktorá z dvoch hlavných rolí sa uplatňuje, je tu stránka, ktorá vysvetľuje, od čoho presne závisí voľba medzi poskytovateľom a používateľom.
Zaradenie teda nie je niečo, čo organizácia jednorazovo určí a potom archivuje. Je to klasifikácia, ktorá sa musí opätovne posúdiť, akonáhle sa zmenia základné skutočnosti.
Ak sa rola zmení, zmení sa aj to, čo sa od organizácie očakáva. Strana, ktorá je čisto používateľom, má iné povinnosti než strana, ktorá je (spolu)zodpovedná za vznik systému. To sa netýka len papierovania. Týka sa to aj toho, kde v organizácii by mala ležať zodpovednosť za systém, kto o tom podáva správy a aká úroveň dohľadu je primeraná.
Tento posun sa premieta do otázky, ako závažne treba systém interne vyhodnotiť. Zmena roly môže spôsobiť, že systém, ktorý bol predtým považovaný za zvládnuteľný, sa musí opätovne posúdiť z hľadiska úrovne rizika — otázka, ktorá sa samostatne rieši na stránke o tom, čo vysoká úroveň rizika znamená pre organizáciu, ktorá systém používa alebo poskytuje. Naopak, zmena roly môže tiež spôsobiť, že systém spadne mimo rozsahu pôsobnosti určitých povinností, alebo sa práve dostane do tohto rozsahu. Ktoré aplikácie presne spadajú mimo rozsahu a ktoré tesne nie, je vysvetlené na stránke o tom, ktoré druhy AI-aplikácií spadajú mimo rozsahu povinností.
Faktory, ktoré spôsobujú zmenu roly, sa väčšinou odohrávajú na úrovni, na ktorú vedenie, právne oddelenie alebo risk manažment nemajú automatický dohľad. Tím, ktorý dolaďuje (finetuning) zakúpený model na vlastných dátach. Oddelenie, ktoré posúva externý chatbot-produkt zákazníkom pod vlastným názvom produktu. Integrácia, ktorá kombinuje model dodávateľa s vlastnými pravidlami a túto kombináciu následne ponúka externe. Žiadny z týchto krokov automaticky neprechádza cez centrálny register a IT zoznam schválených nástrojov tento typ zmeny väčšinou nezaznamenáva, pretože zmena sa nerozpozná ako „nové obstaranie“, ale ako úprava niečoho, čo už bolo schválené.
To je dôvod, prečo zmeny roly bývajú viditeľné až vtedy, keď sa niečo pokazí, alebo keď sa zvonka žiada zodpovednosť. Otázka „aká je naša rola pri tomto systéme“ sa potom zodpovedá so spätnou platnosťou, v okamihu, keď je priestor na úpravu menší, než keby bola otázka položená skôr.
Keďže sa zaradenie môže posúvať, rozlíšenie medzi tým, čo si vyžaduje pozornosť práve teraz, a tým, čo treba opätovne posúdiť neskôr, je relevantné pre plánovanie práce v oblasti governance. Nie všetko, čo zmena roly prináša, si vyžaduje okamžitú akciu; časť sa dá naplánovať. Ktorá časť to je a ktorá nemôže počkať, sa rieši na stránke o tom, čo treba riešiť teraz a čo možno naplánovať na neskôr. Pre stručné zhrnutie samotnej otázky zaradenia, vrátane najdôležitejších zlomových bodov, je tu stránka, ktorá sa hlbšie venuje presným okolnostiam, za ktorých sa rola mení.
Otázka, akú rolu má organizácia vo vzťahu k AI-systému, je blízko inej otázke, ktorá zriedka dostáva rovnakú pozornosť: aká časť skutočnej práce v organizácii už je vykonávaná AI, plánuje sa, že bude vykonávaná AI, alebo je už prevzatá bez toho, aby to niekto zaznamenal. Kým otázka roly sa týka zodpovednosti vo vzťahu k systému, pracovný sken (werkscan) od FTE TO AI sa týka rozdelenia úloh samotných: pri každej úlohe sa vypočíta, akú časť možno prevziať AI, bez ohľadu na to, akú rolu pritom organizácia formálne zastáva. Tieto dve otázky sa dotýkajú, pretože posun v rozdelení úloh je často podnetom pre posun v role.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.