Mnohé organizácie predpokladajú, že zaradenie na poskytovateľa alebo používateľa je jednorazové: systém sa niekde obstará a tým je rola vašej organizácie určená. V praxi je to nuansovanejšie. Rola, ktorú máte vo vzťahu k AI-systému, závisí od toho, čo s ním robíte, nie od toho, odkiaľ systém pochádza. Tá istá organizácia môže byť pri jednom systéme používateľom a pri druhom, bez toho, aby to niekto takto pomenoval, poskytovateľom.
Kľúčová otázka nie je, kto systém vytvoril, ale kto ho uvádza na trh alebo nasadzuje pod vlastným menom. Organizácia, ktorá obstará hotový AI-systém a používa ho pre vlastný proces, je zvyčajne používateľom. Hneď ako tá istá organizácia systém upraví, ďalej vyvíja, prelabeluje alebo ponúka pod vlastným menom iným, sa tento obraz mení. Rolu ovplyvňuje aj miera kontroly nad modelom: kto určuje, s akými dátami sa trénuje, kto stanovuje parametre, kto nesie zodpovednosť za správanie systému v produkcii. Tieto otázky sa nezodpovedajú jedenkrát pri obstaraní, ale zostávajú relevantné, pokiaľ je systém v používaní.
Rola organizácie teda nie je pevný štítok, ale výsledok skutočného používania. To znamená, že interné zmeny — nové využitie existujúceho systému, úprava vlastným IT oddelením, ďalšie poskytnutie AI funkcie klientovi alebo dcérskej organizácii — môžu zmeniť zaradenie bez toho, aby tomu predchádzalo formálne rozhodnutie. Čo to znamená pre prax a v akom okamihu sa rola skutočne zmení, sa ďalej rozoberá na stránke o okamihu, kedy sa vaša rola vo vzťahu k AI-systému zmení. Dôležité je, že táto zmena sa často nespozoruje, pretože sa odohráva na úrovni oddelenia, ďaleko od miesta, kde sa stanovuje politika.
Otázka, či ste poskytovateľom alebo používateľom, nestojí samostatne. Je prepojená s otázkou, akú úroveň rizika má daná aplikácia, a s otázkou, či aplikácia spadá do rozsahu regulácie. Systém, ktorý sa nasadzuje ako používateľ s nízkym dopadom, môže vyžadovať iné zaobchádzanie ako keď tá istá organizácia systém ďalej upravuje a tým sa blíži k role poskytovateľa. Čo vyššia úroveň rizika konkrétne znamená pre samotnú organizáciu, je popísané na stránke o tom, čo vysoká úroveň rizika znamená pre vašu organizáciu. Taktiež nie každá aplikácia spadá do rozsahu tých istých požiadaviek; ktoré aplikácie sú z toho vyňaté a od čoho to závisí, je na stránke o tom, ktoré aplikácie spadajú mimo rozsahu.
Dôvod, prečo toto zaradenie zostáva pre mnohé organizácie nejasné, nie je, že by chýbali pravidlá. Aktuálny text a presné kritériá sú uvedené inde a týmto textom sa nemenia. Problém je pred tým: aby sa vedelo, aká rola sa uplatňuje, treba najprv vedieť, ktoré AI-systémy sa skutočne používajú, kým a s akou mierou úpravy. Táto inventarizácia vo väčšine organizácií chýba. Oficiálny zoznam nástrojov schválených IT oddelením zriedka popisuje, čo sa skutočne používa. Oddelenia zavádzajú nástroje do používania, upravujú modely vlastnými dátami alebo zabudujú AI funkciu do interného procesu bez toho, aby sa to niekde centrálne zaznamenalo. Kto chce vedieť, či je organizácia poskytovateľom alebo používateľom, musí teda najprv vedieť, čo sa skutočne používa — a to je otázka, na ktorú neodpovie dokument politiky, ale inventár, ktorý sa opováži pýtať ľudí, čo používajú, bez toho, aby s tým bolo spojené vyvodzovanie dôsledkov.
Pretože rola organizácie sa môže zmeniť bez formálneho rozhodnutia, je pre vedenie a dozorné orgány dôležité, aby sa s tým reportovanie pohybovalo. Prístup k governance, ktorý vychádza zo statického rozdelenia rolí, prehliadne okamih, kedy interná úprava fakticky posunie organizáciu do inej pozície. Ako môže byť AI politika nastavená tak, aby tieto zmeny zviditeľňovala, nie skrývala, a aby ju skutočne čítal ten, kto je za ňu zodpovedný, sa rozoberá na stránke o AI politike, ktorá zodpovedá praxi, nie len archívu.
Otázka, či je vaša organizácia poskytovateľom alebo používateľom, sa týka zodpovednosti a povinností. Ešte nič nehovorí o tom, čo AI znamená pre samotnú prácu: aké úlohy prevezme, zmení alebo podporí. Táto otázka nadväzuje na určenie role, ale vyžaduje iný pohľad — nie na governance, ale na obsah práce. Pracovný scan FTE TO AI vypočíta pre každú úlohu, akú časť práce je možné previesť na AI, bez ohľadu na to, akú rolu organizácia zaujíma vo vzťahu k danému systému.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.