Skôr než nadobudne zmysel úroveň rizika, povinnosť alebo opatrenie v oblasti governance, musí byť jasné, akú rolu vaša organizácia zohráva. Kto uvádza systém AI na trh, má iné povinnosti než ten, kto nasadzuje systém, ktorý zostavil niekto iný. Pojem, ktorý sa na to používa, je známy: poskytovateľ oproti používateľovi. Samotné zaradenie však nie je zakotvené v organizačnej štruktúre. Závisí od toho, čo organizácia s konkrétnym systémom robí, a to sa môže líšiť podľa systému, oddelenia a momentu.
Kľúčová otázka nie je, kto systém kúpil alebo nainštaloval, ale kto ho uviedol na trh alebo poskytuje pod vlastným menom. Organizácia, ktorá softvér nakúpi a používa tak, ako bol dodaný, je bežne používateľom. Organizácia, ktorá systém vyvíja, dáva vyvíjať pod svojím menom, alebo existujúci systém upraví tak, že sa funkčne stane niečím iným, sa tým môže dostať do role poskytovateľa. Práve v tomto bode sa organizácie často pomýlia: doladenie modelu (finetuning), vybudovanie vlastnej vrstvy nad externým systémom alebo trénovanie chatbota na vlastných dátach môže rolu posunúť bez toho, aby to niekto vnímal ako vedomé rozhodnutie. Čo presne sa počíta ako úprava, ktorá rolu zmení, je popísané na čo sa zmení, keď model upravíte sami.
Väčšina organizácií nie je výlučne poskytovateľom alebo výlučne používateľom. Banka, ktorá nasadzuje externý jazykový model na zákaznícky servis, je v tomto prípade používateľom, ale ak tá istá banka poskytne interne vyvinutý rizikový model inému oddeleniu alebo klientovi, pre tento systém vzniká role poskytovateľa. To znamená, že zaradenie sa musí robiť pre každú aplikáciu osobitne, nie jednorazovo za celú organizáciu. Súbor, ktorý pre každý systém zaznamenáva, kto ho vytvoril, kto ho upravil a kto ho používa, je preto jediný spôsob, ako na túto otázku odpovedať systematicky, a nie príležitostne.
Rola nie je pevnou vlastnosťou organizácie, ale statusom, ktorý podlieha zmene. Dodávateľ môže svoj systém zmeniť spôsobom, ktorý ovplyvní rizikový profil. Interný vývojár môže interný nástroj ďalej rozvinúť do niečoho, čo sa ponúka aj mimo organizácie. Systém, ktorý prišiel ako jednoduchý nástroj, môže po aktualizácii vykonávať úlohy, ktoré ho zaradia do inej rizikovej kategórie. V akých momentoch nastáva tento posun konkrétne a čo to znamená pre to, kto je následne zodpovedný, je vysvetlené na kedy sa vaša rola zmení. Pre organizácie, ktoré chcú pochopiť, čo posun smerom k vyššej úrovni rizika v praxi znamená, ponúka čo znamená vysoká úroveň rizika pre vašu organizáciu ďalšie rozpracovanie.
Nie každá aplikácia označovaná ako umelá inteligencia spadá do rámca, pre ktorý je rozdelenie rolí relevantné. Niektoré systémy stoja mimo rozsahu, pre ktorý je toto zaradenie vytvorené, a pre organizáciu je rovnako dôležité vedieť, čo mimo rozsahu spadá, ako vedieť, čo doň patrí. Inak sa čas venuje klasifikácii niečoho, čo klasifikáciu nepotrebovalo, alebo sa niečo prehliadne, pretože sa zdalo príliš malé. Ktoré aplikácie mimo tohto rámca spadajú a prečo, je popísané na ktoré aplikácie spadajú mimo rozsah.
Určenie roly je prvým krokom, nie výsledkom procesu governance. Po zaradení nasleduje otázka, čo sa pre každú rolu a úroveň rizika musí skutočne urobiť, a táto otázka sa rozpadá na dve kategórie: čo si vyžaduje pozornosť okamžite a čo možno naplánovať na dlhší časový horizont. Tieto dve kategórie sa často zamieňajú, s dôsledkom, že naliehavé veci ostávajú nevyriešené, zatiaľ čo čas sa venuje niečomu, čo ešte nie je akútne. Prehľad toho, čo v tom má prioritu, je na čo je potrebné teraz a čo možno naplánovať. Kto chce otázku rozdelenia rolí rozpracovať ešte podrobnejšie, s presnými kritériami, ktoré určujú hranicu medzi poskytovateľom a používateľom, nájde toto rozpracovanie na ste poskytovateľom alebo používateľom: od čoho to závisí.
Toto zaradenie má zmysel len ak sa uplatní na to, čo v organizácii skutočne funguje, nie na to, čo je uvedené na schválenom zozname. Systémy, ktoré boli zavedené bez povolenia, sa počítajú rovnako, a rola, ktorá k nim patrí, sa musí určiť rovnako dôkladne. To si vyžaduje inventarizáciu, ktorá ide nad rámec IT administratívy.
Hneď ako je jasné, akú rolu organizácia pri každom systéme zohráva, pozornosť sa prirodzene presúva k inej otázke: čo tieto systémy vlastne robia a akú časť práce prevezmú. Táto otázka stojí mimo governance skenu, ale priamo na neho nadväzuje. Pracovný sken FTE TO AI vypočíta pre každú úlohu, akú časť práce je možné previesť na AI, a poskytuje tak obraz vplyvu systému popri obraze povinností, ktoré k nemu patria.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.