Nakoupit AI systém a používat jej tak, jak byl dodán, je jiná situace než upravit model podle vlastních dat nebo cíle. Taková úprava může změnit zařazení vaší organizace — a tím i otázky, na které musíte umět odpovědět. Zda se to stane a jak velkou to má váhu, závisí na tom, co přesně se upravuje a k čemu se systém nasazuje.
Zařazení nezávisí na otázce, zda jste napsali zdrojový kód. Závisí na tom, co se s modelem fakticky děje po tom, co k vám dorazí. Několik faktorů, které hrají roli:
Tyto faktory na sebe navazují. Neexistuje pevná hranice, která by platila ve všech případech; aktuální regulace s přesnými kritérii je uvedena jinde a tento text se může měnit. Co na této stránce zůstává platné, je mechanismus: úprava může změnit roli, a role určuje povinnost.
Role, kterou vaše organizace zaujímá u AI systému, není pevná. Kdo model pouze používá tak, jak byl dodán, má obvykle jinou pozici než kdo model upraví a následně jej sám uvede na trh nebo interně nasadí ve velkém měřítku. Otázkou, kdy k tomuto přechodu dochází a co se v tom okamžiku změní ve věci toho, co musíte umět prokázat, se zabývá kdy se vaše role změní a kde je ta hranice. Pro organizace, které si nejsou jisté, zda jsou poskytovatelem nebo uživatelem — otázka, která se objevuje častěji, než se zdá, jakmile dojde k interní úpravě — je k dispozici samostatné vysvětlení na rozdíl mezi poskytovatelem a uživatelem AI systému.
Důvod, proč na tom záleží, není formální. Změna role mění, co musíte umět ukázat: jakou dokumentaci vedete, kdo v rámci organizace je odpovědný za dohled, a jaké kroky byly podniknuty před tím, než byl upravený systém nasazen do provozu. Model, který jste sami upravili, je model, u kterého po vás může být vyžádáno vysvětlení, jak k té úpravě došlo.
Úprava může také ovlivnit úroveň rizika aplikace. Model, který byl původně určen pro lehkou aplikaci, se úpravou může dostat do závažnější kategorie — například když je po úpravě nasazen pro rozhodování o lidech. Co konkrétně vysoká úroveň rizika znamená pro povinnosti vaší organizace, je uvedeno na co znamená vysoká úroveň rizika pro požadavky na vaši organizaci. I zde platí: zařazení vyplývá z použití, nikoli ze záměru, se kterým byl model kdysi vytvořen.
Toto se přímo dotýká jádra problematiky stínového AI. Úprava, která neprochází přes IT — tým, který si sám doladí model na vlastní datové sadě, nebo oddělení, které napojí externí model na interní systémy bez toho, že by o tom bylo podáno hlášení — změní zařazení vaší organizace, aniž by o tom vedení věděla. IT seznam tuto úpravu neukáže. Kdo chce vědět, zda k tomu dochází, se musí zeptat týmů, které s tím denně pracují, a takový rozhovor přinese výsledek jen tehdy, pokud proběhne bez následného postihu.
Když úprava změní roli nebo úroveň rizika aplikace, změní se několik věcí najednou: dokumentace, kterou je třeba vést, otázka, kdo v rámci organizace je vlastníkem dané aplikace, a okamžik, kdy lze ještě něco naplánovat versus co si už vyžaduje pozornost. Toto rozlišení — mezi tím, co je již naléhavé, a tím, co lze zařadit do plánu — souvisí s faktory, které jsou vysvětleny na co si nyní vyžaduje pozornost a co lze ještě naplánovat. Podrobnější rozpracování samotné otázky zařazení, včetně hraničních případů, které se v praxi vyskytují nejčastěji, je uvedeno na úplné vysvětlení toho, co se změní při úpravě modelu.
Upravený model je v praxi často také model, který převezme část práce od lidí, kteří dříve úkol vykonávali zcela sami. Zda je to tak, a jaký díl práce se toho týká, je otázka, která stojí mimo otázku zařazení, ale často na ni navazuje: jakmile je jasné, že model byl upraven a k čemu se nasazuje, stane se také zřejmé, jakou část úkolu fakticky vykonává. Pracovní scan (werkscan) od FTE TO AI to vypočítá po jednotlivých úkolech a ukáže, jaký díl práce lze převést na AI, bez ohledu na to, jak vznikl podkladový model.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.