Model, který nakoupíte a používáte beze změny, je jiná situace než model, který finetunujete, přetrénujete na vlastních datech, nebo spojujete s jinými systémy. Otázka, která k tomu patří, není, zda je to dovoleno, ale co to změní na vaší roli. Tato stránka popisuje, na čem toto rozdělení závisí. Aktuální obsah pravidel je uveden jinde; zde jde o mechanismus, který určuje, kdy se něco změní a co s tím interně uděláte.
Zda úprava modelu změní vaši roli, závisí na řadě faktorů, které musíte určit pro každou situaci zvlášť, nikoli na pevné hranici, která by byla stejná pro každý model.
Tyto faktory spolu souvisejí. Žádný z těchto bodů sám o sobě nerozhoduje; o tom, zda úprava změní vaši pozici, rozhoduje kombinace.
Pokud je úprava dostatečně závažná, obvykle se nezmění jen klasifikace modelu, ale i to, co se od organizace očekává: jiná dokumentace, jiná interní odpovědnost, případně jiná strana, která je za celek odpovědná. Tento mechanismus a rozdíl mezi stranou, která model pouze používá, a stranou, která model spoluutváří, je rozpracován na stránce popisující rozdíl mezi poskytovatelem a uživatelem. Kdy je úprava přesně dostatečně závažná, aby tuto roli převrátila, je otázka, na kterou je třeba odpovědět zvlášť pro každý systém; obecný mechanismus za tím stojí na stránce o okamžiku, kdy se vaše role změní.
Důsledky tohoto zvratu pak závisí na úrovni rizika, kterou upravený model získá. Upravený model, který spadá do kategorie vysokého rizika, přináší jiné povinnosti než upravený model, který mimo ni zůstává. Co vysoká úroveň rizika v praxi znamená pro interní procesy a dohled, je popsáno na stránce o důsledcích vysoké úrovně rizika pro vaši organizaci. Naopak je také možné, že úprava naopak udrží systém mimo nejzávažnější kategorii, nebo že oblast použití prostě nespadá pod danou regulaci; jaké aplikace spadají mimo rozsah a proč, je uvedeno na stránce o aplikacích spadajících mimo rozsah.
Úpravy modelů se často odehrávají blízko samotné práce: tým, který finetunuje externí model na vlastních dokumentech, vývojář, který propojí dva systémy, oddělení, které napájí chatbota interními databázemi znalostí. To jsou právě ty úpravy, které neprocházejí centrálním procesem nákupu, a proto se automaticky neobjeví na IT seznamu. Kdo chce zjistit, zda a kde se to v organizaci děje, se musí zeptat — a to funguje jen tehdy, pokud otázka není spojena s postihem. Tým, který upravil model bez svolení, to nenahlásí, pokud odpověď znamená sankci.
Protože klasifikace úprav není pevně stanovena, ale určuje se pro každou situaci zvlášť, nestačí jednou určit, jakou roli model má. Úpravy, které proběhnou po prvním posouzení, musí znovu projít stejnými otázkami. Politika, která to podporuje, musí běžným jazykem popsat, kdy je třeba úpravu nahlásit a komu; jak taková politika zůstane čtivá, a ne text, který nikdo nekonzultuje, je popsáno na stránce o AI politice, která se skutečně čte. Kromě toho je důležité, aby rozhodnutí o úpravách — kdo dal souhlas, na základě jakého uvážení, s jakou úrovní rizika jako výsledkem — byla zaznamenána na místě, kde je lze zpětně dohledat. Jak takový záznam vypadá v praxi, je popsáno na stránce o seznamu rozhodnutí dohledu.
Klasifikace upraveného modelu určuje, jaké povinnosti platí, ale nic neříká o tom, co model v praxi dělá se samotnou prací. Pro tuto otázku — jaká část úkolu je převzata AI, jaká část zůstává u zaměstnance, a co úprava v tomto posouvá — je potřeba jiný pohled než posouzení rizika. Pracovní skener FTE TO AI vypočítá pro každý úkol, jakou část práce lze převzít AI, nezávisle na otázce, jaká pravidla řízení se na daný model vztahují.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.