Mnoho organizací vychází z toho, že zařazení do role poskytovatele nebo uživatele je jednorázové: systém se někde nakoupí, a tím je role vaší organizace určena. V praxi je to nuancovanější. Role, kterou máte vůči AI systému, závisí na tom, co s ním děláte, nikoli na tom, odkud systém pochází. Stejná organizace může být u jednoho systému uživatelem a u jiného, aniž by to kdokoli takto pojmenoval, poskytovatelem.
Klíčová otázka není, kdo systém vytvořil, ale kdo jej uvádí na trh nebo jej nasazuje pod vlastním jménem. Organizace, která odebírá hotový AI systém a používá jej pro vlastní proces, je zpravidla uživatelem. Jakmile ta stejná organizace systém upraví, dále vyvíjí, přeznačí nebo nabízí pod vlastním jménem jiným, tento obraz se posouvá. Roli hraje i míra kontroly nad modelem: kdo určuje, s jakými daty se trénuje, kdo stanovuje parametry, kdo nese odpovědnost za chování systému v provozu. Tyto otázky se nezodpovídají jednou při pořízení, ale zůstávají relevantní po celou dobu používání systému.
Role organizace tedy není pevný štítek, ale výsledek skutečného použití. To znamená, že interní změny — nová aplikace stávajícího systému, úprava provedená vlastním IT oddělením, další poskytování AI funkce klientovi nebo dceřiné organizaci — mohou zařazení změnit, aniž by tomu předcházelo formální rozhodnutí. Co to v praxi znamená a v jakém okamžiku se role skutečně posune, je dále rozvedeno na stránce o okamžiku, kdy se vaše role vůči AI systému změní. Důležité je, že tento posun často zůstane nezaznamenán, protože se odehrává na úrovni oddělení, daleko od místa, kde se politika stanovuje.
Otázka, zda jste poskytovatel nebo uživatel, nestojí samostatně. Je propojena s otázkou, jakou úroveň rizika má daná aplikace, a s otázkou, zda aplikace spadá do rozsahu regulace. Systém, který je nasazen jako uživatelem s nízkým dopadem, může vyžadovat jiné zacházení než situace, kdy tatáž organizace systém dále upraví, a tím se přiblíží roli poskytovatele. Co vyšší úroveň rizika konkrétně znamená pro vlastní organizaci, je popsáno na stránce o tom, co vysoká úroveň rizika znamená pro vaši organizaci. Také ne každá aplikace spadá do rozsahu stejných požadavků; které aplikace do rozsahu nespadají a na čem to závisí, je uvedeno na stránce o tom, které aplikace nespadají do rozsahu.
Důvod, proč toto zařazení zůstává pro mnoho organizací nejasné, není to, že by chyběla pravidla. Aktuální znění a přesná kritéria jsou uvedena jinde a tímto textem se nemění. Problém je v tom, co předchází: aby bylo možné vědět, jaká role se uplatňuje, je nejprve třeba znát, jaké AI systémy jsou skutečně v používání, kým a s jakou mírou úpravy. Tato inventarizace ve většině organizací chybí. Oficiální seznam nástrojů schválených IT oddělením málokdy popisuje, co se skutečně používá. Oddělení nasazují nástroje, upravují modely vlastními daty nebo zabudují AI funkci do interního procesu, aniž by to bylo kdekoli centrálně zaznamenáno. Kdo chce vědět, zda je organizace poskytovatelem nebo uživatelem, musí tedy nejprve vědět, co běží — a to je otázka, na kterou neodpovídá strategický dokument, ale inventarizace, která se lidí odváží zeptat, co používají, aniž by s tím spojovala jakékoli vyúčtování.
Protože se role organizace může posunout bez formálního rozhodnutí, je pro vedení a dohledové orgány důležité, aby se s tím reportování pohybovalo. Přístup k řízení, který vychází ze statického rozdělení rolí, přehlédne okamžik, kdy interní úprava fakticky posune organizaci do jiné pozice. Jak lze AI politiku sestavit tak, aby tyto posuny zviditelňovala, a ne skrývala, a aby ji skutečně četl ten, kdo za ni odpovídá, je rozvedeno na stránce o AI politice, která navazuje na praxi, a ne na skříň.
Otázka, zda je vaše organizace poskytovatelem nebo uživatelem, se týká odpovědnosti a povinností. Nic ještě neříká o tom, co AI znamená pro samotnou práci: jaké úkoly převezme, změní nebo podpoří. Tato otázka navazuje na určení role, ale vyžaduje jiný pohled — nikoli na řízení, ale na obsah práce. Pracovní scan FTE TO AI vypočítá pro každý úkol, jakou část práce lze převzít pomocí AI, bez ohledu na to, jakou roli organizace zaujímá vůči podkladovému systému.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.