Responsible AI Governance
Poznáte to: niekto na finančnom oddelení používa AI nástroj na písanie reportov, nikto na IT o jeho existencii nevie, a keď sa niečo pokazí, nie je jasné, kto za to zodpovedá. Alebo: nástroj, ktorý je na IT zozname, je už dávno nahradený niečím, čo si zamestnanci našli sami, čo funguje rýchlejšie a čo sa napája na firemné dáta bez toho, aby sa naň niekto pozrel. To nie je problém evidencie. To je problém zodpovednosti, ktorý sa stane viditeľným až vo chvíli, keď je príliš neskoro na to, aby sa vyriešil v pokoji.
Táto stránka popisuje, čo je na stole, keď je tento obraz kompletný: nie ako prísľub, ale ako výpočet jednotlivých súčastí.
Skenovanie neprináša jeden dokument, ale sériu súčastí, ktoré na seba nadväzujú.
Najskôr prehľad aplikácií, zostavený prostredníctvom nástroja na zisťovanie, ktorý sa obracia na oddelenia a zamestnancov a je doplnený riadeným desk research. Tento prehľad neobsahuje len to, čo pozná IT, ale aj to, čo vzniklo mimo neho: aplikácie, ktoré nikto formálne neschválil, s kým sa používajú a na čo.
Potom nasleduje, pre každú aplikáciu, klasifikácia: akú rolu v nej organizácia zohráva (poskytovateľ alebo užívateľ) a aká úroveň rizika sa na ňu vzťahuje. Táto klasifikácia vychádza z datasetov aiacta, nie z odhadu na mieste. Na jej základe vzniká časová os: čo je teraz povinnosťou a čo sa môže naplánovať na neskôr. Tak sa stáva viditeľným, kde je potrebná rýchlosť a kde nie.
Nasleduje governance framework, vypracovaný v podobe súboru šablón. Tieto šablóny sú vytvorené tak, aby nadväzovali na existujúcu štruktúru riadenia rizík organizácie, takže nemusí vzniknúť druhý proces vedľa prvého. K tomu sa pripája reporting pre predstavenstvo, zhrnutý na jednej stránke, určený na to, aby sa podstata situácie dala zdieľať bez toho, aby sa každý musel prehrabávať v podkladovom materiáli.
Na záver je tu predplatné na horizon scanner, na sledovanie toho, čo sa v čase mení: nové aplikácie, nová regulácia, posuny v riziku. Čo platí v čase skenovania, môže byť o niekoľko mesiacov neskôr už zastarané; predplatné je odpoveďou na to, nie jednorazová správa.
Ako presne tieto súčasti vznikajú, od zisťovania až po šablónu, je vypracované na stránke ako to funguje; kto chce vidieť, ako vyzerajú konečné výsledky obsahovo, nájde to na stránke výsledky.
Údaje pochádzajú z dvoch zdrojov. Prehľad aplikácií vychádza z toho, čo organizácia sama zadá prostredníctvom nástroja na zisťovanie, doplnené o desk research, ktorý ukazuje, na čom prehľad stojí. Klasifikácia roly, rizika a povinnosti vychádza z datasetov aiacta: štruktúrovaných informácií o AI Act, nie z izolovaného posúdenia. To znamená, že každý výsledok je možné vysledovať k jeho pôvodu a že nič v správe nespočíva na podloženom odhade, ktorý by nebolo možné dohľadať aj v zdroji. Kto chce vedieť, ako sú tieto datasety zostavené a udržiavané, môže si to prečítať v databáze znalostí.
Tri veci ostávajú mimo toho, čo toto skenovanie robí, a je to tak zámerne.
Nie je to nástroj na súlad s AI Act. Pre register, klasifikáciu a gramotnosť podľa AI Act je domovom aiacta.eu; táto hranica sa nemení. Toto skenovanie používa datasety tohto domu, ale nenahrádza ho.
Nie je to dôkaz o realizovanom projekte. Skenovanie štruktúruje to, čo existuje v okamihu realizácie; nepreukazuje históriu výkonov a nenárokuje si skúsenosť s predtým dokončenými projektmi. Výsledkom skenovania je fotografia súčasnej situácie, nie track record.
Nie je to druhý proces vedľa existujúcej štruktúry. Šablóny sú vytvorené tak, aby sa zapojili do toho, čo už v oblasti riadenia rizík alebo compliance existuje, nie aby viedli vedľa toho vlastný život. Či toto zapojenie prebehne v praxi bezproblémovo, závisí od toho, ako je táto existujúca štruktúra vybudovaná — to samotné skenovanie nemôže zaručiť.
S prehľadom, klasifikáciou, časovou osou a šablónami na stole vzniká moment rozhodnutia o ďalšom kroku. Niektoré organizácie si register, šablóny a časovú os vezmú na starosť samy a gramotnosť si zabezpečia prostredníctvom aiacta-kresiel. Iné hľadajú partnera na návrh procesu dohľadu a jeho zapojenie do existujúcej štruktúry riadenia rizík. Ďalšie zveria celý governance projekt partnerovi, so skenovaním ako podkladom, na ktorom sa tento projekt začína. Ktorá cesta je vhodná, závisí od veľkosti organizácie, zložitosti nájdených aplikácií a kapacity, ktorá je interne dostupná — je to úvaha, ktorú robí organizácia sama, nie niečo, čo skenovanie predpisuje.
Tlačidlo na spustenie skenovania je momentálne na čakacej listine; kto sa prihlási, dostane správu, hneď ako bude nástroj dostupný.
AI governance nadobúda zmysel až vtedy, keď je jasné, aké úlohy, hodiny a systémy s tým konkrétne súvisia. Tento prevod, z aplikácie na pracovnú záťaž, prehľadne ukazuje pracovný scan od FTE TO AI (ftetoai.com).
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.