Kennisbank

Naliehavé alebo plánovateľné: od čoho závisí zaradenie

Otázka za otázkou

Inventarizácia používania AI zvyčajne vyústi do zoznamu, ktorý je príliš dlhý na to, aby sa dal riešiť naraz. Otázka, ktorá nasleduje, nie je „čo musíme urobiť“, ale „čo musíme urobiť najprv“. Je to otázka zaradenia a odpoveď nezávisí od toho, koľko systémov existuje, ale od toho, čo tieto systémy robia a pre koho.

Od čoho závisí naliehavosť

Prvým faktorom je úroveň rizika samotnej aplikácie. Systém, ktorý pripravuje rozhodnutia o ľuďoch — nábor, poskytovanie úveru, prideľovanie zdravotnej starostlivosti alebo dávok — si vyžaduje iný prístup než nástroj, ktorý prepisuje text na interné použitie. To, čo vysoká úroveň rizika znamená pre vašu organizáciu, sa teda líši podľa aplikácie, a tieto rozdiely určujú, ktoré systémy sú na rade ako prvé.

Druhým faktorom je úloha organizácie pri danom systéme. Kto model kúpi a používa nezmenený, má iné povinnosti než kto necháva model trénovať na vlastných dátach alebo štrukturálne upravuje výsledok. To, či ste poskytovateľom alebo používateľom aplikácie AI, neurčuje len to, aké povinnosti platia, ale aj to, koľko času je potrebné na splnenie týchto povinností — poskytovateľ má zvyčajne viac na prípravu než používateľ.

Tretím faktorom je, či je systém už v používaní, alebo sa ešte obstaráva. Riziko, ktoré už funguje — s reálnymi používateľmi, reálnymi rozhodnutiami, reálnymi údajmi — si vyžaduje iné poradie než riziko, ktoré je ešte v zmluvnej fáze a kde sa dohody môžu ešte zaznamenať skôr, než systém spustí do produkcie.

Čo sa zmení, keď sa zmení situácia

Toto zaradenie nie je momentka. Systém, ktorý je dnes nízkorizikový, po úprave už nemusí byť. To, čo znamená, keď model sami upravíte — fine-tuning, nový dataset, iné použitie tej istej podkladovej technológie — závisí od toho, čo sa presne zmení, ale zaradenie, ktoré bolo urobené predtým, tým automaticky neostáva platné.

To isté platí pre zmenu úlohy. Organizácia, ktorá odoberie hotový model a následne ho výrazne upraví, sa tým môže posunúť z používateľa na poskytovateľa. Kedy sa táto úloha zmení, nie je vždy okamih samotnej úpravy, ale okamih, kedy táto úprava zmení charakter systému. Aj to je otázka zaradenia a aj tá si vyžaduje opätovné posúdenie, keď sa situácia zmení — nie jednorazovú kontrolu, ktorá potom zostane platiť.

A systém, ktorý sa ešte obstaráva, sa v okamihu spustenia do produkcie posúva z plánovateľného na naliehavý. Zaradenie, ktoré platilo pre zmluvnú fázu, neplatí pre fázu používania.

Čo to znamená pre poradie

Praktickým dôsledkom je, že inventarizácia neposkytuje jednorazový zoznam priorít, ale štruktúru, ktorú je potrebné opakovane prechádzať. Systémy s vysokou úrovňou rizika a aktívnou úlohou poskytovateľa si vyžadujú pozornosť teraz. Systémy s nízkou úrovňou rizika, ktoré sa ešte nepoužívajú, možno naplánovať — ale plán musí obsahovať okamih, kedy sa situácia znovu posúdi, pretože úpravy, zmena úlohy alebo uvedenie do používania môžu zaradenie zvrátiť.

Toto si vyžaduje pevné miesto, kde sa zaznamenávajú rozhodnutia o tomto zaradení: ktorý systém bol označený za naliehavý, na základe akého faktora a kedy bolo toto posúdenie naposledy vykonané. Zoznam rozhodnutí o dohľade je forma, v ktorej sa toto zaradenie stáva preukázateľným — nie ako doplnková administratíva, ale ako jediný dôkaz, že zaradenie nie je náhodné, ale je výsledkom opakovateľného procesu.

Skutočná legislatíva — aké lehoty platia, aké povinnosti podľa triedy rizika patria k akému dátumu — je uvedená inde. Táto stránka popisuje mechanizmus, pomocou ktorého rozlišujete naliehavé od plánovateľného; aktuálne znenie zákona a lehoty tu nenájdete.

Od zaradenia k obsahu

Zaradenie na naliehavé a plánovateľné hovorí niečo o poradí pozornosti, nie o obsahu samotnej práce. Hneď ako je jasné, ktorá aplikácia AI má prioritu, ostáva otvorená otázka, čo táto aplikácia presne robí s prácou, ktorá sa okolo nej odohráva: ktorá časť úlohy prebieha automaticky, ktorá časť si vyžaduje kontrolu a ktorá časť ostáva na človeku. Na túto otázku odpovedá pracovný scan od FTE TO AI, ktorý pre každú úlohu vypočíta, akú časť práce je možné preniesť na AI — doplnenie k zaradeniu, ktoré sa robí tu, zamerané na obsah samotnej práce.