Model, ktorý nakupujete a používate nezmenený, je iná situácia než model, ktorý doladíte, dotrénujete na vlastných dátach, alebo skombinujete s inými systémami. Otázka, ktorá s tým súvisí, nie je, či je to dovolené, ale čo to zmení na vašej úlohe. Táto stránka popisuje, od čoho toto zaradenie závisí. Aktuálny obsah predpisov je uvedený inde; tu ide o mechanizmus, ktorý určuje, kedy sa niečo zmení a čo s tým interne robíte.
Či úprava modelu zmení vašu úlohu, závisí od viacerých faktorov, ktoré musíte posúdiť pre každú situáciu samostatne, nie od pevnej hranice, ktorá by platila rovnako pre každý model.
Tieto faktory pôsobia spoločne. Žiadny z týchto bodov nie je sám osebe rozhodujúci; kombinácia určuje, či úprava zmení vašu pozíciu.
Ak je úprava dostatočne závažná, obvykle sa zmení nielen kvalifikácia modelu, ale aj to, čo sa od organizácie očakáva: iná dokumentácia, iná interná zodpovednosť, prípadne iná strana, ktorá je za celok zodpovedná. Tento mechanizmus, a rozdiel medzi stranou, ktorá model iba používa, a stranou, ktorá model spoluvytvára, je rozpracovaný na stránke, ktorá popisuje rozdiel medzi poskytovateľom a používateľom. Kedy je úprava presne dostatočne závažná na to, aby túto úlohu zvrátila, je otázka, na ktorú treba odpovedať samostatne pre každý systém; všeobecný mechanizmus, ktorý za tým stojí, je uvedený na stránke o momente, kedy sa vaša úloha zmení.
Dôsledky tohto zvratu závisia následne od úrovne rizika, ktorú upravený model dostane. Upravený model, ktorý spadá do vysokorizikovej kategórie, prináša iné povinnosti než upravený model, ktorý mimo nej zostáva. Čo vysoká úroveň rizika v praxi znamená pre interné procesy a dohľad, je popísané na stránke o dôsledkoch vysokej úrovne rizika pre vašu organizáciu. Naopak je aj možné, že úprava naopak udrží systém mimo najzávažnejšej kategórie, alebo že oblasť použitia jednoducho nepatrí pod predpis; ktoré použitia spadajú mimo rozsah pôsobnosti a prečo, je uvedené na stránke o použitiach, ktoré spadajú mimo rozsah pôsobnosti.
Úpravy modelov sa často dejú blízko samotnej práce: tím, ktorý doladí externý model na vlastných dokumentoch, vývojár, ktorý prepojí dva systémy, oddelenie, ktoré napája chatbota internými databázami znalostí. To sú presne tie úpravy, ktoré neprechádzajú centrálnym obstarávacím procesom a teda sa automaticky neobjavia na IT zozname. Kto chce vedieť, či a kde sa toto v organizácii deje, sa musí opýtať — a to funguje len tak, ak otázka nie je spojená s postihom. Tím, ktorý upravil model bez toho, aby na to požiadal o súhlas, to nenahlási, ak by odpoveď priniesla sankciu.
Pretože zaradenie úprav nie je pevne stanovené, ale určuje sa pre každú situáciu samostatne, nestačí raz určiť, akú úlohu má model. Úpravy, ktoré nastanú po prvom posúdení, musia znova prejsť rovnakými otázkami. Politika, ktorá to podporuje, musí bežným jazykom popisovať, kedy sa úprava musí nahlásiť a komu; ako takáto politika zostane čitateľná a nestane sa textom, ktorý nikto nečíta, je uvedené na stránke o AI politike, ktorá sa skutočne čítá. Okrem toho je dôležité, aby sa rozhodnutia o úpravách — kto dal súhlas, na základe akého posúdenia, s akou úrovňou rizika ako výsledkom — zaznamenávali na mieste, kde ich možno dohľadať. Ako takýto záznam vyzerá v praxi, je uvedené na stránke o zozname rozhodnutí dohľadu.
Zaradenie upraveného modelu určuje, aké povinnosti platia, ale nič nehovorí o tom, čo model v praxi robí so samotnou prácou. Pre túto otázku — akú časť úlohy prevezme AI, aká časť zostane u zamestnanca, a čo úprava v tomto posúva — je potrebný iný pohľad než posúdenie rizika. Pracovný sken od FTE TO AI vypočíta pre každú úlohu, akú časť práce je možné prevziať AI, nezávisle od otázky, aké pravidlá riadenia sa na model vzťahujú.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.