Kennisbank

Čo sa zmení, keď si model sami upravíte?

Nakúpiť AI systém a používať ho tak, ako je dodaný, je iná situácia než prispôsobiť model vlastným údajom alebo účelu. Táto úprava môže zmeniť zaradenie vašej organizácie — a tým aj otázky, na ktoré musíte vedieť odpovedať. Či k tomu dôjde a nakoľko to je závažné, závisí od toho, čo presne sa upravuje a na čo sa systém nasadzuje.

Od čoho závisí zaradenie

Zaradenie nezávisí od otázky, či ste napísali zdrojový kód. Závisí od toho, čo sa s modelom skutočne udeje po tom, ako sa dostane k vám. Niekoľko faktorov, ktoré tu hrajú rolu:

• Povaha úpravy. Používanie systému tak, ako bol dodaný, je iné než jeho doladenie (finetuning) na vlastných dátach, prepojenie s vlastnými zdrojmi, alebo nasadenie na účel, ktorý pôvodný dodávateľ nepredpokladal.
• Kto zmenu vykonáva. Interný dátový špecialista, ktorý model dotrénuje, je iná situácia než dodávateľ, ktorý na požiadanie dodá variant.
• Vplyv na riziko. Úprava, ktorá podstatne mení správanie systému, má inú váhu než úprava, ktorá sa týka len rozhrania alebo formy výstupu.
• Aplikácia, v ktorej sa model používa. Rovnaká úprava môže mať v jednej aplikácii málo dôsledkov a v inej aplikácii zmeniť rolu vašej organizácie. Otázku, ktoré aplikácie sa do toho počítajú a ktoré nie, treba zodpovedať samostatne — pozri aké aplikácie sa nachádzajú mimo rozsahu povinností v oblasti governance.

Tieto faktory pôsobia spoločne. Neexistuje pevná hranica, ktorá by platila vo všetkých prípadoch; aktuálna regulácia s presnými kritériami je uvedená inde a tento text sa môže zmeniť. Čo zostáva platné na tejto stránke, je mechanizmus: úprava môže zmeniť rolu, a rola určuje povinnosť.

Od používateľa k niečomu inému

Rola, ktorú vaša organizácia zastáva pri AI systéme, nie je fixná. Kto model iba používa tak, ako bol dodaný, má zvyčajne inú pozíciu než kto model upraví a následne ho sám uvádza na trh alebo interne nasadí vo veľkom rozsahu. Otázka, kedy k tomuto prechodu dochádza a čo sa v tom momente zmení v tom, čo musíte vedieť preukázať, je rozobraná na kedy sa vaša rola mení a kde je táto hranica. Pre organizácie, ktoré si nie sú isté, či sú poskytovateľom alebo používateľom — otázka, ktorá sa vyskytuje častejšie, než by sa čakalo, hneď ako sa robí interná úprava — je k dispozícii samostatné vysvetlenie na rozdiel medzi poskytovateľom a používateľom AI systému.

Dôvod, prečo je to dôležité, nie je formálny. Zmena roly mení to, čo musíte vedieť ukázať: akú dokumentáciu vedieta, kto v rámci organizácie zodpovedá za dohľad, a aké kroky boli podniknuté predtým, než sa upravený systém začal používať. Model, ktorý si sami upravili, je model, pri ktorom sa od vás môže vyžadovať, aby ste sami zdôvodnili, ako táto úprava vznikla.

Čo to znamená pre úroveň rizika

Úprava môže ovplyvniť aj úroveň rizika aplikácie. Model, ktorý bol pôvodne určený na málo rizikovú aplikáciu, sa môže úpravou dostať do závažnejšej kategórie — napríklad keď sa po úprave nasadí na rozhodnutia o ľuďoch. Čo vysoká úroveň rizika konkrétne znamená pre povinnosti vašej organizácie, je uvedené na čo vysoká úroveň rizika znamená pre požiadavky na vašu organizáciu. Aj tu platí: zaradenie vyplýva z použitia, nie zo zámeru, s ktorým bol model kedysi vytvorený.

Toto sa priamo dotýka jadra tzv. shadow AI. Úprava, ktorá neprebieha cez IT — tím, ktorý si sám dotrénuje model na vlastnom datasete, alebo oddelenie, ktoré prepojí externý model s internými systémami bez toho, aby o tom podalo správu — mení zaradenie vašej organizácie bez toho, aby o tom vedenie vedelo. IT zoznam takúto úpravu nezobrazí. Kto chce vedieť, či k tomu dochádza, sa musí opýtať tímov, ktoré s tým denne pracujú, a tento rozhovor prinesie výsledok len tak, že sa vedie bez následkov.

Čo sa praktický mení

Keď úprava zmení rolu alebo úroveň rizika aplikácie, zmení sa viacero vecí naraz: dokumentácia, ktorú treba viesť, otázka, kto v organizácii je vlastníkom danej aplikácie, a moment, kedy sa niečo ešte môže plánovať oproti tomu, čo si už vyžaduje pozornosť. Tento rozdiel — medzi tým, čo je už teraz naliehavé, a tým, čo sa môže naplánovať — súvisí s faktormi, ktoré sú vysvetlené na čo si už teraz vyžaduje pozornosť a čo sa ešte môže naplánovať. Podrobnejšie rozpracovanie samotnej otázky zaradenia, vrátane hraničných prípadov, ktoré sa v praxi vyskytujú najčastejšie, je uvedené na úplné vysvetlenie toho, čo sa mení pri úprave modelu.

Upravený model je v praxi často aj model, ktorý prevezme časť práce od ľudí, ktorí predtým úlohu vykonávali úplne sami. Či je to tak a koľko z práce sa to týka, je otázka, ktorá je nezávislá od otázky zaradenia, ale často po nej nasleduje: hneď ako je jasné, že model bol upravený a na čo sa nasadzuje, stane sa zrejmým aj to, akú časť úlohy skutočne vykonáva. Pracovný scan od FTE TO AI to vypočíta pre každú úlohu a ukáže, akú časť práce môže prevziať AI, bez ohľadu na to, ako vznikol podkladový model.