re-ai-gov Na čakalni seznam

Kennisbank

Kdaj postane prilagajanje modela vaša lastna odgovornost?

Model, ki ga kupite in uporabljate nespremenjenega, je drugačna situacija kot model, ki ga finetunirate, ponovno trenirate na lastnih podatkih, ali združite z drugimi sistemi. Vprašanje, ki se ob tem postavlja, ni, ali je to dovoljeno, temveč kaj to spremeni v vaši vlogi. Ta stran opisuje, od česa je odvisna ta razmejitev. Trenutna vsebina predpisov je opisana drugje; tukaj gre za mehanizem, ki določa, kdaj se nekaj spremeni in kaj s tem interno storite.

Od česa je odvisna razmejitev

Ali prilagoditev modela spremeni vašo vlogo, je odvisno od več dejavnikov, ki jih morate ugotoviti za vsako situacijo posebej, ne od fiksne meje, ki bi bila enaka za vsak model.

Ti dejavniki delujejo skupaj. Nobena od teh točk sama po sebi ni odločilna; kombinacija določa, ali prilagoditev spremeni vaš položaj.

Kaj se spremeni, ko se situacija spremeni

Če je prilagoditev dovolj obsežna, se praviloma ne spremeni le opredelitev modela, temveč tudi to, kaj se pričakuje od organizacije: druga dokumentacija, druga interna odgovornost, morda druga stranka, ki je odgovorna za celoto. Ta mehanizem in razlika med stranko, ki model zgolj uporablja, in stranko, ki model soustvarja, je podrobno opisana na strani, ki opisuje razliko med ponudnikom in uporabnikom. Kdaj je prilagoditev natanko dovolj obsežna, da povzroči spremembo te vloge, je vprašanje, na katerega je treba odgovoriti za vsak sistem posebej; splošni mehanizem, ki stoji za tem, je opisan na strani o trenutku, ko se spremeni vaša vloga.

Posledice te spremembe pa so nadalje odvisne od ravni tveganja, ki jo dobi prilagojeni model. Prilagojen model, ki spada v kategorijo visokega tveganja, prinaša drugačne obveznosti kot prilagojen model, ki ostane zunaj te kategorije. Kaj visoka raven tveganja v praksi pomeni za notranje procese in nadzor, je opisano na strani o posledicah visoke ravni tveganja za vašo organizacijo. Po drugi strani je tudi mogoče, da prilagoditev sistem ravno ohrani zunaj najstrožje kategorije, ali da področje uporabe preprosto ne sodi pod ureditev; katere uporabe sodijo zunaj področja uporabe in zakaj, je opisano na strani o uporabah, ki sodijo zunaj področja uporabe.

Zakaj to redko vidimo na enem mestu

Prilagoditve modelov se pogosto dogajajo blizu samega dela: ekipa, ki finetunira zunanji model na lastnih dokumentih, razvijalec, ki povezuje dva sistema, oddelek, ki chatbota napaja z interno bazo znanja. To so ravno tiste prilagoditve, ki ne potekajo prek centralnega nabavnega procesa in zato niso samodejno na seznamu IT. Kdor želi izvedeti, ali in kje se to dogaja znotraj organizacije, mora to vprašati — in to deluje le, če vprašanje ni povezano s sankcijo. Ekipa, ki je prilagodila model brez zahtevanega dovoljenja, tega ne bo prijavila, če je odgovor sankcija.

Kaj to pomeni za politiko in nadzor

Ker razmejitev prilagoditev ni fiksna, temveč se ugotavlja za vsako situacijo posebej, ni dovolj enkrat določiti, kakšno vlogo ima model. Prilagoditve, ki se zgodijo po prvi presoji, je treba ponovno preveriti z enakimi vprašanji. Politika, ki to podpira, mora v razumljivem jeziku opisati, kdaj je treba prilagoditev prijaviti in komu; kako naj taka politika ostane berljiva namesto besedila, ki ga nihče ne prebira, je opisano na strani o politiki UI, ki jo dejansko berejo. Poleg tega je pomembno, da se odločitve o prilagoditvah — kdo je dal soglasje, na podlagi kakšne presoje, s kakšno ravnjo tveganja kot izidom — zapisujejo na mestu, kjer jih je mogoče najti. Kako tak zapis izgleda v praksi, je opisano na strani o seznamu odločitev nadzora.

Naslednje vprašanje

Razmejitev prilagojenega modela določa, katere obveznosti veljajo, vendar ne pove nič o tem, kaj model v praksi počne s samim delom. Za to vprašanje — kateri del naloge prevzame UI, kateri del ostane pri zaposlenem, in kaj prilagoditev v tem premakne — je potreben drugačen pogled kot presoja tveganja. Delovni pregled podjetja FTE TO AI za vsako nalogo posebej izračuna, kateri del dela je mogoče prevzeti z UI, ne glede na to, katera pravila upravljanja veljajo za model.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.