re-ai-gov Na listi čekanja

Kennisbank

Hitno ili planibilno: o čemu ovisi raspodjela

Pitanje iza pitanja

Inventura upotrebe AI-a obično rezultira popisom koji je previše dugačak da bi se riješio u jednom potezu. Pitanje koje zatim slijedi nije "što moramo učiniti" nego "što moramo prvo učiniti". To je pitanje raspodjele, i odgovor ne ovisi o tome koliko sustava postoji, nego o tome što ti sustavi rade i za koga.

O čemu ovisi hitnost

Prvi faktor je razina rizika same primjene. Sustav koji priprema odluke o ljudima — zapošljavanje, dodjela kredita, dodjela njege ili naknada — zahtijeva drugačiji pristup od alata koji preoblikuje tekst za internu upotrebu. Što visoka razina rizika znači za vašu organizaciju razlikuje se dakle po primjeni, i te razlike određuju koji sustavi dolaze prvi na red.

Drugi faktor je uloga organizacije kod tog sustava. Onaj koji kupuje model i koristi ga nepromijenjenog, ima drugačije obveze od onoga koji model dodatno trenira na vlastitim podacima ili strukturno prilagođava rezultat. Bilo da ste davatelj ili korisnik AI-primjene ne određuje samo koje obveze vrijede, nego i koliko je vremena potrebno da se tim obvezama udovolji — davatelj obično ima više za pripremiti nego korisnik.

Treći faktor je je li sustav već u upotrebi ili se još nabavlja. Rizik koji je već aktivan — sa stvarnim korisnicima, stvarnim odlukama, stvarnim podacima — zahtijeva drugačiji redoslijed od rizika koji je još u fazi ugovaranja i gdje se dogovori još mogu utvrditi prije nego sustav postane aktivan.

Što se mijenja kada se situacija promijeni

Ova raspodjela nije trenutna snimka. Sustav koji je danas nizak rizik, to više ne mora biti nakon prilagodbe. Što znači kada model sami prilagođavate — fino podešavanje, novi skup podataka, drugačija primjena iste temeljne tehnologije — ovisi o tome što se točno mijenja, ali raspodjela koja je prije napravljena zbog toga ne ostaje automatski na snazi.

Isto vrijedi za promjenu uloge. Organizacija koja preuzima gotov model i zatim ga značajno prilagođava, može time prijeći iz korisnika u davatelja. Kada se ta uloga mijenja nije uvijek trenutak same prilagodbe, nego trenutak u kojem ta prilagodba mijenja karakter sustava. I to je pitanje raspodjele, i i to zahtijeva ponovnu procjenu čim se situacija promijeni — ne jednokratnu provjeru koja zatim ostaje nepromijenjena.

A sustav koji je još u nabavi, prelazi iz planibilnog u hitno u trenutku kada postane aktivan. Raspodjela koja je vrijedila za fazu ugovaranja, ne vrijedi za fazu upotrebe.

Što to znači za redoslijed

Praktična posljedica je da inventura ne daje jednom popis prioriteta, nego strukturu koja se mora ponovno prolaziti. Sustavi s visokom razinom rizika i aktivnom ulogom davatelja zahtijevaju pažnju sada. Sustavi s niskom razinom rizika koji još nisu u upotrebi, mogu se planirati — ali plan mora sadržavati trenutak u kojem se ponovno pogleda, jer prilagodbe, promjena uloge ili puštanje u upotrebu mogu preokrenuti raspodjelu.

To zahtijeva fiksno mjesto gdje se odluke o toj raspodjeli zapisuju: koji sustav je označen kao hitan, na temelju kojeg faktora, i kada je ta procjena posljednji put napravljena. Popis odluka o nadzoru je oblik u kojem se ta raspodjela čini dokazivom — ne kao dodatna administracija, nego kao jedini dokaz da raspodjela nije slučajna, nego rezultat postupka koji se može ponavljati.

Stvarni propisi — koji rokovi vrijede, koje obveze po klasi rizika pripadaju kojem datumu — navedeni su na drugom mjestu. Ova stranica opisuje mehanizam kojim razlikujete hitno od planibilnog; aktualni zakonski tekst i rokove ne pronalazite ovdje.

Od raspodjele do sadržaja

Raspodjela na hitno i planibilno govori nešto o redoslijedu pažnje, ne o sadržaju samog posla. Čim je jasno koja AI-primjena dobiva prioritet, ostaje otvoreno pitanje što ta primjena točno radi s poslom koji je oko toga vezan: koji dio zadatka teče automatski, koji dio zahtijeva kontrolu, i koji dio ostaje kod čovjeka. Na to pitanje odgovara skeniranje rada FTE TO AI, koje po zadatku izračunava koji dio posla može preuzeti AI — dopuna raspodjeli koja se ovdje pravi, usmjerena na sadržaj samog posla.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.