Kennisbank

Ce se schimbă dacă adaptați dumneavoastră înșivă un model?

Achiziționarea unui sistem AI și utilizarea lui așa cum este livrat reprezintă o situație diferită față de adaptarea unui model la propriile dumneavoastră date sau la propriul scop. Această adaptare poate schimba clasificarea organizației dumneavoastră — și, odată cu asta, întrebările la care trebuie să puteți răspunde. Dacă acest lucru se întâmplă, și cât de mult contează, depinde de ce anume este adaptat și în ce scop este utilizat sistemul.

De ce depinde clasificarea

Clasificarea nu depinde de întrebarea dacă dumneavoastră ați scris codul sursă. Ea depinde de ce se întâmplă de fapt cu un model după ce ajunge la dumneavoastră. Câțiva factori care joacă un rol:

• Natura adaptării. Utilizarea unui sistem așa cum este livrat este altceva decât reglarea fină (finetuning) pe date proprii, conectarea la surse proprii sau utilizarea acestuia pentru un scop pe care furnizorul original nu l-a prevăzut.
• Cine aduce modificarea. Un specialist intern în date care reantrenează un model reprezintă o situație diferită de un furnizor care livrează o variantă la cerere.
• Efectul asupra riscului. O adaptare care schimbă în mod substanțial comportamentul sistemului contează diferit față de o adaptare care se referă doar la interfață sau la forma rezultatelor (output).
• Aplicația în care este utilizat modelul. Aceeași adaptare poate avea puține consecințe într-o aplicație și poate schimba rolul organizației dumneavoastră într-o altă aplicație. Care aplicații contează în această privință și care nu este o întrebare care trebuie clarificată separat — a se vedea care aplicații se află în afara domeniului de aplicare al obligațiilor de guvernanță.

Acești factori acționează împreună. Nu există un prag fix care să se aplice în toate cazurile; reglementarea actuală, cu criteriile exacte, se găsește în altă parte, iar acel text se poate modifica. Ceea ce rămâne valabil pe această pagină este mecanismul: adaptarea poate schimba rolul, iar rolul determină obligația.

De la utilizator la altceva

Rolul pe care îl asumă organizația dumneavoastră în privința unui sistem AI nu este fix. Cine utilizează un model doar așa cum a fost livrat se află, de regulă, într-o poziție diferită față de cine modifică modelul și apoi îl introduce pe piață sau îl implementează intern la scară largă. Întrebarea când are loc această tranziție și ce se schimbă în acel moment în privința a ceea ce trebuie să puteți demonstra este tratată la când se schimbă rolul dumneavoastră și de ce depinde această limită. Pentru organizațiile care au dubii dacă sunt furnizor sau utilizator — o întrebare care apare mai des decât se crede de îndată ce se fac adaptări interne — există o explicație separată la distincția dintre furnizor și utilizator al unui sistem AI.

Motivul pentru care acest lucru are importanță nu este formal. O schimbare de rol schimbă ceea ce trebuie să puteți arăta: ce documentație țineți la zi, cine din interiorul organizației este responsabil pentru supravegherea (toezicht), și ce pași au fost făcuți înainte ca sistemul adaptat să fie pus în funcțiune. Un model pe care l-ați adaptat dumneavoastră înșivă este un model despre care vi se poate cere să justificați cum a fost realizată acea adaptare.

Ce înseamnă asta pentru nivelul de risc

Adaptarea poate influența și nivelul de risc al unei aplicații. Un model care a fost destinat inițial unei aplicații cu risc redus poate ajunge, prin adaptare, într-o categorie cu risc mai mare — de exemplu atunci când, după adaptare, este utilizat pentru decizii privind persoane. Ce înseamnă concret un nivel de risc ridicat pentru obligațiile organizației dumneavoastră se găsește la ce înseamnă un nivel de risc ridicat pentru cerințele impuse organizației dumneavoastră. Și aici se aplică același principiu: clasificarea rezultă din utilizare, nu din intenția cu care modelul a fost construit inițial.

Acest lucru este direct legat de esența shadow AI-ului. O adaptare care nu trece prin departamentul IT — o echipă care reglează fin un model pe propriul set de date, sau un departament care conectează un model extern la sisteme interne fără ca acest lucru să fie raportat — schimbă clasificarea organizației dumneavoastră fără ca conducerea să știe despre asta. Lista IT nu arată această adaptare. Cine dorește să știe dacă acest lucru se întâmplă trebuie să întrebe echipele care lucrează zilnic cu aceste sisteme, iar acea conversație produce rezultate doar dacă este dusă fără repercusiuni.

Ce se schimbă în practică

Atunci când o adaptare modifică rolul sau nivelul de risc al unei aplicații, se schimbă mai multe lucruri simultan: documentația care trebuie ținută la zi, întrebarea privind cine din organizație este proprietarul aplicației respective, și momentul în care ceva mai poate fi planificat, față de ceea ce necesită deja atenție. Această distincție — între ceea ce este deja urgent și ceea ce poate fi planificat — este legată de factori explicați la ce necesită deja atenție acum și ce poate fi planificat. O elaborare mai amplă a întrebării de clasificare în sine, inclusiv cazurile-limită care apar cel mai frecvent în practică, se găsește la explicația completă despre ce se schimbă la adaptarea unui model.

Un model adaptat este, în practică, adesea și un model care preia o parte din munca celor care anterior efectuau o sarcină complet pe cont propriu. Dacă este așa, și cât de mare este partea de muncă implicată, este o întrebare separată de întrebarea de clasificare, dar care o urmează frecvent: de îndată ce este clar că un model a fost adaptat și în ce scop este utilizat, devine vizibil și ce parte dintr-o sarcină execută el de fapt. Scanul de muncă (werkscan) al FTE TO AI calculează acest lucru pe sarcină și arată ce parte din muncă poate fi preluată de AI, indiferent de modul în care a fost realizat modelul de bază.