Multe organizații presupun că clasificarea drept furnizor sau utilizator este definitivă: se achiziționează undeva un sistem, și astfel rolul organizației dumneavoastră este stabilit. În practică, lucrurile sunt mai nuanțate. Rolul pe care îl aveți în raport cu un sistem AI depinde de ce faceți cu el, nu de locul de unde provine sistemul. Aceeași organizație poate fi utilizator pentru un sistem și, fără ca nimeni să fi numit acest lucru astfel, furnizor pentru altul.
Întrebarea centrală nu este cine a construit sistemul, ci cine îl introduce pe piață sau îl folosește sub nume propriu. O organizație care achiziționează un sistem AI standard și îl folosește pentru propriul proces este, de regulă, utilizator. Din momentul în care aceeași organizație modifică, dezvoltă în continuare, re-etichetează sau oferă un sistem sub nume propriu altora, această imagine se schimbă. Contează și gradul de control asupra modelului: cine decide cu ce date se realizează antrenarea, cine stabilește parametrii, cine își asumă responsabilitatea pentru comportamentul sistemului în producție. Aceste întrebări nu primesc un răspuns o singură dată, la achiziție, ci rămân relevante pe toată perioada în care sistemul este utilizat.
Rolul unei organizații nu este, deci, o etichetă fixă, ci un rezultat al utilizării efective. Aceasta înseamnă că modificări interne — o nouă aplicație a unui sistem existent, o adaptare realizată de propriul departament IT, transmiterea în continuare a unei funcții AI către un client sau o filială — pot schimba clasificarea fără să existe o decizie formală în acest sens. Ce înseamnă acest lucru în practică, și în ce moment se schimbă efectiv un rol, este dezvoltat pe pagina despre momentul în care rolul dumneavoastră față de un sistem AI se schimbă. Este important să rețineți că această schimbare trece deseori neobservată, pentru că se produce la nivel de departament, departe de locul unde se stabilește politica.
Întrebarea dacă sunteți furnizor sau utilizator nu este izolată. Ea este legată de întrebarea privind nivelul de risc al unei aplicații, precum și de întrebarea dacă o aplicație se încadrează în domeniul de aplicare al reglementării. Un sistem utilizat de un utilizator cu un impact redus poate necesita un tratament diferit față de situația în care aceeași organizație modifică în continuare sistemul, ajungând astfel mai apropiată de rolul de furnizor. Ce înseamnă concret un nivel de risc mai ridicat pentru propria organizație este descris pe pagina despre ce înseamnă un nivel de risc ridicat pentru propria organizație. De asemenea, nu toate aplicațiile se încadrează în domeniul aceloraşi cerinţe; care aplicaţii se situează în afara acestuia și de ce depinde asta este explicat pe pagina despre care aplicații se situează în afara domeniului de aplicare.
Motivul pentru care această clasificare rămâne neclară pentru multe organizații nu este că regulile ar fi absente. Textul actual și criteriile exacte se găsesc în altă parte și nu se schimbă din cauza acestui text. Problema se situează mai înainte: pentru a ști ce rol se aplică, trebuie mai întâi să se cunoască ce sisteme AI sunt efectiv în uz, de către cine și cu ce grad de adaptare. Această inventariere lipsește în majoritatea organizațiilor. Lista oficială a instrumentelor aprobate de IT descrie rareori ce se folosește în realitate. Departamentele adoptă instrumente, adaptează modele cu date proprii sau integrează o funcție AI într-un proces intern, fără ca acest lucru să fie consemnat undeva la nivel central. Cine dorește să știe dacă organizația este furnizor sau utilizator trebuie, deci, să știe mai întâi ce este în funcțiune — și aceasta este o întrebare la care nu se răspunde printr-un document de politică, ci printr-un inventar care are curajul să întrebe oamenii ce folosesc, fără să lege acest lucru de o sancțiune.
Deoarece rolul unei organizații se poate schimba fără o decizie formală, este important pentru conducere și pentru autoritățile de supraveghere ca rapoartele să reflecte această mișcare. O abordare de guvernanță care presupune o repartizare fixă a rolurilor ratează momentul în care o adaptare internă plasează efectiv organizația într-o altă poziție. Cum poate fi elaborată o politică AI astfel încât să facă vizibile astfel de schimbări, în loc să le ascundă, și să fie efectiv citită de cei responsabili pentru ea, este tratat pe pagina despre o politică AI care corespunde practicii, și nu doar rafturilor.
Întrebarea dacă organizația dumneavoastră este furnizor sau utilizator se referă la responsabilitate și obligații. Ea nu spune încă nimic despre ce înseamnă AI pentru munca în sine: care sarcini sunt preluate, modificate sau susținute de aceasta. Această întrebare se situează în continuarea determinării rolului, dar necesită o altă perspectivă — nu asupra guvernanței, ci asupra conținutului muncii. Scanul de muncă al FTE TO AI calculează, pentru fiecare sarcină, ce parte din muncă poate fi preluată de AI, indiferent de rolul pe care organizația îl are în raport cu sistemul de bază.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.