Înainte ca un nivel de risc, o obligație sau o măsură de guvernanță să aibă vreo semnificație, trebuie stabilit ce rol joacă organizația dvs. Cine introduce un sistem AI pe piață are alte responsabilități decât cine utilizează un sistem construit de altcineva. Termenul folosit pentru aceasta este cunoscut: furnizor versus utilizator. Dar clasificarea în sine nu este fixată într-o organigramă. Ea depinde de ceea ce face o organizație cu un sistem specific, și acest lucru poate varia de la un sistem la altul, de la un departament la altul și de la un moment la altul.
Întrebarea centrală nu este cine a achiziționat sau a instalat sistemul, ci cine l-a introdus pe piață sau îl pune la dispoziție sub nume propriu. O organizație care achiziționează și utilizează software așa cum a fost livrat este, de regulă, utilizator. O organizație care dezvoltă un sistem, îl face să fie dezvoltat sub numele său, sau adaptează un sistem existent astfel încât acesta devine funcțional altceva, poate ajunge astfel în rolul de furnizor. Acesta din urmă este adesea punctul în care organizațiile se înșală: ajustarea fină a unui model, construirea unui strat propriu peste un sistem extern sau instruirea unui chatbot pe date proprii poate schimba rolul fără ca cineva să fi perceput acest lucru ca o alegere conștientă. Ce anume contează exact ca o adaptare care schimbă rolul este descris pe ce se schimbă când adaptați dvs. înșiși un model.
Majoritatea organizațiilor nu sunt exclusiv furnizor sau exclusiv utilizator. O bancă care folosește un model lingvistic extern pentru serviciul clienți este utilizator în acest caz, dar dacă aceeași bancă pune la dispoziție unui alt departament sau unui client un model de risc dezvoltat intern, apare pentru acel sistem un rol de furnizor. Aceasta înseamnă că clasificarea trebuie făcută per aplicație, nu o singură dată pentru întreaga organizație. Un inventar care înregistrează, pentru fiecare sistem, cine l-a construit, cine l-a adaptat și cine îl utilizează este, prin urmare, singura modalitate de a răspunde structural la această întrebare, în loc de a o face incidental.
Rolul nu este o caracteristică fixă a unei organizații, ci un statut supus schimbării. Un furnizor își poate modifica sistemul într-un mod care afectează profilul de risc. Un dezvoltator intern poate dezvolta în continuare un instrument intern până când acesta devine ceva ce este oferit în afara organizației. Un sistem care a fost introdus inițial ca instrument simplu poate, după o actualizare, să îndeplinească sarcini care îl plasează într-o altă categorie de risc. Momentele concrete în care apare această schimbare și ce înseamnă aceasta pentru cine este responsabil în acel moment sunt explicate pe când se schimbă rolul dvs.. Pentru organizațiile care doresc să înțeleagă ce implică în practică o deplasare către un nivel de risc mai ridicat, ce înseamnă un nivel de risc ridicat pentru organizația dvs. oferă o dezvoltare suplimentară.
Nu fiecare aplicație denumită inteligență artificială se încadrează în cadrul pentru care repartizarea rolurilor este relevantă. Unele sisteme se situează în afara domeniului de aplicare pentru care a fost creată această clasificare, și pentru o organizație este la fel de important să știe ce se situează în afara domeniului de aplicare pe cât este să știe ce se situează în interiorul acestuia. În caz contrar, se pierde timp cu clasificarea a ceva ce nu necesita clasificare, sau se trece cu vederea ceva ce părea prea mic. Ce aplicații se situează în afara acestui cadru și de ce este descris pe ce aplicații se situează în afara domeniului de aplicare.
Stabilirea rolului este un prim pas, nu rezultatul unui traseu de guvernanță. După clasificare urmează întrebarea ce trebuie efectiv să se întâmple pentru fiecare rol și fiecare nivel de risc, iar această întrebare se împarte în două categorii: ce necesită atenție imediată și ce poate fi planificat pe termen mai lung. Aceste două categorii sunt adesea confundate, cu consecința că problemele urgente rămân neabordate, în timp ce timpul este dedicat unui lucru care nu este încă acut. O prezentare a ceea ce are prioritate în acest sens se găsește pe ce trebuie făcut acum și ce poate fi planificat. Cei care doresc să aprofundeze și mai mult întrebarea privind repartizarea rolurilor, cu criteriile precise care determină limita dintre furnizor și utilizator, găsesc această dezvoltare pe sunteți furnizor sau utilizator: de ce depinde asta.
Această clasificare are sens doar dacă este aplicată la ceea ce funcționează cu adevărat în organizație, nu la ceea ce se află pe o listă aprobată. Sistemele care au fost introduse fără permisiune contează la fel de mult, și rolul care le corespunde trebuie stabilit la fel de riguros. Acest lucru necesită un inventar care merge mai departe decât administrarea IT.
De îndată ce este clar ce rol joacă o organizație pentru fiecare sistem, atenția se deplasează în mod natural către o altă întrebare: ce fac de fapt aceste sisteme și ce parte din activitate preiau ele. Această întrebare se află în afara scanării de guvernanță, dar se conectează direct la aceasta. Scanarea de activitate a FTE TO AI calculează, pentru fiecare sarcină, ce parte din activitate poate fi preluată de AI, oferind astfel o imagine a impactului unui sistem alături de imaginea obligațiilor care îi corespund.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.