Model, który Pan/Pani zakupuje i używa w niezmienionej formie, to inna sytuacja niż model, który jest dostrajany, ponownie trenowany na własnych danych lub łączony z innymi systemami. Pytanie, które się z tym wiąże, nie brzmi, czy to jest dozwolone, lecz co to zmienia w Pana/Pani roli. Ta strona opisuje, od czego zależy ten podział. Aktualna treść przepisów znajduje się gdzie indziej; tutaj chodzi o mechanizm, który określa, kiedy coś się zmienia i co z tym robi się wewnętrznie w organizacji.
Czy dostosowanie modelu zmienia Pana/Pani rolę, zależy od kilku czynników, które należy ustalić dla każdej sytuacji odrębnie, nie od jednej sztywnej granicy, jednakowej dla każdego modelu.
Te czynniki działają wspólnie. Żaden z tych punktów sam w sobie nie jest rozstrzygający; to kombinacja determinuje, czy dostosowanie zmienia Pana/Pani pozycję.
Jeśli dostosowanie jest wystarczająco istotne, zmienia się z reguły nie tylko kwalifikacja modelu, ale też to, czego oczekuje się od organizacji: inna dokumentacja, inna wewnętrzna odpowiedzialność, możliwe inne podmiot odpowiedzialny za całość. Ten mechanizm, oraz rozróżnienie między podmiotem, który tylko korzysta z modelu, a podmiotem, który współtworzy model, jest wyjaśniony na stronie opisującej rozróżnienie między dostawcą a użytkownikiem. Kiedy dostosowanie jest dokładnie wystarczająco istotne, aby doprowadzić do zmiany tej roli, to pytanie, na które trzeba odpowiedzieć odrębnie dla każdego systemu; ogólny mechanizm stojący za tym opisano na stronie o momencie, w którym zmienia się Pana/Pani rola.
Konsekwencje tej zmiany zależą z kolei od poziomu ryzyka, jaki otrzymuje zmodyfikowany model. Zmodyfikowany model, który wpada w kategorię wysokiego ryzyka, wiąże się z innymi obowiązkami niż zmodyfikowany model, który pozostaje poza tą kategorią. Co wysoki poziom ryzyka oznacza w praktyce dla wewnętrznych procesów i nadzoru, opisano na stronie o skutkach wysokiego poziomu ryzyka dla Pana/Pani organizacji. Z drugiej strony możliwe jest też, że dostosowanie właśnie utrzymuje system poza najciężej klasyfikowaną kategorią, lub że dany zakres zastosowania po prostu nie podlega regulacji; jakie zastosowania wykraczają poza zakres i dlaczego, opisano na stronie o zastosowaniach wykraczających poza zakres.
Dostosowania modeli często odbywają się blisko codziennej pracy: zespół dostraja zewnętrzny model na własnych dokumentach, programista łączy dwa systemy, dział zasilania chatbota wewnętrznymi bazami wiedzy. To są właśnie dostosowania, które nie przechodzą przez centralny proces zakupowy, więc nie znajdują się automatycznie na liście działu IT. Kto chce wiedzieć, czy i gdzie to się dzieje w organizacji, musi o to zapytać — a to działa tylko wtedy, gdy pytanie nie jest powiązane z rozliczeniem. Zespół, który dostosował model bez pytania o zgodę, nie zgłosi tego, jeśli odpowiedzią jest sankcja.
Ponieważ podział dostosowań nie jest ustalony na stałe, lecz określany dla każdej sytuacji odrębnie, nie wystarczy jednorazowo określić, jaką rolę ma model. Dostosowania, które mają miejsce po pierwszej ocenie, muszą przejść ponownie przez te same pytania. Polityka, która to wspiera, musi w prostym języku opisywać, kiedy dostosowanie musi zostać zgłoszone i komu; jak taka polityka pozostaje czytelna, a nie staje się tekstem, którego nikt nie konsultuje, opisano na stronie o polityce AI, która jest faktycznie czytana. Ponadto ważne jest, aby decyzje dotyczące dostosowań — kto wyraził zgodę, na podstawie jakiej oceny, z jakim poziomem ryzyka jako wynikiem — były zapisywane w miejscu, gdzie można je odnaleźć. Jak taka rejestracja wygląda w praktyce, opisano na stronie o rejestrze decyzji nadzorczych.
Klasyfikacja zmodyfikowanego modelu określa, jakie obowiązki mają zastosowanie, ale nie mówi niczego o tym, co model faktycznie robi z samą pracą. Dla tego pytania — jaka część zadania jest przejmowana przez AI, jaka część pozostaje przy pracowniku, i co dostosowanie w tym przesuwa — potrzebne jest inne spojrzenie niż ocena ryzyka. Skan pracy FTE TO AI wyliczaz dla każdego zadania, jaka część pracy może zostać przejęta przez AI, niezależnie od pytania, jakie zasady zarządzania mają zastosowanie do danego modelu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.