Organizacje często myślą, że ich rola jest ustalona: jesteśmy użytkownikiem, dostawca jest dostawcą, koniec tematu. To założenie regularnie nie jest prawdziwe, albo jest prawdziwe dzisiaj, a jutro już nie. Rola, jaką organizacja ma względem systemu AI, nie jest stałą właściwością organizacji. Jest wynikiem tego, co dzieje się z systemem: kto go tworzy, kto go dostosowuje, kto wprowadza go na rynek i pod jaką nazwą. Jeśli zmieni się jeden z tych czynników, może zmienić się również rola, a tym samym obowiązki, które się z nią wiążą.
To powoduje, że klasyfikacja nie jest czymś jednorazowym. Rola, która została prawidłowo ustalona przy zakupie, może rok później być nieprawidłowa, bez tego, że wewnętrznie podjęto o tym jakąkolwiek świadomą decyzję.
Klasyfikacja zależy od ograniczonej liczby czynników, ale te czynniki nie leżą wszystkie po stronie podmiotu, który korzysta z systemu. Istotne jest między innymi to, czy system został stworzony samodzielnie czy zakupiony, czy zakupiony system jest wdrażany w niezmienionej formie czy jest dostosowywany, oraz czy dostosowanie wpływa na profil ryzyka systemu. Istotne jest również, pod jaką nazwą system jest udostępniany na zewnątrz: system, który jest odsprzedawany lub dalej rozwijany pod własną marką, może wiązać się z inną rolą niż niezmienione uruchamianie zewnętrznego produktu. Dla dokładnej granicy między tymi dwiema pozycjami istotna jest strona dotycząca tego, co się zmienia, gdy organizacja samodzielnie dostosowuje zakupiony model, a dla podstawowego pytania, która z dwóch głównych ról ma zastosowanie, dostępna jest strona wyjaśniająca od czego dokładnie zależy wybór między dostawcą a użytkownikiem.
Klasyfikacja nie jest więc czymś, co organizacja ustala jednorazowo, a następnie archiwizuje. Jest to klasyfikacja, którą należy ponownie ocenić, gdy zmienią się okoliczności leżące u jej podstaw.
Jeśli rola się zmienia, zmienia się również to, czego oczekuje się od organizacji. Podmiot, który jest wyłącznie użytkownikiem, ma inne obowiązki niż podmiot, który jest (współ)odpowiedzialny za powstanie systemu. Dotyczy to nie tylko formalności papierowych. Dotyczy to również tego, gdzie w organizacji powinna leżeć odpowiedzialność za system, kto o niej raportuje i jaki poziom nadzoru jest właściwy.
Ta zmiana przekłada się na pytanie, jak poważnie system musi być wewnętrznie oceniany. Zmiana roli może doprowadzić do tego, że system, który wcześniej był uznawany za łatwy do opanowania, musi zostać ponownie oceniony pod względem poziomu ryzyka — pytanie to jest omówione osobno na stronie dotyczącej tego, co wysoki poziom ryzyka oznacza dla organizacji, która korzysta z systemu lub go dostarcza. Z drugiej strony zmiana roli może również doprowadzić do tego, że system znajdzie się poza zakresem stosowania określonych obowiązków, albo właśnie się w nim znajdzie. Które zastosowania dokładnie wykraczają poza zakres, a które nie, wyjaśnione jest na stronie dotyczącej tego, jakie rodzaje zastosowań AI wykraczają poza zakres obowiązków.
Czynniki, które powodują zmianę roli, rozgrywają się najczęściej na poziomie, do którego zarząd, dział prawny czy zarządzanie ryzykiem nie mają automatycznego wglądu. Zespół, który dostrajał zakupiony model na własnych danych. Dział, który przekazuje klientom zewnętrzny produkt typu chatbot pod własną nazwą produktu. Integracja, która łączy model dostawcy z własnymi regułami i taką kombinację następnie udostępnia na zewnątrz. Żaden z tych kroków nie przechodzi automatycznie przez centralny rejestr, a lista zatwierdzonych narzędzi IT zazwyczaj nie rejestruje tego typu zmiany, ponieważ zmiana nie jest rozpoznawana jako „nowy zakup", lecz jako dostosowanie czegoś, co już zostało zatwierdzone.
To jest powód, dla którego zmiany roli często są widoczne dopiero, gdy coś idzie nie tak, albo gdy z zewnątrz żąda się rozliczenia. Pytanie „jaka jest nasza rola przy tym systemie" jest wtedy odpowiadane z mocą retroaktywną, w momencie, gdy przestrzeń do wprowadzenia zmian jest mniejsza niż wtedy, gdyby to pytanie postawiono wcześniej.
Ponieważ klasyfikacja może się przesuwać, rozróżnienie między tym, co wymaga uwagi w tej chwili, a tym, co należy ponownie ocenić w przyszłości, jest istotne dla planowania pracy nad governance. Nie wszystko, co wiąże się ze zmianą roli, wymaga natychmiastowego działania; część można zaplanować. Które to jest część, a która nie może czekać, jest omówione na stronie dotyczącej tego, co należy podjąć teraz, a co można zaplanować na później. Dla zwięzłego podsumowania samego pytania o klasyfikację, wraz z najważniejszymi punktami zwrotnymi, dostępna jest strona, która szczegółowo omawia dokładne okoliczności, w jakich zmienia się rola.
Pytanie, jaką rolę ma organizacja względem systemu AI, jest bliskie innemu pytaniu, które rzadko otrzymuje taką samą uwagę: jaka część faktycznej pracy w organizacji jest już wykonywana przez AI, jest planowana do wykonania przez AI, albo jest już przejmowana bez tego, że ktokolwiek to formalnie ustalił. O ile pytanie o rolę dotyczy odpowiedzialności względem systemu, to skan pracy FTE TO AI dotyczy podziału samych zadań: dla każdego zadania wyliczane jest, jaka jego część może zostać przejęta przez AI, niezależnie od tego, jaką rolę organizacja formalnie w tym zakresie przyjmuje. Te dwa pytania łączą się ze sobą, ponieważ zmiana w podziale zadań jest często impulsem do zmiany roli.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.