re-ai-gov Na čakaciu listinu

Kennisbank

Pri každej AI-aplikácii rovnaké otázky, konzistentne zodpovedané

Zoznam názvov AI nástrojov nie je inventár. Inventár vzniká až vtedy, keď pri každej aplikácii zaznamenáte rovnakú sadu údajov, aby ste ich mohli porovnať, klasifikovať a neskôr preukázať. Bez tejto pevnej štruktúry máte len súbor voľných faktov, ktoré už nikto nemôže porovnávať.

Čo zaznamenávate: kľúčové polia

Pri každej aplikácii ide o obmedzený počet polí, ktoré sa opakovane vracajú.

Názov a forma. Ide o samostatné predplatné, funkciu v rámci existujúceho softvéru, interne vytvorený model, alebo AI-funkciu, ktorá prišla s dodávateľom bez toho, aby ju niekto označil ako „AI".

Kto to používa. Tím, oddelenie, jednotlivý zamestnanec. Toto určuje nielen rozsah, ale aj to, s kým sa musíte neskôr rozprávať, ak vzniknú otázky.

Na čo sa to používa. Nie marketingový text dodávateľa, ale skutočná úloha: písanie textov, sumarizácia dát, písanie kódu, odpovedanie na otázky klientov, príprava rozhodnutí. Toto pole určuje úlohu, ktorú aplikácia zohráva, a tým aj úroveň rizika.

Aké údaje do toho vstupujú. Osobné údaje, údaje klientov, finančné informácie, interné dokumenty, alebo žiadne citlivé údaje. Toto určuje, aké požiadavky na governance sa stávajú relevantnými.

Ako to bolo obstarané. Prostredníctvom formálneho postupu, prostredníctvom predplatného, ktoré si niekto sám dojednal, prostredníctvom dodávateľa, ktorý to dodáva spolu s iným produktom. Spôsob obstarania vám hneď povie niečo o tom, koľko dohľadu už existovalo.

Kto je za to zodpovedný. Nie kto to náhodou používa, ale kto je kontaktnou osobou, ak sa niečo pokazí alebo ak chcete zistiť, či sa to ešte používa.

Odkedy a ako dlho. Aplikácia, ktorá tri roky funguje bez povšimnutia, si vyžaduje iný prístup ako pilotný projekt z minulého mesiaca.

Toto nie sú byrokratické zoznamy na odškrtávanie. Sú to údaje, ktoré potrebujete, aby ste neskôr pri každej aplikácii mohli povedať: toto spadá pod vyššiu úroveň rizika, toto nie, a tu je odôvodnenie.

Odkiaľ tieto údaje pochádzajú

Ani jedno z týchto polí nie je kompletne k dispozícii v jednom zdroji. Inventár budujete z viacerých kanálov, ktoré sa navzájom doplňujú.

Oddelenie IT poskytuje východiskový bod, ale nie úplný obraz: prečo zoznam IT nie je presný vysvetľuje, že podstatná časť používania AI sa odohráva mimo systémov, ktoré IT správuje. Napriek tomu sú signály, ktoré IT má k dispozícii, užitočné ako filter: ktoré IT-signály sú použiteľné ukazuje, ktoré technické indikácie sú dostatočne spoľahlivé na to, aby sa na ne dalo ďalej pýtať.

Nákup a financie dopĺňajú inú časť. Faktúry, predplatné a licencie ukazujú, ktoré nástroje boli skutočne zaplatené, aj keď to používateľ nikdy nenahlásil. Čo odhaľujú údaje o nákupe a licenciách popisuje, ktoré polia z tohto zdroja priamo zapadajú do inventára.

Posledná a najrozhodujúcejšia časť pochádza od samotných zamestnancov. Kto vykonáva úlohu, vie, aký nástroj sa pri tom používa, aj keď to nikdy nebolo formálne požadované alebo schválené. Tieto informácie získate len tak, že pýtanie sa nebude mať dôsledky pre toho, kto odpovedá: ako sa na to opýtať bez následkov popisuje, ako sa táto otázka formuluje tak, aby nepôsobila ako kontrola.

Prečo je štruktúra dôležitejšia než úplnosť

Inventár, ktorý musí byť hneď na prvý raz kompletný, nikdy nevznikne. Aplikácie sa menia, objavujú sa nové nástroje, staré zase miznú. Čo zostáva, je štruktúra: rovnaké polia, rovnaké otázky, rovnaký spôsob zaznamenávania. Táto štruktúra umožňuje, aby ste aplikáciu, ktorá dnes chýba, zajtra doplnili bez toho, aby ste musieli začať od začiatku.

Preto poradie, v akom vyplníte polia, je menej dôležité než konzistentnosť, s akou ich vyplníte. Organizácia s viacerými pobočkami, oddeleniami alebo dcérskymi spoločnosťami tu naráža na dodatočnú vrstvu zložitosti, pretože rovnaká aplikácia sa na jednom mieste používa inak než na druhom: ako budujete inventár AI v organizácii s viacerými zložkami sa venuje tomu, ako tieto rozdiely udržať viditeľné bez toho, aby sa stratila porovnateľnosť. Kto chce v rámci takejto štruktúry konkrétne vedieť, aké polia sa musia vyplniť pri každej pobočke samostatne, nájde to v čo pri každej aplikácii zaznamenávate v organizácii s viacerými zložkami.

Od zaznamenávania k klasifikácii

Hneď ako sú polia pri každej aplikácii vyplnené, vzniká možnosť klasifikovať: akú úlohu táto aplikácia zohráva, aká úroveň rizika k tomu patrí, a aké opatrenia v oblasti governance na to logicky nadväzujú. Tento krok sa uskutočňuje na základe toho, čo bolo zaznamenané, nie na základe odhadu spätne.

Zaznamenať, čo aplikácia robí, nie je to isté ako vedieť, koľko práce zostáva

Tento inventár popisuje, aké AI-aplikácie existujú a kto ich používa. Nepopisuje, koľko z podkladovej práce daná aplikácia skutočne prevezme. To je iná otázka, s iným nástrojom: pracovný skan (werkscan) od FTE TO AI vypočíta pri každej úlohe, akú časť práce môže AI prevziať, na základe úloh, ktoré zaznamenáte, nie na základe nástroja, ktorý sa na to používa.

AI-skan tu je ešte vo výstavbe. Kto chce niektorý z týchto nástrojov použiť hneď, ako budú k dispozícii, môže sa prihlásiť na čakaciu listinu.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.