Obchodné služby nepredávajú produkt, ale úsudok: radu, analýzu, druhý názor. To robí zaobchádzanie s AI iným než v sektoroch, kde AI predovšetkým zrýchľuje procesy. Tu sa AI priamo dotýka jadra povolania — samotnej myšlienkovej práce a dôvernosti toho, čo klient zdieľal, aby túto myšlienkovú prácu umožnil. Advokát, ktorý naplní jazykový model podkladmi zo spisu, konzultant, ktorý si dá skontrolovať koncept analýzy chatbotom, účtovník, ktorý si dá zhrnúť čísla externým systémom: v každom prípade sa premiestňujú informácie, ktoré mali v skutočnosti zostať v rámci múrov kancelárie a vzťahu dôvery s klientom.
Poměr medzi tým, čo organizácie tu oficiálne obstarali, a tým, čo zamestnanci skutočne používajú, obvykle nie je v rovnováhe. Kým v sektoroch s množstvom operatívnych procesov sa AI často zavádza cez IT oddelenie, v poradenských a právnických kanceláriách je tlak predovšetkým individuálny: niekto s termínom a nástrojom AI, ktorý pracuje rýchlejšie než kolega vedľa. To robí stínovú AI (shadow AI) tu nie výjimkou, ale pravdepodobnou normou — práve v sektore, kde sa účtuje čas a odmeňuje rýchlosť.
Prehľad softvérových licencií ukazuje, čo bolo nakúpené, nie čo sa používa. V obchodných službách navyše veľká časť zamestnancov pracuje s vlastnými zariadeniami, vlastnými prehliadačovými rozšíreniami a vlastnými predplatnými na služby AI, ktoré nič nestoja vyskúšať. Partner alebo senior poradca, ktorý použije jazykový model na overenie konceptu memoranda, sa neobjaví v žiadnom IT dashboarde. Napriek tomu je presne toto používanie tým s najvyšším rizikom: dotýka sa dôvernosti voči klientovi, profesijného tajomstva, otázky, kto za čo zodpovedá, keď je rada čiastočne formovaná algoritmom.
Jediný spôsob, ako zistiť, čo sa skutočne deje, je opýtať sa — a takéto otázky majú zmysel len ak pre toho, kto odpovedá, nič nie je v hre. Zamestnanec, ktorý má podozrenie, že priznanie používania AI vyvolá rozhovor o zlyhávaní, odpovie záporne, alebo vôbec neodpovie. Inventarizácia, ktorá vychádza z dôvery, nie z kontroly, prináša iný obraz: nie úplný, ale pravdivejší než zoznam, ktorý len sčítava to, čo bolo schválené.
Používanie AI v tomto sektore nespadá do jedinej kategórie. Nástroj, ktorý overuje fakty v právnom dokumente, nesie iné riziko než nástroj, ktorý zhrnie interný procesný dokument. Systém, ktorý spolupíše daňové poradenstvo určené klientovi, si vyžaduje iný druh dohľadu než nástroj, ktorý usporadúva zápisnice. Governance, ktorá funguje, začína rozlišovaním týchto rolí a úrovní rizika a k nim viaže primeranú úroveň dohľadu — nie podľa toho, ako sa systém volá, ale podľa toho, čo systém robí a pre koho je výsledok v konečnom dôsledku určený.
Kancelárie v tomto sektore majú často už zavedené štruktúry pre riadenie rizika: revíziu spisov, princíp štyroch očí, kontrolu súladu, kontrolu kvality. Prístup ku governance AI, ktorý je od toho oddelený, sa stane extra vrstvou, ktorú si nikto neosvojí. Rozumnejšie je nadviazať na existujúcu štruktúru riadenia rizika: rovnakí vlastníci, rovnaké reportovacie linky, rovnaký rytmus preverovania, s používaním AI ako súčasťou toho, čo sa už sleduje, nie ako samostatný proces.
Člen vedenia alebo General Counsel, ktorého sa spýtajú, ako je používanie AI v kancelárii zabezpečené, si s dojmom veľmi nepomôže. Preukázateľnosť si vyžaduje zaznamenanú inventarizáciu: aké nástroje, aká rola, aká úroveň rizika, aké dohody o tom, čo s tým možno a čo nemožno robiť. Nejde primárne o zodpovednosť navonok — ide predovšetkým o nástroj pre samotné vedenie, aby vedelo, na čo riadi, skôr než sa na to spýta orgán dohľadu, klient alebo vlastná riziková komisia.
Spôsob, akým vzniká stínová AI, a spôsob, akým na to môže governance nadviazať, sa líši podľa sektora. Kto chce porovnať, ako sa táto otázka rieši tam, kde sa spája veľa systémov a kontaktu s klientom, nájde to v AI-governance vo finančných službách; kto chce vidieť, ako sa to prejavuje v sektore, ktorý sám vytvára a používa produkty AI, môže si to prečítať v AI-governance v sektore ICT; a pre predstavu, ako to funguje v organizáciách s mnohými operatívnymi zamestnancami a malým centrálnym riadením IT, je tu AI-governance v maloobchode.
Inventarizácia používania AI zmapuje, čo je v chode a kto to používa, ale nezodpovedá otázku, ktorá nasleduje potom: aká časť samotnej práce sa vlastne dá previesť na AI, a ktorá nie. To je iný výpočet, na úrovni úlohy, nie nástroja. Pracovný scan FTE TO AI robí presne tento výpočet: pre každú úlohu sa určí, aká časť práce prichádza do úvahy na prevzatie AI, ako ďalší krok nadväzujúci na prehľad, ktorý poskytuje Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.