Odborné služby neprodávají produkt, ale úsudek: radu, analýzu, druhý názor. To dělá zacházení s AI odlišným od sektorů, kde AI především urychluje procesy. Zde se AI přímo dotýká toho, co je jádrem oboru — samotné myšlenkové práce a důvěrnosti toho, co klient sdílel, aby tuto myšlenkovou práci umožnil. Advokát, který nakrmí jazykový model materiály ze spisu, konzultant, který si nechá zkontrolovat konceptní analýzu chatbotem, auditor, který si nechá shrnout čísla externím systémem: v každém případě se přesouvají informace, které měly zůstat uvnitř zdí kanceláře a v rámci vztahu důvěry s klientem.
Poměr mezi tím, co organizace zde oficiálně nakoupily, a tím, co zaměstnanci skutečně používají, obvykle není v rovnováze. Zatímco v sektorech s velkým množstvím operačních procesů se AI často zavádí přes IT oddělení, v poradenských a advokátních kancelářích je tlak především individuální: někdo s termínem a nástrojem AI, který pracuje rychleji než kolega vedle něj. To dělá stínovou AI zde nikoli výjimkou, ale pravděpodobnou normou — právě v sektoru, kde se fakturuje čas a odměňuje se rychlost.
Přehled softwarových licencí ukazuje, co bylo pořízeno, nikoli co se používá. V odborných službách navíc velká část personálu pracuje s vlastními zařízeními, vlastními rozšířeními prohlížeče a vlastními předplatnými AI služeb, jejichž vyzkoušení nic nestojí. Partner nebo senior konzultant, který použije jazykový model k prověření konceptního memoranda, se neobjeví v žádném IT dashboardu. Přesto je právě toto použití tím s nejvyšším rizikem: dotýká se důvěrnosti vztahu s klientem, profesního tajemství, otázky, kdo za co odpovídá, když je rada spoluvytvořena algoritmem.
Jediný způsob, jak zjistit, co se skutečně děje, je zeptat se — a takové ptaní má smysl pouze tehdy, když pro toho, kdo odpovídá, nic není v ohrožení. Zaměstnanec, který se domnívá, že přiznání používání AI vyvolá rozhovor o nedostatečném výkonu, odpoví záporně nebo neodpoví vůbec. Inventarizace, která vychází z důvěry místo z kontroly, přináší jiný obraz: ne úplný, ale poctivější než seznam, který pouze sčítá to, co bylo schváleno.
Používání AI v tomto sektoru nespadá do jedné kategorie. Nástroj, který kontroluje fakta v právním dokumentu, nese jiné riziko než nástroj, který shrnuje interní procesní dokument. Systém, který se podílí na tvorbě daňového poradenství směřovaného ke klientovi, vyžaduje jiný druh dohledu než nástroj, který uspořádává zápisy z jednání. Governance, která funguje, začíná rozlišením těchto rolí a úrovní rizika a k tomu přiřazuje odpovídající úroveň dohledu — nikoli podle toho, jak se systém nazývá, ale podle toho, co systém dělá a pro koho je výsledek nakonec určen.
Kanceláře v tomto sektoru už často mají struktury pro řízení rizik: revizi spisů, princip čtyř očí, prověřování shody, kontrolu kvality. Přístup ke governance AI, který stojí mimo tyto struktury, se stane další vrstvou, kterou nikdo nepřijme. Rozumnější je přístup, který navazuje na existující strukturu řízení rizik: stejní vlastníci, stejné linie hlášení, stejný rytmus prověřování, kdy je používání AI součástí toho, co se již sleduje, místo samostatného procesu.
Statutární orgán nebo General Counsel, který je dotázán, jak je používání AI v kanceláři zajištěno, si s dojmem příliš nepomůže. Prokazatelnost vyžaduje zdokumentovanou inventarizaci: jaké nástroje, jaká role, jaká úroveň rizika, jaké dohody o tom, co s nimi lze a co nelze dělat. Nejde primárně o zodpovědnost směrem navenek — je to především pro samotné vedení nástroj, jak vědět, čím se řídit, ještě než se na to zeptá orgán dohledu, klient nebo vlastní riziková komise.
Způsob, jakým vzniká stínová AI, a způsob, jakým na ni může governance navázat, se liší podle sektoru. Kdo chce porovnat, jak se tato otázka projevuje tam, kde se setkává mnoho systémů a kontaktu s klienty, najde to v AI governance ve finančních službách; kdo chce vidět, jak se to projevuje v sektoru, který sám vytváří a používá produkty AI, může si to přečíst v AI governance v IT sektoru; a pro obraz toho, jak to funguje u organizací s velkým množstvím operačních zaměstnanců a malým centrálním IT řízením, je zde AI governance v maloobchodu.
Inventarizace používání AI zmapuje, co běží a kdo to používá, ale nezodpoví otázku, která přijde poté: jaká část samotné práce se vlastně nechá přenést na AI a jaká ne. To je jiný výpočet, po jednotlivých úkolech, ne po nástrojích. Právě tento výpočet provádí pracovní scan FTE TO AI: pro každý úkol se určí, jaká část práce přichází v úvahu k převzetí AI, jako navazující krok na přehled, který poskytuje Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.