Egy csapat ki akart próbálni valamit. Egy chatbotot ügyfélkérdésekhez, egy scriptet, amely riportokat összefoglal, egy kapcsolatot egy nyelvi modellel, hogy e-maileket rendszerezzen. Nem kellett hozzá nagy döntés: valakinek volt egy fiókja, egy API-kulcsa vagy egy ingyenes próbaidőszaka, és egy délután alatt már futott is valami. A pilot működött, vagy eléggé működött, és senkinek nem volt oka kikapcsolni.
Ez nem kivétel. Ez az a szokásos módja, ahogyan az AI belép egy szervezetbe. Nem közbeszerzés vagy jóváhagyott költségvetés útján, hanem egy kísérleti felállás révén, amely túléli a saját próbaidőszakát. A tesztfázist sosem zárták le formálisan, mivel formális kezdet sem volt, amit le kellett volna zárni.
Egy pilot, amely működik, használatban marad. És ami használatban van, függőséggé válik. A csapat, amely a riport-összefoglalót építette, talán már távozott, de az összefoglaló még minden héten megérkezik. Senkinek nincs megbízása arra, hogy kikapcsolja, és senki nem akarja azt a kockázatot vállalni, hogy valami leáll anélkül, hogy tudná, mi lép a helyébe.
Ehhez jön még, hogy egy kísérleti felállásnak általában nincs olyan tulajdonosa, amilyet egy governance-struktúra elvárna. Nem készült kockázati osztályozás, nem történt adatelemzés, nem hoztak döntést arról, ki a felelős, ha valami rosszul sül el. A pilot egy köztes térben létezik: túl elterjedt ahhoz, hogy figyelmen kívül hagyják, túl informális ahhoz, hogy irányítsák. Ez pontosan az a mintázat, amely ahhoz vezet, hogy munkatársak olyan eszközt használnak, amelyet senki nem hagyott jóvá — csak itt csapatszinten, nem egyéni szinten.
A reflex, amikor egy nem engedélyezett kísérleti felállás felszínre kerül, gyakran ez: ki engedte ezt meg, és miért nem tudtunk róla. Ez a kérdés érthető, de kontraproduktív. Aki már az első beszélgetésnél érzi, hogy jön a felelősségre vonás, legközelebb már semmit sem mond el. És a következő kísérleti felállás — amely kétségtelenül jönni fog — pontosan úgy tűnik el a látótérből, mint ez.
Egy bizalomra épített feltérképezés többet hoz, mint egy ellenőrzésre épített audit. Nem azért, mintha az embereknek nem lenne mit rejteniük, hanem azért, mert az információ, amit keres, a felhasználónál van, és az a felhasználó csak akkor beszél, ha nem vonják felelősségre azért, amit talál.
Amint egy kísérleti felállás felszínre kerül, az első kérdés nem az, hogy szabad-e tovább létezniük, hanem az, hogy pontosan mit csinálnak. Milyen adat kerül bele, ki használja az eredményt, és mi történik, ha az eredmény hibás. Ezek ugyanazok a kérdések, amelyek minden más AI-alkalmazásra érvényesek, és a válasz határozza meg, hogy valami informális segédeszköz, vagy figyelmet igénylő kockázat.
Ezt követi a besorolás: beleillik-e az alkalmazás egy már létező kockázati kategóriába, vagy új mérlegelést igényel. Majd: mit kell dokumentálni ahhoz, hogy igazolható legyen, hogy a szervezet tudja, mi fut és miért. Erre pontosan az amit alkalmazásonként kell dokumentálnia tér ki — nem extra bürokráciaként, hanem minimális dokumentációként, amely szükséges ahhoz, hogy egy pilot megkülönböztethető legyen egy kockázattól.
Egy kísérleti felállás, amely átmegy ezen a teszten, tovább létezhet, most már tulajdonossal és besorolással. Egy kísérleti felállás, amely nem megy át a teszten, leépítésre kerül — de ez egy kontrollált folyamat, nem az elbocsátása annak, aki egykor elindította.
A kísérleti felállás, amelyet sosem kapcsoltak ki, egy tágabb mintázat egyik formája. Gondoljon a böngészőbővítményre, amelynek hozzáférése van a levelezéséhez, amelyet valaki egykor telepített, hogy időt takarítson meg, vagy a vállalati adatokra, amelyek egy ingyenes chatablakban végzik, mert az gyorsabban ment, mint a hivatalos eszköz. Mindezen helyzeteknek van egy közös jellemzőjük: gyakorlati szükségletből keletkeztek, nem szakpolitikai döntésből, és addig maradnak fenn, amíg senki nem kérdez rájuk.
Az IT jóváhagyott szoftverlistája ezért nem a leltár kiindulópontja — ez a kiindulópontja annak a keresésnek, hogy mi esik kívül ezen a listán. Aki tudni akarja, hogyan néz ki ez a keresés, találhat egy megközelítést a hogyan épít fel egy AI-leltárt oldalon.
Egy kísérleti felállás, amely napvilágra kerül, általában olyan következő kérdést vet fel, amely túlmutat a governance-en: miért működött ez valójában olyan jól, hogy senki nem merte leállítani? Ez a munkáról magáról szóló kérdés, nem csak a kockázatról. Az FTE TO AI munkaszkennere feladatonként kiszámítja, hogy a munka mely része vehető át AI által, és ezzel láthatóvá teszi azt, amit egy kísérleti felállás már implicit módon megmutatott: hogy a munka egy része másképp rendezhető be. Míg a Responsible AI Scan feltérképezi, mi fut és milyen kockázat alatt, a munkaszkenner megmutatja, honnan ered ez a használat, és mit jelent strukturálisan a feladatmegosztásra.
A Responsible AI Scan, a fentebb leírt feltérképezéssel, besorolással és governance-készlettel, fejlesztés alatt áll. Aki ezzel már most szembesül, és szeretne értesülni, amint az eszköz elérhetővé válik, feliratkozhat a várólistára.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.