re-ai-gov Na listi čekanja

Kennisbank

Što radite s poslovnim podacima u besplatnom chat prozoru?

Netko zalijepi komad teksta u chat prozor da bi brže dobio sažetak, prijevod ili nacrt teksta. Prozor je besplatan, račun je osoban, i nitko nije tražio dopuštenje jer nitko nije znao da je dopuštenje potrebno. To je najčešći oblik korištenja AI-ja u organizaciji, i istovremeno najmanje vidljiv.

Kako to nastaje

Besplatan chat prozor ne traži odobrenje IT-a, nema proračuna, nema nabavnog postupka. Traži samo preglednik. Onaj koji želi brže obaviti zadatak, otvori prozor, zalijepi tekst u njega, i dobije odgovor. Podaci koji se pri tome unose mogu biti bilo što: dosje klijenta, nacrt teksta s poslovno osjetljivim brojkama, e-mail s osobnim podacima. Što se s tim podacima događa nakon lijepljenja, korisnik u pravilu ne zna. S čime je organizacija pristala, ništa — nema ugovora, nema ugovora o obradi podataka, nema dogovora o rokovima čuvanja.

Ovo se ne događa iz nepažnje. Događa se zato što prozor funkcionira, brži je od službene alternative, i nitko nikada nije objasnio gdje je granica. Isti mehanizam stoji iza ekstenzije za preglednik s pristupom vašoj e-pošti: alat koji je funkcionalno koristan, instalira se izvan svakog nadzora, i obrađuje podatke bez da je to itko provjerio.

Zašto to ne nestaje samo od sebe

Chat prozor ne nestaje zato što stigne dokument s politikom. Ne nestaje zato što IT objavi popis odobrenih alata. Sve dok besplatan prozor funkcionira brže od alternative, koristit će se — samo onda bez da ga tko prijavi. Zabrana bez alternative gura korištenje u podzemlje; posao ne nestaje, samo vidljivost.

Ovaj se obrazac ponavlja na više mjesta u organizaciji. Tim koji ima dobra iskustva nabavlja vlastitu pretplatu bez da to izvan tima itko zna. Pilot koji je počeo kao test nastavlja se koristiti jer nitko nije dobio zadatak da probnu postavku koja nikad nije isključena ponovno zatvori. IT popis odobrenog softvera ni u jednom od tih slučajeva nije pouzdan prikaz onoga što se zapravo događa. Onaj koji želi znati što se događa, mora to pitati — ne kao kontrolu, već kao inventarizaciju.

Što znači pitati, i što to ne znači

Razlika između organizacije koja dobije uvid i organizacije koja ga ne dobije, leži u načinu postavljanja pitanja. Onaj koji pita s prijetnjom sankcija u pozadini, ne dobiva odgovor — ili dobiva odgovor koji nije istinit. Onaj koji pita bez obračuna, s porukom da je riječ o stjecanju uvida a ne o kažnjavanju, dobiva iskrene informacije.

Ta slika mora negdje sletjeti. Ne u popis koji je nakon mjesec dana zastario, već u strukturu koja bilježi što je aktivno, ko to koristi, koji podaci u to ulaze, i koji rizik uz to ide. Kako izgraditi inventar AI-ja opisuje kako ta inventarizacija teče bez lova na vještice: kao kontinuirani proces, a ne kao jednokratna akcija koja se nakon toga zaboravi.

Svakoj primjeni koja izađe na vidjelo pripada fiksan skup podataka: što radi, tko je koristi, koji podaci u to ulaze, i na temelju kojeg dogovora se to događa. Bez tog zapisa, chat prozor ostaje kockanje umjesto procijenjenog izbora. Što treba zabilježiti po primjeni opisuje taj fiksan skup, bez obzira je li primjena besplatan prozor, plaćena pretplata, ili alat koji je stigao preko dobavljača. Uostalom, i dobavljač sam može biti povod: dobavljač koji je AI ugradio u svoj proizvod mijenja prirodu postojećeg ugovora bez da tome uvijek odgovara novi sporazum.

Što organizacija s time može učiniti

Besplatan chat prozor po definiciji nije problem. On je signal: postoji zadatak koji je netko htio brže obaviti, a postojeća ponuda u tome nije udovoljila. Pitanje nije samo prestaje li korištenje, već i nudi li organizacija alternativu koja odgovara dogovorima — i zna li koji su podaci u međuvremenu obrađeni putem kanala nad kojim nije imala nadzor.

Ta dva pitanja zajedno — što je aktivno, i što bi to mogao zamijeniti — vode gotovo sama od sebe do trećeg pitanja: koji dio posla koji sada prolazi kroz zaseban chat prozor je zapravo zadatak koji se na procijenjen način može prepustiti AI-ju. Upravo za to je izgrađen radni scan tvrtke FTE TO AI: on po zadatku izračunava koji dio posla je moguće prepustiti AI-ju, tako da odgovor na besplatan chat prozor nije samo zabrana, već i pogled na ono što je moguće.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.