re-ai-gov Skriv upp mig på väntelistan

Kennisbank

Vad som händer när en medarbetare öppnar ett gratis chattfönster

Fönstret som alltid står öppet

En medarbetare kör fast på en text, en sammanfattning, ett stycke kod eller ett mejl som inte riktigt vill bli bra. Det finns ett chattfönster, gratis, direkt tillgängligt, utan väntetid och utan formulär. Texten går in, inklusive kundens namn, kontraktsbeloppet, passagen från personalakten eller källkoden som hör till. Svaret kommer tillbaka, arbetet är klart, fönstret stängs. Ingen har frågat om tillstånd för detta, och ingen har vägrat, eftersom ingen visste om det.

Detta är ingen incident. Det är ett förutsägbart mönster som uppstår på varje punkt där arbetsbelastningen är större än besväret av att fråga. En deadline, ett tomt svar på en fråga som företaget inte uttryckligen tillåter eller förbjuder, och ett gratisverktyg som är snabbare än den interna processen: den kombinationen leder av sig själv till detta beteende, oavsett bransch eller organisationens storlek.

Varför det inte försvinner av sig själv

Ett förbud i ett policydokument förändrar ingenting i det ögonblick då deadline pressar. Chattfönstret förblir åtkomligt, medarbetaren förblir under press, och avvägningen mellan "snabbt klart" och "enligt boken" faller oftare ut till förmån för snabbt klart. Det är ingen ovilja. Det är en organisation som har gjort det lättare att använda fönstret än att avstå från det.

Mönstret liknar starkt det som sker vid en avdelning som själv har tecknat ett abonnemang: någon ser ett problem, hittar en lösning som är tillgänglig inom budget och utan godkännandeprocess, och agerar. Skillnaden är att ett chattfönster inte behöver någon inköpsrad. Det finns ingen faktura som sticker ut, inget kontrakt som måste gå via juridiska avdelningen, inget abonnemang som syns i en översikt. Användningen lämnar inga spår förutom i en enskild medarbetares webbhistorik, och ibland inte ens det.

Därför fortsätter det att existera vid sidan av varje officiell process organisationen faktiskt har infört. Den som bygger ett godkänt alternativ men inte blockerar eller gör det gratis fönstret oattraktivt, ser exakt den effekt som också uppstår när en andra process vid sidan av den befintliga ignoreras: det nya systemet används inte, eftersom det gamla känns snabbare eller helt enkelt är vanan.

Vad en IT-lista inte visar

En inventering av godkänd programvara berättar vad som har köpts in. Den berättar ingenting om vad som används. Ett chattfönster i en webbläsarflik, en webbläsartillägg med tillgång till mejlen, en AI-funktion som någonstans djupt i ett befintligt abonnemang har tillkommit: den här typen av användning uppstår utanför varje inköpsprocess och syns därför inte på listan som IT förvaltar. Listan är inte fel, den är bara inte komplett, och skillnaden mellan de två är exakt där skugg-AI lever.

Det enda sättet att veta vad som verkligen sker är att fråga. Inte som kontroll, inte som förebud till en sanktion, utan som en fråga där ett ärligt svar är möjligt. Den som känner att ett svar på "vilka verktyg använder ni utöver de godkända systemen" leder till ett samtal med en chef, ger inte det svaret. Då förblir organisationen beroende av vad som råkar synas: en räkning som avviker något, en kollega som nämner det av misstag, eller ett klagomål från en kund vars uppgifter dykt upp någonstans de inte skulle ha hamnat.

Kartläggning utan häxjakt

En inventering som börjar med anklagelser ger ingen inventering, utan tystnad. Medarbetare som vet att ett ärligt svar leder till problem öppnar helt enkelt fönstret i inkognitoläge. Målet är inte att bestraffa gårdagens beteende; målet är att få en aktuell bild av vad som pågår nu, vem som använder det och för vad, så att den användningen kan få en plats i det befintliga riskramverket istället för att fortsätta existera vid sidan om det.

Detta gäller även AI som inte kommer in via ett chattfönster utan via en leverantör. När en leverantör har byggt in AI i en produkt som redan var i bruk, förändras databehandlingens karaktär utan att något nytt kontrakt har undertecknats. Och en pilotuppställning som fungerade bra avslutas sällan formellt: den fortsätter att köra, även efter att en pilotuppställning aldrig stängts av medan ingen längre vet vem som är ansvarig för den. I alla tre fallen handlar det inte om illvilja, utan om ett glapp mellan vad som är godkänt och vad som fungerar. Var tillsyn i praktiken tar form på sådana ställen behandlas på sidan om vad mänsklig tillsyn innebär i praktiken; regelinnehållet i sig finns på annat håll och det förändrar inte det.

Vad som därefter går att överblicka

Så snart det är tydligt vilken AI som faktiskt används, uppstår en annan typ av fråga: vilken del av arbetet som nu går via ett gratis chattfönster hör egentligen till en uppgift som AI kan ta över på ett strukturerat sätt, och vilken del inte gör det. Den skillnaden görs synlig av FTE TO AI:s werkscan: den räknar per uppgift ut vilken del av arbetet som går att ta över av AI, så att den användning som nu är gömd i ett webbläsarfönster kan få en plats som motsvarar vad arbetet faktiskt kräver.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.