Kāda komanda gribēja kaut ko izmēģināt. Tērzēšanas robotu klientu jautājumiem, skriptu, kas apkopo pārskatus, savienojumu ar valodas modeli, lai kārtotu e-pastus. Liels lēmums tam nebija nepieciešams: kādam bija konts, API atslēga vai bezmaksas izmēģinājuma periods, un dienas laikā kaut kas jau darbojās. Pilotprojekts darbojās, vai darbojās pietiekami labi, un nevienam nebija vairs iemesla to izslēgt.
Tas nav izņēmums. Tas ir parastais veids, kā AI ienāk organizācijā. Nevis ar iepirkumu vai apstiprinātu budžetu, bet ar izmēģinājuma iekārtu, kas pārdzīvo savu izmēģinājuma statusu. Testēšanas fāze nekad nav formāli pabeigta, jo tai nekad nebija formāla sākuma, ko pabeigt.
Pilotprojekts, kas darbojas, tiek izmantots. Un tas, kas tiek izmantots, kļūst par atkarību. Komanda, kas izveidoja pārskatu apkopotāju, iespējams, jau ir pametusi organizāciju, bet apkopojums ienāk katru nedēļu tik un tā. Nevienam nav uzdevuma to izslēgt, un neviens nevēlas riskēt, ka kaut kas pārstāj darboties, nezinot, kas nāks tā vietā.
Tam klāt nāk fakts, ka izmēģinājuma iekārtai parasti nav īpašnieka tādā nozīmē, kā to sagaida pārvaldības struktūra. Nav veikta riska klasifikācija, nav veikta datu analīze, nav pieņemts lēmums par to, kas ir atbildīgs, ja kaut kas noiet greizi. Pilotprojekts pastāv starpposmā: pārāk izmantots, lai to ignorētu, pārāk neformāls, lai to pārvaldītu. Tas ir tieši tas modelis, kas noved pie darbiniekiem, kas izmanto rīku, ko neviens nav apstiprinājis — tikai šoreiz komandas, nevis individuālā līmenī.
Parastā reakcija, atklājot neapstiprinātu izmēģinājuma iekārtu, bieži ir: kas šo atļāva un kāpēc mēs to nezinājām. Šis jautājums ir saprotams, taču tas darbojas pretēji nodomam. Kas jau pirmajā sarunā sajūt, ka nāk vainas jautājums, nākamajā reizē nekā nestāstīs. Un nākamā izmēģinājuma iekārta — kas neapšaubāmi radīsies — pazudīs no redzes loka tieši tāpat kā šī.
Tiklīdz izmēģinājuma iekārta ir atklāta, pirmais jautājums nav, vai tā var pastāvēt tālāk, bet gan tas, ko tā tieši dara. Kādi dati tajā ieplūst, kas izmanto rezultātu, un kas notiek, ja rezultāts ir kļūdains. Tie ir tie paši jautājumi, kas attiecas uz jebkuru citu AI lietojumu, un atbilde nosaka, vai kaut kas ir neformāls palīglīdzeklis vai risks, kas pelnījis uzmanību.
Pēc tam sekojo klasifikācija: vai lietojums iekļaujas jau esošā riska kategorijā, vai tas prasa jaunu izvērtējumu. Tad: kas ir jāfiksē, lai pierādāmi parādītu, ka organizācija zina, kas darbojas un kāpēc. Tieši par to ir kas jums ir jāfiksē par katru lietojumu — nevis kā papildu birokrātija, bet kā minimālā dokumentācija, kas nepieciešama, lai atšķirtu pilotprojektu no riska.
Izmēģinājuma iekārta, kas šo pārbaudi izturami, var pastāvēt tālāk, tagad ar īpašnieku un klasifikāciju. Izmēģinājuma iekārta, kas pārbaudi neizturami, ir jāizslēdz — bet tas ir kontrolēts process, nevis tās personas atlaišana, kura to reiz uzsāka.
Izmēģinājuma iekārta, kas nekad nav izslēgta, ir viena forma no plašāka modeļa. Domājiet par pārlūkprogrammas paplašinājumu ar piekļuvi jūsu e-pastam, ko kāds reiz uzstādīja, lai ietaupītu laiku, vai par uzņēmuma datiem, kas nokļūst bezmaksas tērzēšanas logā, jo tas gāja ātrāk nekā oficiālais rīks. Visām šīm situācijām ir kopīga iezīme: tās radušās no praktiskas nepieciešamības, nevis no politikas izvēles, un tās turpina pastāvēt, kamēr neviens par tām nejautā.
IT saraksts ar apstiprinātu programmatūru tāpēc nav inventarizācijas sākumpunkts — tas ir sākumpunkts meklējumiem, kas atrodas ārpus šī saraksta. Kas grib zināt, kā šie meklējumi izskatās, atradīs pieeju kā jūs izveidojat AI inventarizāciju.
Izmēģinājuma iekārta, kas nāk gaismā, parasti rada sekojošu jautājumu, kas pārsniedz pārvaldību: kāpēc šis darbojās tik labi, ka neviens neuzdrošinājās to apturēt? Tas ir jautājums par pašu darbu, nevis tikai par risku. FTE TO AI darba skenēšana katrai uzdevumam aprēķina, kādu daļu darba var pārņemt AI, un tādējādi padara redzamu to, ko izmēģinājuma iekārta jau netieši parādīja: ka daļu darba var organizēt citādi. Kur Responsible AI Scan kartē, kas darbojas un ar kādu risku, darba skenēšana parāda, no kurienes šis lietojums radies un ko tas strukturāli nozīmē uzdevumu sadalei.
Responsible AI Scan, ar iepriekš aprakstīto inventarizāciju, klasifikāciju un pārvaldības komplektu, ir izstrādes procesā. Kas ar to jau tagad saskaras un vēlas tikt informēts, tiklīdz instruments būs pieejams, var pieteikties gaidīšanas sarakstā.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.