Dirbtinio intelekto sprendimas padaro klaidą. Sprendimas yra neteisingas, patarimas klaidina, klientas nepagrįstai atmetamas. Klausimas, kuris kyla po to, nėra vien techninis. Kas turėjo tai numatyti, kas administravo sistemą ir kas gali paaiškinti, kodėl ji buvo naudojama taip, kaip buvo naudojama.
Toks atsakymas neegzistuoja atskirai nuo registro. Atsakomybė reiškia, kad kažkas žino, kad sprendimas egzistuoja, kam jis skirtas ir kas už jį atsako. Be šio pagrindo klausimas apie atsakomybę tampa retorinis: nėra nė vieno, kuris tai žinotų, todėl nėra nė vieno, kuris galėtų tai paaiškinti.
„Responsible AI Scan“ nustato, kas veikia, kas tuo naudojasi ir su kokio lygio rizika tai susiję. Tai yra pradinis taškas, o ne pareiškimas apie kaltę. Skanavimas klasifikuoja sprendimą pagal vaidmenį ir riziką; jis nevertina, ar konkretus sprendimas buvo teisingas. Toks vertinimas priklauso pačiam incidentui, o ne jį lydinčiai inventorizacijai.
Tai, ką skanavimas daro, yra struktūros suteikimas, kurios rėmuose vėliau galima atlikti tą vertinimą. Jei žinoma, kas įsigijo sprendimą, kas jį administruoja ir kokiam tikslui jis buvo patvirtintas, yra linija, kuria galima remtis. Jei tokios struktūros nėra, klausimas apie atsakomybę virsta spėliojimu po fakto.
Daugumoje organizacijų yra patvirtintos programinės įrangos sąrašas. Tas sąrašas beveik niekada nėra išsamus. Darbuotojai naudoja įrankius, kurių niekas nėra registravęs, dažnai todėl, kad darbas taip vyksta greičiau ir niekas apie tai neklausė. Tai nebūtinai yra neatsakingas elgesys; tai yra tai, kas nutinka, kai organizacija nesuteikia kitos galimybės.
Kas norite žinoti, kas iš tiesų naudojama, turite paklausti. Ir tai veikia tik tada, kai klausimas nesukelia pasekmių. Kai tik darbuotojas įtaria, kad sąžiningas atsakymas sukels pataisymo pokalbį, atsakymas nutrūksta. Ką jūs daro su darbuotojais, kurie naudoja įrankį, kurio niekas nepatvirtino yra tiksliai apie šį mechanizmą: inventorizacija yra tik tokia gera, koks yra pasitikėjimas, kuriuo ji renkama.
Su tuo susijęs ir klausimas, kas nutinka su verslo informacija, kai ji įvedama į išorinį langą. Ką jūs daro su verslo duomenimis nemokamame pokalbio lange aprašo riziką, nesusijusią su piktais kėslais: kažkas tiesiog norėjo patikrinti tekstą ir tuo pačiu įvedė tai, ko nebuvo galima.
Valdymo priemonių rinkinys, kuris eina po inventorizacijos, nustato, kas patvirtina sprendimą, kas jį prižiūri ir kaip tai dokumentuojama. Tai dera su rizikos struktūra, kurią organizacija jau turi kitose srityse: tie patys komitetai, tos pačios ataskaitų linijos, tie patys eskalavimo keliai. Nesukuriamas naujas aparatas prie jau esamo; prie to, kas jau egzistuoja, prisideda nauja kategorija.
Tai suteikia įrodomumą: valdyba gali parodyti, kad buvo pažiūrėta, klasifikuota ir įdiegta priežiūra. Tai nesuteikia garantijos, kad sprendimas daugiau niekada nepadarys klaidos. Šie du dalykai skiriasi, ir skanavimas nepareiškia nuomonės apie antrąjį. Tai, ką jis suteikia, yra pagrindas, kuriuo valdyba gali paaiškinti, kas buvo padaryta, o ne apsauga nuo to, kas gali nutikti.
Dažnai daroma klaida yra atskiro AI proceso sukūrimas, nesusieto su esama rizikos ir atitikties struktūra. Šis procesas iš pradžių sulaukia dėmesio, o vėliau pasitraukia į antrą planą, nes niekas nenori toliau prižiūrėti antrosios sistemos kartu su pirmąja. Kodėl antrasis procesas kartu su esamu yra ignoruojamas paaiškina, kodėl suderinimas su esamomis struktūromis nėra efektyvumo klausimas, o būtina sąlyga, kad kažkas išgyventų.
Prie to priskiriama ir tai, kad inventorizacija yra momentas, o ne galutinis taškas. Atsiranda naujų sprendimų, esami keičia savo funkciją, ir klasifikacija, kuri buvo teisinga pristatymo metu, ne automatiškai lieka teisinga metais vėliau. Kaip dažnai reikia klasifikuoti iš naujo ir kaip išlaikyti AI registrą aktualų aprašo, ko iš tikrųjų reikalauja toks priežiūros darbas, ir kodėl vieną kartą sudarytas registras per palyginti trumpą laiką nustoja atitikti tikrovę.
Be to, žmonės, kurie dirba su šiais sprendimais, yra sprendimo dalis, o ne vien rizika, kurią reikia valdyti. Tai, ką darbuotojai supranta ir ko nesupranta apie naudojamas sistemas, nulemia, ar valdymo priemonių rinkinys praktikoje ką nors reiškia. Ką reiškia dirbtinio intelekto raštingumas jūsų darbuotojams nagrinėja šį aspektą.
Kai kas nors sužino, kokie AI sprendimai veikia ir kas už juos atsako, savaime kyla tolesnis klausimas: kuri dalis dabar rankiniu būdu vykdomo darbo iš tikrųjų yra tinkama perduoti AI sprendimui. Tai kitas klausimas nei atsakomybė, tačiau jis remiasi ta pačia inventorizacija. FTE TO AI darbo skanavimas apskaičiuoja pagal užduotį, kokią darbo dalį gali perimti AI, kaip kitą žingsnį po to, kai tampa aišku, kas jau veikia ir kas apie tai sprendžia.
Šiame puslapyje aprašomas skanavimas dar kuriamas. Jei jums tai domina, galite užsiregistruoti į laukiančiųjų sąrašą; kol kas dar nėra teikiama nieko, kas nebūtų baigta.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.