Kennisbank

Mis muutub, kui te mudelit ise kohandate?

AI-süsteemi ostmine ja selle kasutamine sellisel kujul, nagu see tarnitakse, on teine olukord kui mudeli kohandamine oma andmetele või eesmärgile. Selline kohandamine võib muuta teie organisatsiooni liigitust — ja seega ka küsimusi, millele te peate suutma vastata. Kas see juhtub ja kui suur kaal sellel on, sõltub sellest, mida täpselt kohandatakse ja milleks süsteemi kasutatakse.

Millest liigitus sõltub

Liigitus ei sõltu sellest, kas te olete lähtekoodi kirjutanud. See sõltub sellest, mis tegelikult juhtub mudeliga pärast seda, kui see teie kätte jõuab. Mõned tegurid, mis siin mängu tulevad:

• Kohandamise laad. Süsteemi kasutamine sellisel kujul, nagu see tarniti, on teine asi kui selle peenhäälestamine oma andmetel, ühendamine oma allikatega või kasutamine eesmärgil, mida algne tarnija ei olnud ette näinud.
• Kes muudatuse teeb. Sisemine andmespetsialist, kes mudelit täiendavalt treenib, on teine olukord kui tarnija, kes tarnib soovi korral variandi.
• Mõju riskile. Kohandus, mis muudab süsteemi käitumist sisuliselt, kaalub teisiti kui kohandus, mis puudutab ainult kasutajaliidest või väljundi vormi.
• Rakendus, milles mudelit kasutatakse. Sama kohandus võib ühes rakenduses avaldada väikest mõju, teises aga muuta teie organisatsiooni rolli. Milliseid rakendusi selles kontekstis arvesse võetakse ja milliseid mitte, on eraldi vastust vajav küsimus — vaadake milliseid rakendusi juhtimiskohustuste kohaldamisala ei hõlma.

Need tegurid toimivad koos. Ei ole kindlat piirmäära, mis kehtiks kõigil juhtudel; kehtiv regulatsioon täpsete kriteeriumidega on esitatud mujal, ja see tekst võib muutuda. See, mis sellel lehel püsivana kehtib, on mehhanism: kohandamine võib muuta rolli, ja roll määrab kohustuse.

Kasutajast millekski muuks

Roll, mille teie organisatsioon AI-süsteemi juures endale võtab, ei ole püsiv. Kes mudelit kasutab ainult sellisel kujul, nagu see tarniti, on üldjuhul teistsuguses positsioonis kui kes mudelit muudab ja seejärel viib turule või rakendab sisemiselt suures ulatuses. Küsimust, millal see üleminek toimub ja mis sel hetkel muutub selles, mida te peate suutma tõendada, käsitletakse lehel millal teie roll muutub ja kust see piir kulgeb. Organisatsioonidele, kes kahtlevad, kas nad on pakkuja või kasutaja — küsimus, mis tekib sagedamini, kui arvatakse, niipea kui sisemine kohandamine toimub — on eraldi selgitus lehel vahe pakkuja ja kasutaja vahel AI-süsteemi puhul.

Põhjus, miks see oluline on, ei ole vormiline. Rollimuutus muudab seda, mida te peate suutma näidata: millist dokumentatsiooni te peate ja millist ei pea, kes organisatsiooni sees vastutab järelevalve eest, ja milliseid samme on tehtud enne, kui kohandatud süsteem kasutusele võeti. Mudel, mille te olete ise kohandanud, on mudel, mille puhul teil võidakse paluda selgitada, kuidas see kohandus tekkis.

Mida see riskitaseme jaoks tähendab

Kohandamine võib mõjutada ka rakenduse riskitaset. Mudel, mis algselt oli mõeldud kergemale rakendusele, võib kohandamise tõttu jõuda raskemasse kategooriasse — näiteks kui seda pärast kohandamist kasutatakse otsuste tegemiseks inimeste kohta. Mida kõrge riskitase konkreetselt teie organisatsiooni kohustuste jaoks tähendab, on esitatud lehel mida kõrge riskitase tähendab teie organisatsiooni nõuete jaoks. Ka siin kehtib: liigitus tuleneb kasutamisest, mitte kavatsusest, millega mudel kunagi loodi.

See on otseselt seotud varju-AI tuumaga. Kohandus, mis ei käi IT kaudu — meeskond, mis peenhäälestab mudelit ise oma andmestikul, või osakond, mis ühendab välise mudeli sisemiste süsteemidega, ilma et sellest oleks aru antud — muudab teie organisatsiooni liigitust, ilma et juhatus sellest teadlik oleks. IT-nimekiri seda kohandust ei näita. Kes soovib teada, kas see toimub, peab selle üle küsima meeskondadelt, kes sellega igapäevaselt töötavad, ja see vestlus annab tulemusi ainult siis, kui seda peetakse karistuse kartmata.

Mis praktikas muutub

Kui kohandus muudab rakenduse rolli või riskitaset, muutub mitu asja korraga: dokumentatsioon, mida peab hoidma, küsimus, kes organisatsiooni sees on selle rakenduse omanik, ja hetk, millest alates midagi saab veel planeerida versus mis vajab juba tähelepanu. See vahe — mis on praegu juba pakiline ja mis saab jääda planeerimisse — on seotud teguritega, mida selgitatakse lehel mis vajab tähelepanu juba praegu ja mida saab veel planeerida. Liigitusküsimuse ise põhjalikum käsitlus, sealhulgas piirjuhtumid, mis praktikas kõige sagedamini esinevad, on esitatud lehel täielik selgitus selle kohta, mis muutub mudeli iseseisval kohandamisel.

Kohandatud mudel on praktikas tihti ka mudel, mis võtab üle osa tööst inimestelt, kes varem tegid ülesande täielikult iseseisvalt. Kas see nii on ja kui suurt osa tööst see puudutab, on küsimus, mis on liigitusküsimusest eraldiseisev, kuid tuleneb sellest sageli: kohe kui on selge, et mudelit on kohandatud ja milleks seda kasutatakse, muutub nähtavaks ka see, millise osa ülesandest see tegelikult teostab. FTE TO AI töömahu skaneering arvutab selle ülesande kaupa välja ja näitab, kui suur osa tööst on AI poolt ülevõetav, sõltumata sellest, kuidas alusmudel loodi.