Kennisbank

Tarnija lisas teie tootesse AI-funktsiooni sellest teatamata

Kuidas see tekib

Tarnija lisab funktsiooni, mis kapoti all töötab keelemudeli või kolmanda osapoole API peal. Tarnija jaoks on see tooteuuendus, mitte sündmus, mis vajaks teavitamist. Väljalaskemärkmed mainivad uut nuppu, mitte selle taga olevat tehnoloogiat. Teie organisatsioon kasutab tarkvara juba, leping on allkirjastatud vana funktsionaalsuse põhjal, ning muudatus ei jõua hanke- või turbeosakonda — need näevad ainult seda, mis toimub uue ostu puhul, mitte seda, mida olemasolev toode vaikselt juurde saab.

Muster on samasugune kui teie meilile juurdepääsuga brauserlaienduse puhul: juurdepääs ja funktsioon on olemas juba enne, kui kellelgi on võimalus neid hinnata. Tarnija puhul on vahemaa lihtsalt suurem — te ei saa lähtekoodi vaadata ja peate usaldama seda, mida tarnija ütleb, või ei ütle.

Miks see ei kao iseenesest

See ei teatu ise ühelgi hetkel. Töötaja kasutab uut funktsiooni, kuna see on kasulik, mitte kuna ta tunneb ära AI-komponendi. Tarnijal puudub stiimul sellest aktiivselt teatada, kuni keegi seda ei küsi: see ei too käivet, ja võib tekitada küsimusi. Ning tõenäosus, et te selle ise avastate, on väike, välja arvatud juhtumi korral või kui perioodiline kontroll seda tabab.

Seeläbi meenutab see sisemist pilooti, mis on kinni jäänud: sarnaselt testkeskkonnaga, mida ei ole kunagi välja lülitatud, ei ole probleem pahatahtlikkuses, vaid hetke puudumises, mil keegi küsimuse esitab. Tarnija puhul lisandub sellele veel see, et olete sõltuv tema valmisolekust vastata.

Mida te tegelikult saate teha

Lähtepunkt ei ole lepingu õiguslik jõustamine esimese kahtluse korral, vaid esmalt teadmine, mis toimub. See algab tarnijale küsimuste esitamisest: millised toote osad kasutavad AI-d, milliseid andmeid see hõlmab ja kas see on muutunud pärast lepingu allkirjastamist. Tarnijad, kes saavad vastata konsekventsideta, teevad seda tõenäolisemalt tõele vastavalt kui tarnijad, kes kahtlustavad, et ausa vastuse andmine ohustab lepingut.

Sama loogika kehtib organisatsiooni sees: töötajad, kes kasutavad tööriista, mille kohta keegi ei tea, et see sisaldab AI-d, teatavad sellest ainult siis, kui teatamine ei too karistust. Kuidas te selle korraldate, on kirjeldatud lehel töötajad, kes kasutavad tööriista, mida keegi ei ole heaks kiitnud. Tarnija puhul toimib põhimõte samamoodi: küsimus, mis ei sisalda süüdistust, saab teistsuguse vastuse kui küsimus, mida loetakse sanktsioonide sissejuhatuseks.

Kui on selge, mida tarnija on lisanud, on järgmine küsimus mitte õiguslik, vaid funktsionaalne: millist rolli mängib see AI-komponent protsessis, milline on riskitase ning mida sellest peaks olema dokumenteeritud. Samu küsimusi esitate te iga AI-rakenduse puhul, mida te ise kasutate, olenemata sellest, kas see jõuab teieni tarnija kaudu või töötaja kaudu, kes kasutab tasuta tööriista — vt ka ettevõtte andmed, mis jõuavad tasuta vestlusakendesse. See, mida te iga rakenduse kohta dokumenteerite, sõltub sellest, mida see rakendus teeb ja millistel andmetel, mitte sellest, kust see rakendus pärineb. Ülevaate sellest, mis on siinkohal oluline, leiate lehelt mida peate iga rakenduse kohta dokumenteerima.

Tarnijat, kes lisab AI-d sellest teatamata, ei tuleks seega käsitleda eraldi juhtumina, vaid kaasata inventuuri, mida te niikuinii ülejäänud organisatsiooni jaoks koostate. Kuidas see inventuur praktikas koostatakse — sealhulgas see, kuidas te tarnijatele selles koha annate — on kirjeldatud lehel kuidas koostada AI-inventuur.

Mis see ei ole

See ei ole põhjus alustada õiguslikku pealetungi igas tarnija vastu, kes on midagi teatamata jätnud. Lepingurikkumise tuvastamine on teine küsimus kui riski tuvastamine, ja need kaks ei käi automaatselt käsikäes: tarnija võib olla jätnud midagi teatamata, ilma et rakendus tooks kaasa suurt riski, ja vastupidi. Esimene samm on riski hindamine, mitte süü küsimus. Kes alustab sanktsioonidega, saab tarnijatelt edaspidi vähem infot, mitte rohkem.

Järgmine küsimus

Kui on selge, millised AI-komponendid on tarnijate, töötajate või oma algatuste kaudu organisatsioonis kasutuses, tekib teine küsimus: mida see tähendab töö enda jaoks. Mitte igaüks AI-rakendus, mis organisatsiooni jõuab, ei tee tegelikult midagi kasulikku protsessiga, milles ta tegutseb — ning mitte igaüks protsess, mis praegu kulgeb käsitsi, ei ole tingimata paremas seisus AI-ta. FTE TO AI töövoo skaneering arvutab iga ülesande kohta, kui suure osa tööst saab mõistlikult AI-le üle anda, sõltumata küsimusest, kuidas see AI organisatsiooni jõudis. See muudab inventuuri, mida te praegu koostate, mitte üksnes valitsemisvahendiks, vaid ka lähtepunktiks, et määrata kindlaks, kus AI tegelikult vahet teeb.