re-ai-gov Na čekací listinu

Kennisbank

AI-governance na statku a v družstvu

Sektor s mnoha vrstvami mezi podnikem a řetězcem

Zemědělský sektor má strukturu, kterou má jen málo jiných sektorů: jednotlivý podnik, družstvo nebo odbytovou organizaci, dodavatele strojů nebo osiva, a často zpracovatele nebo maloobchodníka, který stanovuje požadavky na to, co se na statku děje. AI aplikace nepocházejí pouze z vnitřních zdrojů. Velká část se dodává společně se zařízením, senzory nebo softwarem třetích stran. Kdo je odpovědný za governance, nesmí se tedy dívat pouze na to, co si vlastní podnik nakupuje, ale i na to, co přichází prostřednictvím strojů, poradenských služeb a partnerů v řetězci. Tento poměr — vlastní volby oproti dodaným systémům — je zde větší než v sektorech, kde se IT nakupuje centrálně.

Co AI v tomto sektoru dělá

V zemědělském sektoru se AI nasazuje na širokou škálu úkolů: rozpoznávání obrazu při hodnocení plodin, predikce výnosu nebo tlaku škůdců a chorob, řízení systémů krmení a klimatizace, a administrativní zpracování žádostí o dotace nebo hlášení v řetězci. Některé z těchto aplikací jsou pevně zabudované do strojů a nelze je od hardwaru téměř oddělit. Jiné jsou samostatné nástroje, které si sám začal používat poradce pro pěstování, nákupčí nebo vedoucí podniku, často aniž by to bylo kdekoli zaznamenáno. Governance tedy musí zmapovat dva druhy AI: systémy, které přišly s technikou, a systémy, které si lidé začali používat sami.

Proč je formální seznam zde ještě více nekompletní

V mnoha zemědělských podnicích a družstvech neexistuje centrální IT oddělení, které by řídilo veškerý software. Nákup strojů, poradenských služeb a datových nástrojů probíhá často po jednotlivých částech podniku nebo po jednotlivých osobách. To znamená, že inventarizace, která začíná pouze u IT nebo nákupu, promeškává velkou část toho, co se skutečně používá. Poradce pro pěstování, který používá nástroj AI k rozpoznávání příznaků chorob, nebo plánovač, který se radí s chatbotem při logistických rozhodnutích, to často dělá z vlastní iniciativy. Získat na to přehled vyžaduje více než jen vyžádat si seznam: je to otázka pokládání otázek lidem, kteří práci vykonávají, a to způsobem, který nepůsobí jako kontrola. Jak to funguje v praxi, je popsáno na stránce o tom, jak zabránit tomu, aby zaměstnanci používali nástroj, který nikdo neschválil. Dalším rizikem, které se v tomto sektoru často pojí s používáním AI, je sdílení firemně citlivých údajů, jako jsou výnosy nebo smluvní podmínky, ve veřejném chatovacím okně; přístup k tomu je popsán na stránce o tom, jak zabránit tomu, aby se firemní data dostala do bezplatného chatovacího okna.

Klasifikace podle role a rizika

AI aplikace, která hodnotí plodinu na výskyt choroby, má jiný dopad než nástroj, který navrhuje e-mail dodavateli. První ovlivňuje operativní rozhodnutí, které může mít finanční a někdy i důsledky pro bezpečnost potravin; druhá je administrativně podpůrná. Governance v tomto sektoru vyžaduje klasifikaci, která rozlišuje mezi systémy, jež se týkají rozhodnutí o zvířatech, plodinách nebo bezpečnosti, a systémy, které pouze podporují text nebo plánování. Toto zařazení určuje, jaká úroveň dohledu a dokumentace je potřebná a zda aplikace podléhá strožším pravidlům. Přesný obsah pravidel a příslušné lhůty na tuto stránku nepatří; ty se sledují jinde. Zde jde o mechanismus: vědět, co běží, vědět, jakou roli to hraje, a být schopen to prokázat.

Rozdíl a shoda s jinými sektory

Zemědělský sektor sdílí s jinými sektory to, že se AI šíří prostřednictvím individuálního používání, nikoli prostřednictvím centrálního rozhodnutí. Tento vzorec je patrný i ve způsobu, jakým ICT sektor přistupuje k AI-governance, kde se samostatné vývojářské nástroje šíří stejně rychle jako poradenské nástroje na statku. Rozdíl je v závislosti na fyzickém zařízení a požadavcích řetězce: kde finanční služby se především potýkají s modely v softwaru a energetický sektor s řízením sítí a instalací, zemědělský sektor kombinuje obojí: AI zabudovanou do strojů a AI, která se samostatně používá pro administrativu nebo poradenství. Governance tedy musí zahrnovat jak dodavatele stroje, tak uživatele na pracovišti.

Reportování pro představenstvo a prokazatelnost

Statutární orgán nebo představenstvo družstva, které musí skládat účty ze používání AI, potřebuje na čem stavět: udržovaný inventář, uplatněnou klasifikaci a přehled toho, kdo jakou aplikaci používá a k čemu. Bez tohoto přehledu je každé tvrzení o používání AI pouhým odhadem. Se sadou governance, která navazuje na existující rizikovou strukturu podniku nebo družstva, se toto reportování stává otázkou udržování přehledu místo dodatečné rekonstrukce.

Další otázka: co může AI převzít

Jakmile je jasné, jaké AI aplikace existují a jakou roli hrají, přirozeně následuje další otázka: jaká část práce, která se dnes ještě vykonává manuálně, se ve skutečnosti dá převzít AI. Pracovní scan FTE TO AI to vyčísluje po jednotlivých úkolech na základě toho, co práce skutečně obnáší, a ukazuje, jaká její část se hodí k automatizaci.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.