Много инициативи за управление започват с нов процес: формуляр, стъпка за одобрение, комитет, който трябва да оценява използването на изкуствен интелект преди то да започне. Предположението е, че служителите ще следват този процес, защото той съществува. На практика това се случва рядко. Който може да изпълни задача по-бързо с инструмент, който сам е намерил, не пита за разрешение комитет, чийто дневен ред не познава и чието времетраене не може да предвиди. Той използва инструмента и мълчи за това.
Това не е нежелание. Това е рационална реакция на процес, който стои до работата, а не в нея. Втори процес изисква време, носи несигурност за резултата и не предлага видима полза за онзи, който го следва. Вероятността да бъде игнориран е по-голяма от вероятността да бъде спазен.
Последствието не е, че не се използва изкуствен интелект. Последствието е, че се използва изкуствен интелект извън полезрението на онзи, който носи отговорност. Списъкът на ИТ отдела с одобрени инструменти остава описание на онова, което някога е било заявено, а не на онова, което реално се използва. Между тези два списъка може да съществува значителна разлика, и никой, който гледа само одобрения списък, не може да види тази разлика.
Това засяга директно въпроса кой носи отговорност, когато приложение с изкуствен интелект направи грешка. Ръководител, който иска да може да разпредели отговорност, трябва да знае коя система е повлияла на решение. Ако тази система никога не е била регистрирана, защото процедурата по регистрация е била пропусната, тази основа липсва точно в момента, когато е необходима.
Методът, който прилагаме, не започва с процес на одобрение, а с инвентаризация, която пита, вместо да контролира. Разликата е малка по форма и голяма по ефект. Служител, когото питат какво използва и за какво, без това да има последствия за него самия, няма причина да премълчи отговора. Служител, който знае, че честен отговор може да доведе до забрана или корекция, има всички основания да коригира отговора.
Това е слабо място в метода и предпочитаме да го посочим, вместо да го премълчим. Инвентаризация без разчистване на сметки дава по-честна картина от одит с последствия, но не дава гаранция, че всяко използване ще бъде съобщено. Който използва инструмент, за който подозира, че е проблематичен, може все пак да мълчи, дори без пряка заплаха. Инвентаризацията понижава прага за съобщаване; тя не премахва напълно този праг. Това, което методът наистина предлага, е по-голяма вероятност за пълна картина в сравнение с процес, който още отначало внушава наказание.
Втори процес се игнорира. Допълнение към съществуващ процес има по-голям шанс да остане в сила. Затова класифицираме използването на изкуствен интелект по роля и ниво на риск в рамките на структурата за риск, която организацията вече прилага, вместо да поставим нова структура до нея. Онова, което се класифицира като висок риск, попада на същото място като другите високи рискове в съществуващия регистър на рисковете. Това означава също, че въпросът колко често трябва да се прекласифицира не изисква нов календар, а се вписва в съществуващия цикъл на оценка на риска.
Това съгласуване не решава всичко. Регистър на изкуствения интелект, изготвен веднъж, застарява веднага щом някой започне да използва нов инструмент, без да го съобщи. Затова въпросът как регистър на изкуствения интелект остава актуален е точно толкова важен, колкото първоначалната инвентаризация. Регистър, който не се поддържа, след време отново се превръща в описание на миналото.
Надзорът върху използването на изкуствен интелект често се представя като технически въпрос: система, която наблюдава, табло, което сигнализира. Но надзор, който работи, започва с хора, които разбират защо съобщаването има смисъл и които знаят какво се случва с техния отговор. Това е въпрос на поведение, не само на техника, и е свързан с това какво означава човешки надзор на практика на работното място, и с това какво конкретно означава грамотност относно изкуствения интелект за служителите. Без това разбиране всеки процес, колкото и добре да е замислен, остава формуляр, който хората попълват, защото трябва, а не защото носи резултат.
Този подход не осигурява пълна сигурност, че всички приложения на изкуствен интелект ще бъдат открити. Той понижава прага за съобщаване и се вписва в съществуващите структури, но организация, която инвентаризира за първи път, трябва да се съобрази с това, че част от използването остава невидима, макар тази част след внимателна инвентаризация обикновено да е по-малка отпреди.
Инвентаризация на използването на изкуствен интелект показва какво функционира и кой го използва, но тя все още не казва нищо за това колко от основната работа реално може да бъде поета от изкуствен интелект. Този въпрос е една стъпка по-нататък и на него отговаря работния скенер на FTE TO AI, който изчислява за всяка задача коя част от работата може да бъде поета. Който вече знае какви инструменти се използват в организацията, може с този скенер да проучи какво означава това използване за организацията на самата работа.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.