Закупуването на AI-система и използването ѝ такава, каквато е доставена, е различна ситуация от адаптирането на модел към собствени данни или цел. Тази адаптация може да промени класификацията на вашата организация — и с това въпросите, на които трябва да можете да отговорите. Дали това се случва и колко тежко се отразява, зависи от това какво точно се адаптира и за какво се използва системата.
Класификацията не зависи от въпроса дали вие сте написали изходния код. Тя зависи от това какво реално се случва с модел, след като той попадне при вас. Няколко фактора, които играят роля:
Тези фактори работят заедно. Няма фиксиран праг, който се прилага във всички случаи; актуалната регулация с точните критерии стои другаде, и този текст може да се променя. Това, което остава на тази страница, е механизмът: адаптирането може да смени роля, а ролята определя задължението.
Ролята, която вашата организация заема при AI-система, не е фиксирана. Кой само използва модел така, както е доставен, обикновено има различна позиция от този, който модифицира модела и след това самостоятелно го пуска на пазара или го внедрява вътрешно в голям мащаб. Въпросът кога се случва този преход и какво се променя в този момент по отношение на това, което трябва да можете да доказвате, се разглежда на кога се променя вашата роля и къде е тази граница. За организации, които се съмняват дали са доставчик или потребител — въпрос, който възниква по-често, отколкото се предполага, веднага щом се извършва вътрешна адаптация — има отделно обяснение на разликата между доставчик и потребител на AI-система.
Причината, поради която това има значение, не е формална. Промяна на роля променя това, което трябва да можете да покажете: каква документация поддържате, кой в организацията носи отговорност за надзора, и какви стъпки са предприети, преди адаптираната система да влезе в употреба. Модел, който сами сте адаптирали, е модел, за който сами може да ви бъде поискано да обосновете как е протекла тази адаптация.
Адаптацията може също да влияе на нивото на риск на приложение. Модел, който първоначално е бил предвиден за приложение с нисък риск, може чрез адаптация да попадне в по-тежка категория — например когато след адаптация се използва за решения относно хора. Какво конкретно означава високо ниво на риск за задълженията на вашата организация, е описано на какво означава високо ниво на риск за изискванията към вашата организация. И тук важи: класификацията следва от употребата, не от намерението, с което моделът някога е бил изграден.
Това засяга directно същността на сенчестия AI. Адаптация, която не минава през IT — екип, който сам финетюнва модел върху собствен набор от данни, или отдел, който свързва външен модел с вътрешни системи без за това да е докладвано — променя класификацията на вашата организация без ръководството да е осведомено за това. IT-списъкът не показва тази адаптация. Кой иска да знае дали това се случва, трябва да попита екипите, които работят с това ежедневно, и този разговор дава резултат само ако се проведе без санкции.
Когато адаптация променя ролята или нивото на риск на приложение, се променят няколко неща едновременно: документацията, която трябва да се поддържа, въпросът кой в организацията е собственик на това приложение, и моментът, в който нещо все още може да се планира спрямо това, което вече изисква внимание. Тази разлика — между това, което вече е неотложно, и това, което може да се планира — е свързана с фактори, които се обясняват на какво изисква внимание вече сега и какво все още може да се планира. По-подробно разработване на самия въпрос за класификацията, включително граничните случаи, които на практика се срещат най-често, е представено на пълното обяснение за това какво се променя при адаптиране на модел.
Адаптиран модел на практика често е също модел, който поема част от работата на хора, които преди изцяло сами изпълнявали задача. Дали е така и колко от работата засяга, е въпрос, отделен от въпроса за класификацията, но често го следва: щом стане ясно, че модел е адаптиран и за какво се използва, също се вижда каква част от задачата реално изпълнява. Работният скенер на FTE TO AI изчислява това по задача и показва каква част от работата може да бъде поета от AI, независимо от въпроса как е създаден основният модел.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.