Responsible AI Governance
Reconhece isto: alguém no departamento financeiro utiliza uma ferramenta de IA para escrever relatórios, ninguém no departamento de TI sabe que ela existe, e se algo correr mal não fica claro quem será responsabilizado. Ou: a ferramenta que consta na lista de TI já foi há muito substituída por algo que os colaboradores encontraram por conta própria, que funciona mais rápido, e que é alimentada com dados da empresa sem que ninguém tenha analisado isso. Isto não é um problema de registo. É um problema de responsabilidade que só se torna visível no momento em que já é tarde para resolvê-lo com calma.
Esta página descreve o que fica sobre a mesa quando esse panorama está completo: não como promessa, mas como enumeração de componentes.
O scan não produz um único documento, mas uma série de componentes que se encaixam entre si.
Primeiro, uma visão geral das aplicações, elaborada através de uma ferramenta de levantamento que se dirige a departamentos e colaboradores e que é complementada através de pesquisa documental orientada. Essa visão geral não contém apenas o que a TI conhece, mas também o que cresceu fora desse âmbito: as aplicações que ninguém aprovou formalmente, com quem são utilizadas e para que fim.
Depois, segue-se, por aplicação, uma classificação: que papel a organização desempenha nela (fornecedor ou utilizador) e que nível de risco se aplica. Essa classificação provém dos conjuntos de dados aiacta, não de uma estimativa feita no momento. Com base nisso surge uma linha do tempo: o que é agora uma obrigação, e o que pode ser planeado mais tarde. Assim torna-se visível onde há urgência e onde não há.
Segue-se um modelo de governança, desenvolvido como um conjunto de modelos (templates). Esses modelos foram concebidos para se integrarem na estrutura de risco já existente na organização, de forma a que não seja necessário criar um segundo processo paralelo ao primeiro. A isso acrescenta-se um relatório para o conselho de administração, resumido numa única página, destinado a partilhar o essencial da situação sem que todos tenham de analisar o material subjacente.
Por fim, existe uma subscrição de um serviço de monitorização do horizonte (horizon-scanner), para acompanhar o que muda ao longo do tempo: novas aplicações, nova regulamentação, alterações no risco. O que está correto no momento do scan pode, poucos meses depois, estar desatualizado; a subscrição é a resposta a isso, não um relatório único.
Como estes componentes surgem exatamente, desde o levantamento até ao modelo, está detalhado em como funciona; quem quiser ver como os resultados finais se apresentam em termos de conteúdo, encontra isso em resultados.
Os dados provêm de duas fontes. A visão geral das aplicações provém do que a própria organização introduz através da ferramenta de levantamento, complementada com pesquisa documental que torna visível em que se baseia essa visão geral. A classificação de papel, risco e obrigação provém dos conjuntos de dados aiacta: informação estruturada sobre o AI Act, não de uma avaliação isolada. Isso significa que cada resultado pode ser rastreado até à sua origem, e que nada no relatório se baseia numa estimativa fundamentada que não possa também ser encontrada na fonte. Quem quiser saber como esses conjuntos de dados são construídos e mantidos, pode consultar em a base de conhecimento.
Três coisas estão fora do âmbito deste scan, e isso é intencional.
Não é uma ferramenta de conformidade com o AI Act. Para registo, classificação e literacia segundo o AI Act, o aiacta.eu é a casa de referência; esse limite não muda. Este scan utiliza os conjuntos de dados dessa casa, mas não a substitui.
Não é prova de um percurso já realizado. O scan estrutura o que existe no momento da execução; não mostra um historial de serviço nem reivindica experiência com percursos anteriormente concluídos. O que o scan proporciona é uma fotografia da situação atual, não um histórico comprovado.
Não é um segundo processo paralelo à estrutura existente. Os modelos foram concebidos para serem inseridos no que já existe em termos de gestão de risco ou conformidade, não para passarem a ter vida própria ao lado disso. Se essa integração na prática decorre de forma tranquila depende de como essa estrutura existente está construída — isso o próprio scan não pode garantir.
Com a visão geral, a classificação, a linha do tempo e os modelos sobre a mesa, surge um momento de escolha sobre o passo seguinte. Algumas organizações assumem elas próprias o registo, os modelos e a linha do tempo, e tratam a literacia através das sessões aiacta. Outras procuram um parceiro para conceber o processo de supervisão (oversight) e para a integração na estrutura de risco existente. Outras ainda subcontratam a totalidade do percurso de governança a um parceiro, com o scan como o dossier a partir do qual esse percurso se inicia. Qual o percurso adequado depende da dimensão da organização, da complexidade das aplicações encontradas e da capacidade disponível internamente — essa é uma ponderação que a própria organização faz, não algo que o scan determine.
O botão para iniciar o scan encontra-se atualmente numa lista de espera; quem se inscrever receberá aviso assim que a ferramenta estiver disponível.
A governança de IA só ganha significado quando fica claro que tarefas, horas e sistemas estão concretamente envolvidos. Essa tradução, de aplicação para carga de trabalho, é o que o scan de trabalho da FTE TO AI (ftetoai.com) torna visível.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.