A maioria das organizações sabe que precisa de assegurar a governação da sua IA. No entanto, são poucas as que conseguiram transformar essa intenção num sistema em que reguladores, auditores e líderes de negócio possam confiar. Este artigo explica por que razão existe esta lacuna, o que é necessário para a colmatar e como pode ser estruturado um caminho sólido para o futuro.

1. O Regulamento Europeu da IA: Oportunidade e risco chegam em simultâneo

O Regulamento Europeu da Inteligência Artificial (EU AI Act) entrou em vigor a 1 de agosto de 2024 e é aplicável de forma faseada. As disposições relativas às práticas proibidas e à literacia em IA são aplicáveis desde fevereiro de 2025, enquanto as disposições relativas à governação, fiscalização, sanções e IA de finalidade geral começaram a ser aplicadas em agosto de 2025. O Digital Omnibus on AI (Regulamento (UE) 2026/1744) entrou em vigor a 27 de julho de 2026, confirmando um calendário adiado para os sistemas de alto risco: os requisitos aplicáveis aos sistemas de alto risco enumerados no Anexo III serão aplicáveis a partir de 2 de dezembro de 2027, enquanto os requisitos relativos a IA de alto risco incorporada em produtos regulamentados ao abrigo do Anexo I serão aplicáveis a partir de 2 de agosto de 2028. Este calendário alargado deve ser encarado como uma janela de preparação, e não como uma razão para adiar a ação.

O AI Act não é uma norma tecnológica. É uma norma de governação aplicada à tecnologia. Não determina quais os modelos que as organizações devem utilizar, nem como devem construí-los. Em vez disso, coloca uma questão aparentemente simples, mas extremamente exigente: Consegue a sua organização demonstrar, perante um regulador ou auditor, que os seus sistemas de IA são compreensíveis, controláveis e sujeitos a responsabilização?

Para as organizações que já investiram em IA — seja através de modelos desenvolvidos internamente, plataformas empresariais com IA integrada ou agentes autónomos de IA — esta realidade cria simultaneamente risco e oportunidade.

1.1 O lado do risco

O risco é claro. As organizações que não consigam demonstrar conformidade poderão ficar sujeitas a ações de fiscalização, medidas corretivas ou suspensão de sistemas de IA. Ao abrigo do AI Act, o nível máximo de sanção pode atingir 35 milhões de euros ou 7% do volume de negócios anual mundial no caso de práticas proibidas; as violações de outras obrigações dos operadores podem resultar em coimas até 15 milhões de euros ou 3% do volume de negócios anual mundial; e o fornecimento de informações incorretas ou enganosas pode atingir 7,5 milhões de euros ou 1%.

Para além das sanções financeiras, o impacto na reputação de uma decisão tomada por IA que não possa ser explicada — sobretudo em contextos regulados como a avaliação de risco de crédito, o recrutamento ou a saúde — pode ser significativo.

Na prática, as organizações que ainda não tenham inventariado os seus sistemas de IA, classificado os respetivos níveis de risco ou estabelecido trilhos de auditoria poderão deparar-se com dificuldades tanto na implementação de novos sistemas como na manutenção dos sistemas existentes no âmbito do novo enquadramento regulamentar.

1.2 O lado da oportunidade

A oportunidade é menos evidente, mas estrategicamente muito mais relevante. As organizações que desenvolverem uma verdadeira capacidade de governação da IA durante este período de transição não estarão apenas a garantir a conformidade. Estarão a construir a infraestrutura de confiança necessária para utilizar a IA à escala.

A maioria das organizações já percebeu que a adoção de IA não é travada pela falta de modelos ou de ferramentas, mas sobretudo pela falta de confiança. Os líderes de negócio não permitirão que agentes de IA interajam com sistemas de produção enquanto não souberem claramente o que esses agentes podem ou não fazer e o que acontece quando algo corre mal.

Na prática, o AI Act obriga as organizações a construir precisamente a camada de governação necessária para eliminar este bloqueio.

Quando bem implementada, a conformidade com o AI Act transforma-se diretamente em capacidade de colocar a IA em produção. O mesmo inventário, classificação de risco, auditoria e modelo de supervisão que permitem responder às exigências dos reguladores são também os mecanismos que dão confiança aos stakeholders internos que atualmente condicionam ou impedem a implementação de IA.

1.3 O Evidence Pack: como se concretiza uma governação da IA preparada para a conformidade

As discussões sobre governação permanecem frequentemente num plano conceptual. O AI Act torna-as concretas ao exigir que as organizações mantenham evidências sobre a forma como os sistemas de IA de alto risco são concebidos, controlados, monitorizados e utilizados.

A BI4ALL designa o conjunto estruturado desta evidência por Evidence Pack: um conjunto operacional de artefactos que ajuda a demonstrar que um sistema de IA é governado, auditável e seguro para operar. Importa salientar que o Evidence Pack é um modelo operacional desenvolvido pela BI4ALL para suportar a entrega de projetos, não um documento formalmente definido pela legislação.

O Evidence Pack não é um documento estático. É um ativo operacional vivo, continuamente atualizado e diretamente ligado à forma como o sistema de IA é gerido no dia a dia. É composto por cinco componentes:

Key insight

O «Evidence Pack» é o que distingue uma discussão sobre governação de um modelo operacional em conformidade com os requisitos regulamentares. As organizações que dispõem deste pacote podem implementar a IA com confiança. As que não o têm estão a acumular dívidas regulamentares e operacionais.

2. Porque é que os agentes de IA ficam bloqueados na fase de piloto

Existe um padrão que se repete em diferentes setores e organizações. Uma equipa desenvolve um agente de IA — um sistema capaz de raciocinar, tomar decisões e executar ações — que apresenta resultados impressionantes num ambiente de piloto. As demonstrações correm bem. Os stakeholders de negócio mostram-se entusiasmados. E, depois, o agente nunca chega a produção.

Isto não significa que a tecnologia tenha falhado. Os ambientes piloto são, por definição, concebidos para criar condições controladas de sucesso. Os modelos são capazes. O caso de uso foi validado. O que falha é a transição de um contexto controlado e supervisionado para um ambiente real, no qual o agente interage com sistemas e dados reais e em que as suas decisões podem ter consequências concretas.

O problema central não é a falta de confiança das organizações na IA. É a ausência da camada de governação necessária para transformar essa confiança em confiança fundamentada.

Sem uma resposta clara à pergunta “O que tem de estar assegurado antes de este agente poder interagir com um sistema de produção?”, a resposta por defeito acaba por ser: nada avança.

O problema da passagem de produção

A maioria das empresas não tem um problema de IA. Tem um problema de confiança na passagem para produção. A evidência é clara: os agentes existem, mas não lhes é permitido atuar sobre sistemas de produção. A solução não passa necessariamente por um modelo melhor. Passa por estabelecer uma passagem de produção que possa ser avaliado, auditado e mantido ao longo do tempo.

O custo desta estagnação é significativo. As equipas de IA que não conseguem colocar as suas soluções em produção consomem investimentos consideráveis sem gerar retorno. A proliferação de pilotos cria uma falsa sensação de progresso — a perceção de que a organização está a adotar IA, sem que essa adoção se traduza efetivamente em valor para o negócio. O calendário alargado para a aplicação dos requisitos relativos a sistemas de alto risco proporciona às organizações tempo adicional para se prepararem. No entanto, as disposições relativas à transparência, práticas proibidas, literacia em IA, governação, fiscalização, sanções e IA de finalidade geral já estão em vigor. As organizações devem utilizar este período adicional para transformar pilotos sem governação em sistemas controlados e suportados por evidência, e não para adiar a ação.

3. Porque é que os agentes de IA não chegam a produção

A dificuldade na passagem de piloto para produção raramente é causada por um único fator. Resulta, na maioria dos casos, da convergência de várias lacunas organizacionais, técnicas e regulamentares que, em conjunto, fazem com que a implementação seja considerada demasiado arriscada. A análise das causas-raiz que se segue identifica os principais fatores que contribuem para este bloqueio.

3.1 Porque é que os agentes de IA não chegam a produção: análise de causa e efeito

O diagrama abaixo apresenta as seis categorias de causas que mais frequentemente impedem a passagem dos agentes de IA de piloto para produção. O efeito — o agente de IA fica bloqueado antes de chegar a produção — resulta de deficiências que se verificam, em simultâneo, nestas seis áreas:

3.2 O ponto de convergência

Estas causas não atuam de forma independente. Um agente de IA com uma componente tecnológica robusta, mas sem uma camada de governação, dificilmente obterá a aprovação do negócio. Da mesma forma, um agente com documentação de governação, mas sem mecanismos de controlo técnico, dificilmente ultrapassará uma avaliação de segurança.

As organizações que conseguem levar com sucesso os agentes de IA para produção abordam as seis categorias em conjunto — não através de um processo exaustivo de correção de todas as lacunas, mas através de uma metodologia estruturada, que permite priorizar os riscos mais críticos e estabelecer uma passagem para produção clara e objetiva.

A passagem para produção não é uma checklist que se preenche uma única vez. É um modelo operacional contínuo, constituído por controlos, revisões e trilhos de evidência que permitem manter a confiança no agente ao longo do tempo, à medida que os dados sofrem alterações, os requisitos de negócio evoluem e as obrigações regulamentares se transformam.

4. A oferta da BI4ALL: AI Governance as a Service

Os centros de excelência da BI4ALL desenvolveram um acelerador estruturado e replicável que aborda diretamente a lacuna entre confiança e passagem para produção. Em vez de começar por frameworks ou tecnologia, a abordagem parte daquilo que é mais importante: definir o production gate específico de que a organização necessita e os critérios que o agente terá de cumprir para o ultrapassar.

A oferta está estruturada em três componentes. Cada componente produz um conjunto de artefactos que ficam na organização, permitindo a sua manutenção e evolução interna. Em conjunto, estes elementos constituem um modelo operacional de governação da IA preparado para responder a requisitos de conformidade.

Esta estrutura funciona também do ponto de vista comercial porque transforma uma conversa abstrata sobre governação num roadmap concreto e acionável.

Cada fase entrega algo que fica na organização: um inventário, um modelo que pode implementar e um sistema governado que pode apresentar como evidência. Além disso, cada fase cria uma base sólida e um racional claro para avançar para a seguinte, permitindo uma evolução progressiva da capacidade de governação da IA, em função das necessidades e do nível de maturidade da organização.

5. Governação da infraestrutura de agentes de IA: quando os agentes descobrem aquilo que não deveriam

5.1 O incidente que muda a conversa

Consideremos um cenário plausível de falha numa organização. Um agente de IA para desenvolvimento de software é implementado num ambiente de desenvolvimento e foi concebido para trabalhar exclusivamente com recursos de staging. Ao resolver uma tarefa secundária, encontra uma API e um token no código a que tem acesso. A API permite efetuar eliminações em massa e o agente utiliza-a para concluir a tarefa. Como o mesmo perímetro de armazenamento também contém dados de produção e cópias de segurança, a ação provoca uma perda catastrófica de dados. Este cenário demonstra como um acesso aparentemente limitado pode ainda assim gerar consequências graves quando segredos, APIs, fronteiras de dados e operações destrutivas não são governados de forma integrada.

Este tipo de falha não exige uma prompt injection maliciosa nem uma intenção deliberadamente prejudicial. O agente pode operar através das permissões e interfaces que o ambiente disponibiliza, raciocinar de forma instrumental para cumprir a tarefa e gerar consequências que os seus criadores não anteciparam.

O problema de governação não está, portanto, na intenção do agente, mas na agência sem limites: a combinação de capacidade de descoberta demasiado ampla, privilégios excessivos, segregação insuficiente e acesso a operações destrutivas.

O principal desafio da governação dos agentes de IA

Não é possível criar uma política que antecipe todas as ações que um agente dotado de capacidade de raciocínio poderá executar. A governação deve, por isso, combinar responsabilização organizacional, controlos ao longo do ciclo de vida, supervisão humana e mecanismos de controlo técnico aplicados no ambiente de execução. Os prompts e as políticas orientam o comportamento; a arquitetura, as permissões, a monitorização e os mecanismos de aprovação estabelecem limites efetivamente aplicáveis.

5.2 Porque é que os controlos ao nível das políticas não são suficientes

Quando as organizações respondem a incidentes envolvendo agentes através da atualização de políticas ou da revisão dos system prompts, estão a tratar o sintoma e não a causa.

Uma política que determine “não utilize credenciais que encontre” tem de ser interpretada e cumprida pelo próprio agente. No entanto, agentes capazes de raciocinar também podem contornar restrições, sobretudo quando estas não são impostas tecnicamente.

A distinção entre um controlo ao nível da política e um controlo rígido (hard control) é fundamental:

• Controlo ao nível da política: é uma instrução que determina que o agente não deve executar determinada ação. Depende da capacidade do agente para interpretar corretamente essa instrução em todos os contextos e situações-limite.
• Controlo rígido (hard control): é uma restrição arquitetural que torna a ação proibida tecnicamente impossível, independentemente das instruções dadas ao agente ou daquilo que este consiga descobrir.

Nos sistemas de IA de alto risco e nos agentes que operam em ambientes de produção ou próximos destes, os requisitos críticos de governação devem ser suportados por controlos técnicos efetivamente aplicáveis, responsabilidades claramente definidas, mecanismos de supervisão humana e procedimentos operacionais testados.

5.3 A arquitetura de uma infraestrutura de agentes de confiança

Uma governação eficaz da infraestrutura de agentes de IA deve atuar em quatro camadas:

Layer 1: Governação de credenciais e segredos

• Nenhuma credencial em texto simples em qualquer local — código, configuração, documentação ou variáveis de ambiente a que o agente tenha acesso.
• Scanning contínuo de segredos, com revogação automática quando estes são detetados.
• Minimização do âmbito dos tokens: os agentes recebem apenas as permissões necessárias para executar a tarefa específica, nunca acessos mais amplos do que os necessários.
• Rotação regular de todas as credenciais e chaves de API utilizadas pelos agentes.

Layer 2: Controlo da execução fora do agente

• API gateways que determinam quais as ações permitidas, independentemente das credenciais apresentadas. O gateway aplica as regras de negócio; o agente não as pode contornar.
• Controlos de infraestrutura imutáveis: determinadas operações — como eliminar dados de produção, alterar schemas de produção ou desativar mecanismos de logging — devem ser bloqueadas ao nível da infraestrutura e não apenas através de políticas.
• Segmentação ao nível da rede: o ambiente de execução do agente não deve conseguir aceder a endpoints de produção, salvo quando esse acesso é explicitamente encaminhado através de um gateway controlado.

Layer 3: Execução baseada em capacidades

• Os agentes operam com capacidades previamente definidas, e não com credenciais de acesso direto. Mesmo que uma credencial seja descoberta, o ambiente de execução recusa a sua utilização para ações que estejam fora do conjunto de capacidades autorizado para o agente.
• As capacidades são definidas em função do caso de uso e revistas em cada processo de validação.
• Qualquer alteração às capacidades requer aprovação ao nível da governação, criando um caminho de auditoria para cada extensão das permissões do agente.

Layer 4: Kill switch e deteção de anomalias

• A monitorização contínua do comportamento deve detetar atividades fora da tarefa autorizada pelo agente, como tentativas de descobrir credenciais, enumeração de APIs, pedidos de permissões invulgares, acesso massivo a dados, padrões de operações destrutivas, violações de políticas ou sequências anómalas de utilização de ferramentas. Os métodos de deteção devem ser selecionados em função do caso de uso e validados face a indicadores de risco previamente definidos, em vez de dependerem de um único sinal interno do modelo.
• Os mecanismos de kill switch permitem suspender imediatamente a execução do agente sem ser necessário o acesso humano ao sistema subjacente.
• Todos os eventos de suspensão devem gerar um registo de auditoria e desencadear uma revisão formal antes de o agente ser novamente ativado.

O princípio de governação

Devemos partir do princípio de que um agente pode explorar todos os recursos que o ambiente lhe disponibiliza, mesmo que não exista qualquer intenção maliciosa.

A infraestrutura deve, por isso, ser concebida de forma que o princípio do menor privilégio, a segregação, os limites de capacidade, os mecanismos de aprovação e a monitorização condicionem aquilo que o agente pode descobrir e executar.

A governação torna-se, assim, a combinação de controlos organizacionais e estruturais que mantém o risco residual dentro de um âmbito aceitável, controlável e auditável.

5.4 Eliminar classes de exploração, não caminhos individuais

Não é possível enumerar e bloquear todas as ações que um agente com capacidade de raciocínio poderá executar. O objetivo da governação de agentes não é modelar todas as possíveis formas de exploração, mas eliminar classes inteiras de risco através do desenho arquitetural.

As quatro camadas apresentadas eliminam, cada uma, uma determinada classe de risco:

• A governação de credenciais elimina a classe de riscos que depende da descoberta, pelo agente, de segredos utilizáveis.
• O controlo da execução em runtime elimina a classe de riscos que depende do acesso direto do agente a APIs de produção.
• A execução baseada em capacidades elimina a classe de riscos que depende da capacidade do agente para executar ações fora do âmbito previamente definido.
• A deteção de desalinhamento e os mecanismos de kill switch limitam o impacto de qualquer risco residual e garantem que novas formas de exploração são detetadas e contidas rapidamente.

Esta combinação não elimina todo o risco — o desalinhamento não pode ser reduzido a zero. Permite, contudo, reduzir o risco residual a um âmbito limitado, mensurável e auditável, que as organizações conseguem gerir, explicar aos reguladores e melhorar continuamente.

6. O Modelo de Maturidade da Governação da IA

A capacidade de governação não surge de forma completa. É construída progressivamente e o nível de maturidade de governação de uma organização determina diretamente quais os casos de uso de IA que esta consegue implementar de forma segura e em conformidade com os requisitos aplicáveis.

O modelo de maturidade apresentado abaixo estabelece uma relação entre o investimento em governação e o nível de confiança na implementação de IA. À medida que a organização evolui em cada nível, consegue desbloquear novas categorias de casos de uso de IA — e a lógica comercial do modelo é clara: maior maturidade permite implementar aplicações de IA de maior valor e impacto.

Fundamentalmente, este modelo funciona também como uma ferramenta de diálogo comercial: permite às organizações identificar o seu nível atual de maturidade, compreender o que é necessário para avançar para o nível seguinte e perceber o valor que podem obter com essa evolução.

A governação deixa, assim, de ser encarada como um encargo ou uma obrigação e passa a ser vista como aquilo que realmente pode ser: um roadmap para desbloquear valor através da IA.

6.1 A lógica comercial do Modelo de Maturidade

O modelo de maturidade não é apenas uma ferramenta de análise — é também um ativo comercial. Permite às organizações responder a três questões que, de outra forma, ficam frequentemente sem resposta nas conversas sobre governação:

1. Onde estamos atualmente? O inventário e a avaliação de lacunas realizados na fase Assess permitem posicionar a organização na escala de maturidade.

2. O que ganhamos se investirmos? Cada transição para um nível superior desbloqueia um conjunto definido de casos de uso de IA que, até então, eram demasiado arriscados ou não dispunham da governação necessária para serem implementados. O valor de atingir o Nível 4 não é apenas a conformidade — é a capacidade de operar agentes autónomos de IA em sistemas de produção.

3. Qual é o custo de permanecermos onde estamos? Cada mês passado no Nível 1 ou Nível 2 representa mais um mês de pilotos de IA que não conseguem chegar a produção, enquanto as obrigações que já estão em vigor continuam a aplicar-se e as datas de aplicação dos requisitos relativos a sistemas de alto risco — dezembro de 2027 e agosto de 2028 — se aproximam.

Conclusão: A governação é o processo de validação

O EU AI Act não exige que as organizações deixem de utilizar IA. Exige que compreendam, controlem e assumam a responsabilidade pela IA que utilizam. Algumas obrigações, incluindo as relativas a práticas proibidas, literacia em IA, governação, fiscalização, sanções e requisitos aplicáveis à IA de finalidade geral, já estão em vigor.

O calendário revisto para os sistemas de alto risco prolonga o período de preparação até dezembro de 2027 para os sistemas abrangidos pelo Anexo III e até agosto de 2028 para a IA de alto risco incorporada em produtos regulamentados. No entanto, as organizações que aguardarem estarão a comprimir o tempo disponível para classificação, desenho de controlos, criação de evidências, testes e correção de lacunas.

Para as organizações que encaram a governação como a disciplina que permite colmatar a lacuna entre confiança e passagem para produção, o AI Act representa uma oportunidade para fazer algo que a maioria dos seus pares ainda não conseguiu: retirar a IA da fase de piloto e transformá-la em verdadeiro valor operacional.

O Evidence Pack, o processo de validação, a escala de maturidade e a infraestrutura de agentes governada descritos neste artigo não são iniciativas independentes. São componentes de um único modelo operacional — um modelo que torna a IA governável, auditável e segura para escalar.

O Centro de excelência de Data & AI Strategy and Governance da BI4ALL atua na interseção entre regulação, dados, IA e design organizacional. O nosso acelerador Assess–Design–Pilot proporciona às organizações um percurso estruturado e com prazo definido, desde o seu nível atual de maturidade em governação até ao nível necessário para implementar IA com confiança — e para demonstrar essa confiança a reguladores, auditores e stakeholders de negócio.

A questão a responder agora

O que tem de estar assegurado antes de os seus agentes de IA poderem atuar sobre sistemas de produção — e consegue demonstrá-lo?

Se hoje não consegue responder afirmativamente às duas partes desta pergunta, utilize o período de implementação alargado para estabelecer o inventário, as responsabilidades, os controlos e as evidências necessários, antes dos prazos aplicáveis aos sistemas de alto risco.