Governança de agentes de IA
A pergunta não é quem pode usar. É até onde o agente vai sem um humano.
Política de uso de IA governa pessoas usando uma ferramenta. Governança de agente governa um sistema que age em nome da empresa — responde ao cliente, altera registro, libera crédito. Não há leitor intermediário para filtrar o erro: ele vira ato antes de virar informação. São problemas diferentes, e o segundo exige quatro controles que a política não cobre.
Números do agente de pós-venda do grupo Stellantis, que lê a foto do painel do carro enviada por WhatsApp e interpreta o alerta na hora. Fonte: blip.ai. É um projeto conduzido por quem hoje conduz a Tyna.
A distinção
Um erro que uma pessoa lê é um rascunho. Um erro que o agente executa é um fato.
Essa é a diferença inteira, e ela reorganiza tudo o que vem depois. Quando alguém escreve um prompt ruim no ChatGPT, uma pessoa lê a resposta ruim e descarta — o erro morre ali, custou dois minutos. Quando um agente autônomo erra, ele já respondeu ao cliente, já alterou o registro, já liberou o crédito. O controle precisa agir antes, porque depois não há a quem avisar.
O que a política de uso resolve
Quem pode usar quais ferramentas, que dado pode ser colado, o que é uso aceitável. Governa comportamento humano, e depende de as pessoas lerem e seguirem.
O que ela não alcança
Um agente não lê política. Ele executa o que o código e o modelo determinam, na velocidade da requisição, milhares de vezes por dia, sem ninguém entre a decisão e o efeito.
Onde a diferença aparece na prática
Um documento que diz "o agente não deve prometer prazo de entrega" não impede nada. O que impede é a validação que barra a resposta contendo data quando o prazo não veio do sistema de logística.
Por que isso não é teoria
Pesquisa da Sinch com 2.527 executivos em dez países aponta que 74% das empresas já reverteram ou desligaram um agente que estava no ar — e que a taxa sobe para 81% entre as que têm governança madura. Reverter é o controle funcionando; o problema é ter descoberto só em produção.
Os quatro controles
O que precisa existir antes de o agente falar com alguém
Nenhum dos quatro é documento. Todos são decisões que viram configuração, código ou registro — e é por isso que continuam valendo depois que a apresentação de governança sai da tela.
Escopo de autonomia
A lista do que o agente decide sozinho e do que exige aprovação, escrita antes de ir a produção — não depois do primeiro incidente. Na prática são três faixas: o que ele resolve, o que ele propõe e alguém confirma, e o que ele nunca faz. A terceira faixa é a que ninguém escreve, e é a que evita a manchete.
Guardrail em produção
Limite aplicado em execução, verificado pela máquina a cada chamada. Validação de saída, faixa de valores permitida, bloqueio de dado sensível, checagem de que o número citado veio de um sistema e não do modelo. Política é lida por pessoas e pode ser ignorada; guardrail é executado e não admite exceção silenciosa.
É a distinção que separa governança escrita de governança aplicadaEscalonamento humano
O critério que dispara a passagem para uma pessoa, e o caminho por onde ela recebe o caso com o contexto inteiro. Escalonamento que joga o cliente numa fila e faz repetir tudo é pior que não escalonar: gasta a paciência que o agente tinha economizado.
Trilha de auditoria da decisão
O que o agente leu, decidiu e executou, recuperável depois do fato: quais dados entraram no contexto, qual foi a decisão, qual ação disparou em qual sistema, quando houve escalonamento. É o que responde a contestação de cliente, a pedido de explicação de decisão automatizada e a auditoria — sob a LGPD hoje, e sob a ISO/IEC 42001 quando a empresa buscar certificação.
O número que derruba a fantasia
84,2% de assertividade. Ou seja: cerca de um em cada seis casos ele não resolve.
Vale olhar de perto um agente que funciona, porque o número real contraria a expectativa que costuma ser vendida em reunião.
| O que o agente do grupo Stellantis entrega | Número |
|---|---|
| Assertividade da IA na leitura e interpretação do alerta do painel | 84,2% |
| Resolutividade direta, sem passar por pessoa | 80% |
| NPS no pós-venda, com aquela taxa de erro embutida | 86,8% |
| Marcas do grupo com a solução replicada | 5 |
| Fonte | blip.ai — projeto conduzido por quem hoje conduz a Tyna |
- Não existe agente com 100% de acerto — e projetar como se existisse é o erro de origem, porque toda a arquitetura de exceção deixa de ser construída.
- O NPS alto não vem da ausência de erro — vem de o caminho para a pessoa existir e funcionar quando o erro acontece. A satisfação é do sistema inteiro, não do modelo.
- A pergunta certa em reunião de aprovação — não é "qual a taxa de acerto", é "o que acontece nos casos que ele não resolve, e quem descobre primeiro: nós ou o cliente".
- Sem número, não há conversa — um agente sem medição de assertividade e sem trilha não pode ser melhorado nem defendido; só desligado quando alguém reclamar alto o bastante.
Antes de aprovar
Dez perguntas para fazer antes de um agente ir ao ar
É o roteiro que a Tyna usa em revisão de agente, e serve tanto para quem constrói quanto para quem aprova. Se três respostas forem "ainda não", o agente ainda não está pronto para falar com cliente.
Escopo O que ele pode fazer
-
O que este agente decide sozinho, e o que ele nunca faz?
As duas listas, escritas. Se a segunda estiver vazia, ela não foi pensada — não é que não exista limite.
-
Qual ação irreversível ele consegue disparar?
Enviar mensagem a cliente, alterar cadastro, emitir crédito, cancelar pedido. Toda ação irreversível ou vira faixa de aprovação, ou vira guardrail com limite de valor.
-
Quem é o dono, pelo nome?
Uma pessoa da área de negócio dona do processo, não o time que construiu. As decisões difíceis do agente são decisões de negócio, e quem responde pelo processo precisa ter o mandato.
Dado O que entra e o que sai
-
Que dado pessoal entra no contexto, e sob qual base legal?
Registrado antes de subir, não depois que o jurídico perguntar. Vale para o prompt, para a base de conhecimento e para o histórico de conversa.
-
Para quais fornecedores esse dado sai?
Modelo, hospedagem, ferramenta de observabilidade. Cada um é um operador, e cada um precisa de contrato — a lista costuma ser maior do que a memória do time.
-
Qual número o agente pode citar, e de onde ele vem?
Prazo, valor, saldo, disponibilidade. Se vier do modelo, vai estar errado alguma hora; o guardrail precisa exigir origem em sistema.
Falha O que acontece quando dá errado
-
Qual é o critério de escalonamento, e a pessoa recebe o contexto?
Confiança baixa, tema sensível, cliente irritado, terceira repetição da mesma pergunta. E, do outro lado, alguém que recebe o histórico inteiro — não um cliente na fila repetindo tudo de novo.
Escalonamento mal feito gasta a paciência que o agente tinha economizado -
Como descobrimos que ele está errando, sem depender de reclamação?
Amostragem revisada por gente, alerta de taxa de escalonamento, medição de assertividade. Sem isso, o primeiro a saber é sempre o cliente.
-
Conseguimos reconstruir uma interação específica de trinta dias atrás?
O que ele leu, decidiu e executou. É o teste real da trilha de auditoria: se ninguém consegue puxar o caso nº 4.312, a trilha não existe.
-
Como desligamos, e quanto tempo leva?
Botão de desligar, com dono e prazo conhecidos. Reverter é o controle funcionando — desde que a empresa consiga reverter em minutos, e não em uma reunião de emergência de duas horas.
DEZ PERGUNTAS ANTES DE UM AGENTE DE IA IR AO AR — Tyna (tyna.com.br/governanca-de-agentes/) ESCOPO — O QUE ELE PODE FAZER [ ] 1. O que este agente decide sozinho, e o que ele nunca faz? (as duas listas, escritas) [ ] 2. Qual acao irreversivel ele consegue disparar? (mensagem a cliente, alteracao de cadastro, credito, cancelamento) [ ] 3. Quem e o dono, pelo nome? (pessoa da area de negocio dona do processo, nao o time que construiu) DADO — O QUE ENTRA E O QUE SAI [ ] 4. Que dado pessoal entra no contexto, e sob qual base legal? (prompt, base de conhecimento e historico) [ ] 5. Para quais fornecedores esse dado sai? (modelo, hospedagem, observabilidade — cada um e um operador) [ ] 6. Qual numero o agente pode citar, e de onde ele vem? (prazo, valor, saldo: exigir origem em sistema) FALHA — O QUE ACONTECE QUANDO DA ERRADO [ ] 7. Qual e o criterio de escalonamento, e a pessoa recebe o contexto inteiro? [ ] 8. Como descobrimos que ele esta errando, sem depender de reclamacao? (amostragem, alerta, assertividade) [ ] 9. Conseguimos reconstruir uma interacao especifica de 30 dias atras? (o que leu, decidiu e executou) [ ] 10. Como desligamos, e quanto tempo leva? (dono e prazo conhecidos) REGRA QUE VALE PARA O ROTEIRO INTEIRO Nao existe agente com 100% de acerto. Um agente de pos-venda em producao opera com 84,2% de assertividade e ainda assim entrega 86,8% de NPS (fonte: blip.ai). A satisfacao nao vem de nunca errar: vem de o caminho para a pessoa existir e funcionar quando erra. Se tres respostas acima forem "ainda nao", o agente nao esta pronto para falar com cliente.
Perguntas frequentes
Governança de agentes, em resposta direta
Qual é a diferença entre governança de agentes autônomos e política de uso de IA?
Política de uso governa pessoas usando uma ferramenta: se alguém escreve um prompt ruim, uma pessoa lê a resposta ruim e descarta. Governança de agente governa um sistema agindo em nome da empresa, sem leitor intermediário: o agente responde ao cliente, altera um registro, libera um crédito. O erro vira ato antes de virar informação. Por isso a pergunta deixa de ser quem pode usar e passa a ser até onde o agente vai sem um humano.
Quais controles um agente de IA precisa ter antes de ir para produção?
Quatro. Escopo de autonomia, que é a lista escrita do que o agente decide sozinho e do que exige aprovação, definida antes da produção e não depois do primeiro incidente. Guardrail aplicado em execução, que é limite verificado pela máquina e não recomendação em documento. Escalonamento humano, com o critério que dispara a passagem para uma pessoa e o caminho por onde ela recebe o caso com contexto. E trilha de auditoria, que registra o que o agente leu, decidiu e executou, de forma recuperável depois do fato.
Qual taxa de acerto é aceitável para um agente de IA em produção?
Não existe agente com 100% de acerto, e projetar como se existisse é o erro de origem. Um agente de pós-venda em produção no grupo Stellantis, que lê a foto do painel do carro enviada por WhatsApp e interpreta o alerta, opera com 84,2% de assertividade e 80% de resolutividade direta, e ainda assim registra 86,8% de NPS, replicado em cinco marcas do grupo, segundo a blip.ai. Aproximadamente um em cada seis casos não se resolve sozinho. A satisfação alta não vem de o agente nunca errar: vem de o caminho para a pessoa existir e funcionar quando ele erra.
O que é uma trilha de auditoria de agente de IA?
É o registro recuperável do que o agente leu, decidiu e executou em cada interação: quais documentos e dados entraram no contexto, qual foi a decisão, qual ação foi disparada em qual sistema e em que momento houve escalonamento para uma pessoa. Sem essa trilha, contestação de cliente e pedido de explicação de decisão automatizada não têm resposta possível, e a empresa fica sem como demonstrar conformidade em auditoria, seja sob a LGPD, seja em uma certificação ISO/IEC 42001.
Quem deve ser o responsável por um agente de IA na empresa?
Uma pessoa nomeada da área de negócio dona do processo, não o time que construiu o agente. Quem responde pelo atendimento responde pelo agente de atendimento, com apoio técnico de quem o mantém. A razão é prática: as decisões difíceis do agente são decisões de negócio, como até quanto ele pode conceder de desconto ou em que caso ele deve parar e chamar alguém. Deixar o dono na engenharia faz com que essas escolhas sejam feitas por quem não tem mandato para fazê-las.
Continue por aqui
Guias relacionados
AI Gateway
Onde a trilha de auditoria e o guardrail deixam de ser projeto por agente e viram infraestrutura compartilhada.
Shadow AI: como mapear
Boa parte dos agentes que já rodam na empresa não passou por revisão nenhuma. O checklist encontra esses primeiro.
Marco Legal da IA
Direito à explicação de decisão automatizada é o ponto do projeto que mais depende de trilha de auditoria existir.
Próximo passo
Tem agente da sua empresa no ar sem essas dez respostas?
O diagnóstico de maturidade são dez perguntas e três minutos, com as lacunas nomeadas uma a uma. Sem formulário e sem cadastro.