Guardrail de agente de IA: proteja só o que importa
Por Pedro Mafra Mendes · 3 min de leitura
Aprovar toda ação do agente de IA cansa e não protege. Defina os limites reais (não gastar dinheiro, não entrar em repetição infinita, não gastar token sem fim, avisar antes de ação arriscada) na instrução inicial e no brain, e libere o resto. Quando algo arriscado acontecer, diga ao agente que foi arriscado e mande ajustar a instrução.
Por que aprovar tudo não protege
As ferramentas de agente costumam vir em um modo que pede autorização a cada passo. Posso salvar este arquivo? Posso criar esta pasta? Posso executar este comando?
Na teoria, isso dá controle. Na prática, depois da vigésima aprovação, você aprova sem ler. Aprovar que o agente salve um arquivo em uma pasta é inútil: o risco é zero e a aprovação só gasta a sua atenção. Quando aparecer a pergunta que importa, ela vai passar no meio das outras.
Por isso ligo o modo que pula essas permissões e coloco a proteção onde ela faz sentido.
Os limites reais
Os guardrails que valem a pena são poucos e diretos:
- não mexer com dinheiro;
- não entrar em repetição infinita;
- não gastar token sem fim;
- avisar antes de qualquer ação arriscada.
Esses limites vão em dois lugares: na instrução inicial do agente e no brain, nas regras que ele lê sempre. O resto fica liberado.
Um exemplo: o raspador de site
Um aluno se irritou com o modo que pedia autorização a cada passo enquanto montava um raspador de site, um agente que coleta informação de páginas. Cada leitura de página, cada arquivo salvo, uma aprovação.
Nenhuma dessas aprovações protegia de nada. O risco real era outro: o agente entrar em repetição, bater no site sem parar e o endereço dele ser bloqueado. Esse risco não aparece em nenhuma pergunta de permissão.
O conserto foi colocar esse risco como regra na instrução: limite de requisições, pausa entre leituras, parar se der erro seguido. Com isso, deu para desligar as aprovações e deixar o agente trabalhar.
Quando algo arriscado acontecer
Nenhuma lista de limites cobre tudo. Em algum momento o agente vai fazer algo que você não queria. A reação certa é dizer a ele que aquilo foi arriscado e mandar ajustar a instrução.
Assim o guardrail cresce com o uso. Cada susto vira uma regra, e a regra vale dali em diante, para aquele agente e para os outros que leem o mesmo brain. Você não precisa prever tudo no primeiro dia.
Em processo profissional
Em processo de empresa, a lógica é a mesma, com mais rigor. O especialista da área define o que a IA não pode fazer nem olhar. Por exemplo, quem cuida do financeiro diz quais dados ficam fora e quais ações nunca são automáticas.
O humano entra em pontos marcados do fluxo, só para conferir e liberar a etapa seguinte. Ele não aprova cada passo; aprova a passagem de uma etapa para a outra. Isso mantém o controle onde importa sem transformar a pessoa em carimbador de ação trivial.
Um roteiro curto:
- liste os riscos reais do processo, com o especialista da área;
- transforme cada risco em regra escrita na instrução;
- marque os pontos do fluxo onde um humano confere;
- desligue as aprovações de ações sem risco;
- a cada susto, ajuste a regra.
Repare que esses limites tratam de consequência: dinheiro que sai, custo que cresce sem parar, ação que não tem volta. É nesses pontos que a atenção humana vale. Para o resto, o custo de aprovar cada passo é maior do que o risco de deixar passar.
Perguntas frequentes
Devo aprovar cada ação do agente de IA?
Não. Aprovar ações sem risco cansa e faz você aprovar sem ler. Defina os limites reais na instrução e libere o resto.
Quais guardrails todo agente de IA deveria ter?
Não mexer com dinheiro, não entrar em repetição infinita, não gastar token sem fim e avisar antes de ação arriscada.
Onde o humano entra em um processo com agente de IA?
Em pontos marcados do fluxo, para conferir e liberar a etapa seguinte. O especialista da área define antes o que a IA não pode fazer nem olhar.