P. Mafra MendesConversar

Governança de IA na empresa pequena: faróis, limites e pouca regra

Por Pedro Mafra Mendes · 3 min de leitura

Governança de IA depende do tamanho. No brain da empresa, conversa de dois analistas não pode virar processo oficial sem alguém separar decisões e mandar para quem tem alçada. Em empresa pequena, prefiro restrição mínima e regras de farol: vermelho para dinheiro e mensagem externa, amarelo para fazer e avisar, verde para fazer direto.

Por que o brain da empresa precisa de governança

No brain pessoal, o que entra é seu e ninguém precisa aprovar. No da empresa, a lógica muda. Dois analistas conversando sobre um processo podem chegar a uma ideia boa, mas essa ideia ainda não é o processo oficial. Alguém, ou um agente, precisa separar o que foi decidido, ver quem tem alçada para aprovar e mandar para essa pessoa.

Sem isso, o brain da empresa vira uma mistura de opinião com regra, e a IA passa a tratar tudo como verdade.

Testei juntar sem filtro o brain de uma pessoa com o de outra. A IA cruza o que não devia e fica maluca: mistura contexto pessoal com dado da empresa, puxa uma conversa privada para responder uma pergunta de trabalho.

Níveis de sigilo em cada nota

O desenho que imagino é cada nota com um nível de sigilo:

  • pessoal;
  • corporativo;
  • estratégico;
  • sigiloso.

Com filtros em cima desses níveis, a pessoa evolui o próprio brain sem levar o dado da empresa embora quando sai, e a IA de um analista não enxerga o que é estratégico. Ainda tenho dúvidas sobre esse desenho e sigo trabalhando nele. Quem disser que já resolveu isso de forma definitiva está vendendo.

Em empresa pequena, governança demais atrapalha

O outro lado da moeda: empresa pequena que copia a governança de banco não sai do lugar. Prefiro uma plataforma única com restrição mínima, deixar o problema aparecer e só então colocar a guarda. A IA anda rápido, e a empresa pequena precisa de um certo tom de ousadia para as coisas andarem.

As regras que o dono define são de farol:

  • vermelho: dinheiro e mensagem para fora da empresa, sempre com aprovação;
  • amarelo: faz e avisa depois;
  • verde: faz direto.

Agente que mexe com dinheiro ganha limite antes de tudo. Pense em uma conta sem cheque especial e com saldo máximo baixo. Se der errado, o estrago tem teto.

Na prática, isso vira uma lista curta que cabe em uma página. Coloco por escrito o que é vermelho, o que é amarelo e o que é verde, e cada agente novo nasce com essa lista no prompt. Quando aparece um caso que não estava previsto, ele entra na lista e o farol fica mais claro na próxima vez.

A IA muda o risco de segurança?

O acesso não muda. A IA herda as permissões de quem usa, e a API dos sistemas libera quase sempre só leitura. Se a pessoa não pode ver o salário do time, a IA dela também não pode.

O que muda é a escala. Uma pessoa manda dez e-mails em uma hora; um agente manda mil em um minuto. Por isso entram limites de volume, como um teto de e-mails por minuto.

Em empresa, a pergunta deixa de ser sobre IA e passa a ser sobre conhecimento técnico de segurança da informação. É o mesmo cuidado que você teria com qualquer sistema, aplicado a algo que trabalha muito mais rápido. Mesmo assim, o risco de não usar IA é maior que o de usar.

Como escalar o brain para o time inteiro

Muita gente me pergunta como escalar o brain para dez pessoas. Minha resposta: não pense nisso agora. Use muito primeiro, para entender os limites na prática. Quem desenha a governança antes de usar desenha para um problema imaginário.

Um cuidado que não pode faltar: troca de modelo em fluxo que já funciona pede teste de novo. O modelo novo pode fazer sozinho mais do que devia, como enviar algo que antes só deixava em rascunho.

Perguntas frequentes

Qual é a primeira regra de governança de IA em uma empresa pequena?

Dinheiro e mensagem para fora da empresa sempre passam por aprovação. O resto pode começar solto, com guarda colocada quando o problema aparecer.

A IA consegue acessar dado que o funcionário não acessa?

Não deveria. A IA herda as permissões de quem a usa, então o controle de acesso continua sendo o dos sistemas da empresa.

Preciso testar de novo quando trocar o modelo de IA?

Sim. Um modelo novo pode agir mais por conta própria do que o anterior, então todo fluxo que já funcionava precisa ser conferido de novo.

Leia também