Segurança ao usar IA: o risco pessoal e o risco da empresa
Por Pedro Mafra Mendes · 3 min de leitura
No uso pessoal de IA, o risco é seu e dá para aceitar com limites: dinheiro fora, arquivos principais em três lugares e dados fora do treinamento. Na empresa, o que muda é a necessidade de conhecimento técnico de segurança da informação: permissão mínima, acesso quase sempre de leitura e limites técnicos, porque a IA multiplica a escala do erro.
Como limitar o risco no uso pessoal
No pessoal, aceito risco para seguir em frente. Mas com limites que defino antes:
- dinheiro fica fora: a IA pode montar uma compra até a tela de pagamento, e para ali;
- os arquivos principais ficam em três lugares, para que nenhum erro apague o que importa;
- na configuração da ferramenta, desmarco o uso dos meus dados para treinamento.
Se um dia eu quiser que um agente pague contas, a regra é limitar o estrago possível antes de começar. Uma conta separada, sem cheque especial e com saldo máximo baixo. Se der errado, o prejuízo tem teto.
O plano empresa das ferramentas de IA traz em contrato o compromisso de não usar os seus dados para treinamento. Para quem trabalha com informação de terceiros, esse é o mínimo.
Escolher a ferramenta é escolher o grau de liberdade
Pouca gente percebe que a escolha da ferramenta já define o risco. As mesmas IAs aparecem em formatos diferentes, com liberdades diferentes:
- a versão web conversa com você e não mexe no seu computador;
- a versão de desktop trabalha em uma cópia da pasta que você libera;
- o terminal dá liberdade total: lê, escreve, executa e apaga.
Para quem está começando, a versão web ou a de desktop já resolve muita coisa com risco baixo. O terminal é para quem já entende o que está liberando.
O que muda quando a IA entra na empresa
Na empresa, o ponto central deixa de ser a IA e passa a ser segurança da informação. Esse é um conhecimento técnico, e pede um especialista. O dono do negócio não precisa saber configurar tudo, mas precisa saber que alguém com esse conhecimento tem que estar envolvido.
Os princípios são os mesmos de qualquer sistema:
- o acesso aos dados segue as permissões de quem usa: se a pessoa não podia ver a folha de pagamento, a IA dela também não pode;
- a integração libera só o que a IA precisa fazer, e quase sempre isso é leitura;
- escrita, envio e exclusão entram só onde há motivo claro e com controle.
O problema é a escala
O que a IA muda de verdade é a escala do erro. Um analista que já podia fazer besteira fazia uma de cada vez. Com um agente, a mesma pessoa pode disparar milhões de chamadas em minutos.
Por isso entram limites técnicos, que não dependem de ninguém lembrar. O exemplo mais simples: limite de e-mails por minuto. Se um agente começar a mandar mais do que uns cinco e-mails por minuto, o sistema deve bloquear o envio na hora. O mesmo raciocínio vale para gasto em mídia, alteração de preço e cadastro de produto.
E fica uma regra de responsabilidade: quem coloca o agente para funcionar responde por ele.
Casos que mostram o tamanho do risco
Já vi marca ter a conta invadida e o invasor programar gasto em mídia paga levando o tráfego para o site dele. Não foi IA, mas mostra o que acontece quando um acesso com poder de gastar fica sem limite.
Em um caso conhecido no exterior, o robô de atendimento de uma companhia aérea prometeu a um cliente um reembolso retroativo por luto que não estava na política. A empresa foi processada e não convenceu ao alegar que o robô era "uma entidade separada". O que o agente promete em nome da empresa é responsabilidade da empresa.
Perguntas frequentes
Como usar IA com segurança no dia a dia pessoal?
Deixe dinheiro fora do alcance dos agentes, mantenha os arquivos principais em três lugares e desligue o uso dos seus dados para treinamento. Se um agente for mexer em pagamento, use uma conta separada com saldo baixo.
Quem deve cuidar da segurança da IA na empresa?
Alguém com conhecimento técnico de segurança da informação. O acesso da IA deve seguir as permissões de quem usa e ficar, quase sempre, só em leitura.
Que limite técnico colocar em um agente de IA da empresa?
Limites de volume que bloqueiam sozinhos, como um teto de e-mails por minuto. Eles protegem contra o erro em escala, que é o risco novo que a IA traz.