A inteligência artificial depende cada vez mais de dados para ser desenvolvida e utilizada em aplicações corporativas. Ao mesmo tempo, empresas brasileiras incorporam modelos desenvolvidos por companhias estrangeiras e passam a utilizar agentes capazes de acessar bases externas, consultar sistemas e executar tarefas. Nesse cenário, uma das principais questões para as organizações é como proteger as informações utilizadas por essas tecnologias e definir exatamente quais dados cada aplicação pode acessar.
Para o Head de IA da Zucchetti Latam, Gabriel Garcia, um dos caminhos é criar uma camada de segurança entre os dados da empresa e os diferentes modelos de inteligência artificial. Na Zucchetti, um gateway de segurança intermedeia essas interações. Antes do envio, a estrutura identifica e trata dados pessoais, como CPF e endereço, além de registrar como as informações entram e são processadas. “Um modelo de IA dos Estados Unidos ou da China nunca tem acesso ao CPF de um usuário nosso, por exemplo, porque a gente tokeniza isso”, afirma Garcia. Assim, o modelo recebe o que precisa para executar a tarefa, sem ter acesso ao dado original.
Ainda de acordo com Garcia, a estrutura também permite rastrear o que é trafegado e aplicar guard rails aos agentes de IA, estabelecendo limites para ações como consulta e escrita de informações. A proposta é permitir o uso de diferentes modelos e ferramentas sem abrir mão de mecanismos próprios de proteção e governança dos dados.
Definir o que a IA pode acessar
A definição dos dados que podem ser acessados pela IA também é um dos pontos centrais para reduzir riscos. De acordo com o Diretor Técnico da Urmobo, Vinicius Oliverio, soluções de IA com acesso direto a bases de dados externas ampliam riscos como acesso indevido a informações sensíveis, vazamento de dados, permissões excessivas e comprometimento de credenciais.
No caso de agentes de IA, ataques como prompt injection também podem induzir acessos ou ações não autorizadas. Por isso, a anonimização, isoladamente, não é suficiente: a proteção deve combinar criptografia, controle de acesso, princípio do menor privilégio, gestão segura de credenciais e monitoramento.
Para Oliverio, a rastreabilidade é um dos pontos centrais dessa estratégia. “Cada interação relevante deve permitir identificar quem iniciou a operação, qual aplicação ou agente realizou o acesso, quais recursos foram consultados e qual ação foi executada.” Além de logs e trilhas de auditoria, o executivo recomenda separar ações de consulta das de execução, exigindo autorização adicional ou aprovação humana para operações críticas, como alteração ou exclusão de dados, movimentações financeiras e mudanças de configuração.
Na mesma linha, o consultor de Segurança da Informação do Grupo OSTEC, Willian Pandini, destaca que o uso de dados de clientes e o acesso de agentes de IA a bases externas envolvem riscos de exposição de informações e acessos não autorizados. O executivo ressalta a importância do monitoramento contínuo e da preparação das empresas antes de colocar soluções de IA em produção. “É importante manter registros de quais sistemas e dados são acessados, por qual agente, em que momento e para qual finalidade. Esses registros devem permitir identificar comportamentos fora do padrão, como consultas excessivas ou tentativas de acessar informações não autorizadas. O monitoramento precisa ser contínuo e acompanhado de alertas e procedimentos para interromper acessos suspeitos e investigar possíveis incidentes. Ferramentas de ‘AI Access Security’ fornecem visibilidade profunda e controle preciso do uso da IA e podem ser um facilitador no processo de gestão e monitoramento”.
Para o CTO da Clínica Experts, Christian Bayer, a definição de quais informações realmente são necessárias para cada aplicação também deve fazer parte dessa estratégia. No setor de saúde, em que parte dos dados possui um nível elevado de sensibilidade, o cuidado é ainda maior. “Como atuamos no segmento de saúde, parte dessas informações pode ter um nível elevado de sensibilidade. Por isso, trabalhamos com o princípio da minimização: a IA deve ter acesso somente ao dado necessário para executar determinada função. Quando uma informação ou regra pode ser processada de maneira determinística, com regras tradicionais de software, essa tende a ser a abordagem mais segura e previsível”.
O executivo destaca ainda que o avanço dos agentes de IA amplia a necessidade de controle sobre permissões e autonomia. “Uma IA não deveria ter acesso irrestrito às informações disponíveis apenas porque tecnicamente seria possível fornecê-las. Ela precisa respeitar as mesmas alçadas de acesso e regras de autorização aplicadas a qualquer outro usuário ou sistema. No caso de agentes que executam ações, esse cuidado é ainda maior, com escopos de permissão, limites de autonomia e aprovação humana para operações mais sensíveis”, explica Bayer.
Segurança precisa fazer parte do desenvolvimento
Para Christian Hart, COO da Orbit, startup de IA para gestão empresarial que integra o ecossistema da Atomic Group, segurança e privacidade precisam fazer parte do desenvolvimento das soluções. “Temos um parceiro que nos audita e realiza testes de invasão quinzenalmente. Ao final de cada ciclo, temos um novo plano de avanço em termos de maturidade do nosso sistema de gestão de segurança da informação e privacidade”, explica.
Hart destaca que entre as boas práticas da Orbit estão o cumprimento de frameworks internacionais especializados, como a ISO 27001/27701, além dos testes frequentes. “E também criar no time a cultura de segurança da informação e privacidade acima da própria performance do software. Ainda, entender que a IA é meio, e não fim. Por isso, optamos por um time enxuto e sênior, que é potencializado pela IA e não guiado por ela”, conclui.
Para Daniel Torres, CEO da Roboteasy, empresa brasileira de hiperautomação, a chegada da IA aos processos corporativos mudou o ponto de atenção da segurança: o risco saiu de onde o dado fica armazenado e passou também para o caminho que ele percorre.
“Quando você automatiza um processo financeiro, o robô ganha acesso temporário a dados que nenhuma pessoa daquela área teria. Esse acesso dura segundos, não aparece em nenhum organograma e, na maioria das empresas, não é auditado. É exatamente aí que mora o risco.”
Segundo o executivo, o que separa automação com e sem governança é a capacidade de responder a três perguntas a qualquer momento. “O que está rodando? Quais dados está acessando? E com qual permissão? Quem não responde isso não tem automação, tem passivo. E é comum: dezenas de fluxos criados por áreas diferentes, em no-code ou Python, sem que ninguém saiba quem autorizou o quê. Rastreabilidade e controle de acesso não são diferencial técnico, são requisito operacional para trabalhar com dado corporativo crítico.”
O desafio do uso de IA sem controle
Outro ponto de atenção é o chamado Shadow AI. Segundo Edmee Moreira, cofundador e CEO da Runflow, plataforma enterprise de agentes de IA corporativos, atualmente qualquer área de uma empresa consegue contratar e começar a usar uma ferramenta de IA em poucos minutos. O problema começa quando a área de tecnologia não sabe que ferramenta está sendo usada, quais informações da empresa foram compartilhadas e o que aquela IA pode fazer. “Uma equipe pode conectar uma ferramenta aos dados de clientes para ganhar produtividade, mas, sem as regras adequadas, a empresa perde a capacidade de controlar como essas informações são acessadas e utilizadas”, afirma.
Para Moreira, a segurança precisa fazer parte do projeto desde o começo, e não aparecer apenas depois que a solução já está funcionando. “Antes de colocar um agente de IA para trabalhar, a empresa precisa definir quais informações ele pode acessar, o que pode fazer sozinho, quando precisa da aprovação de uma pessoa e como suas ações serão registradas.” Em processos que envolvem dados sensíveis, a tecnologia também pode operar dentro do ambiente da própria empresa, reduzindo a exposição das informações.
