A inteligência artificial passou de inovação pontual a ferramenta presente na rotina de grande parte das empresas. Segundo o relatório The State of AI, da McKinsey & Company, 88% das organizações já utilizam a tecnologia em pelo menos uma função de negócio. Em muitos casos, porém, a adoção ocorre antes da definição de políticas e controles internos, o que pode aumentar riscos relacionados à segurança e ao uso de dados.
Um relatório da Gartner, uma das maiores e mais respeitadas empresas de consultoria no setor de tecnologia e negócio, estima que, até 2027, mais de 40% das violações de dados relacionadas à inteligência artificial terão origem no uso indevido de ferramentas de IA generativa. Para o CEO da Triven, Fernando Trota, boa parte desses problemas nasce ainda no início da adoção, antes de a empresa ter clareza sobre regras de uso, automação e proteção de dados.
“Muitas empresas adotaram a inteligência artificial antes de criar mecanismos para administrá-la. O resultado é que a inovação avança mais rápido do que a proteção dos dados”, afirma o executivo.
Além disso, Trota destaca que os problemas mais recorrentes não estão necessariamente na tecnologia em si, mas na forma como ela é implementada e utilizada dentro das organizações. A seguir, o especialista destaca os quatro erros mais comuns observados durante a adoção da IA nas empresas.
1. Liberar o uso da IA sem definir regras
Permitir que colaboradores usem ferramentas de IA sem diretrizes sobre quais informações podem ser compartilhadas é um dos equívocos mais comuns. Na prática, dados de clientes, contratos, relatórios financeiros e documentos internos acabam inseridos em plataformas digitais sem critérios claros de segurança.
De acordo com Fernando, esse cenário é especialmente sensível em áreas financeiras, onde a exposição indevida de informações pode gerar impactos operacionais, jurídicos e reputacionais.
2. Acreditar que a tecnologia resolve problemas de gestão
“Imaginar que a inteligência artificial, sozinha, vai corrigir falhas de processos ou compensar dados desorganizados é outro erro recorrente”, aponta. Embora 64% das empresas afirmem que a tecnologia impulsiona a inovação, apenas entre 5% e 6% conseguem obter retorno financeiro significativo sobre os investimentos realizados, segundo o Gartner. O dado reforça que ganhos consistentes dependem da qualidade dos dados, da integração aos processos internos e da definição de objetivos claros.
3. Substituir supervisão por automação
A busca por eficiência leva muitas organizações a automatizar atividades sensíveis sem criar mecanismos de validação. Para Fernando Trota, esse é um dos riscos mais relevantes quando a tecnologia passa a apoiar processos financeiros e administrativos.
Por isso, a empresa mantém supervisão humana em operações críticas: a automação é usada apenas em etapas de menor risco, enquanto validações e autorizações permanecem sob responsabilidade das equipes.
“Nos processos críticos, mantemos sempre a validação humana. A tecnologia deve ampliar a capacidade das pessoas, não substituir os mecanismos de controle”, explica o CEO.
4. Tratar segurança como uma etapa posterior
Casos recentes mostram que os riscos não são apenas teóricos. A startup chinesa DeepSeek teve um banco de dados exposto devido a uma configuração inadequada, tornando públicos históricos de conversas, metadados operacionais e chaves de API.
Para o executivo, situações como essa mostram que segurança, compliance e gestão de riscos precisam fazer parte da estratégia desde o início da implementação.
“Antes de qualquer implementação, é preciso definir quais dados podem circular, quem terá acesso e como essas interações serão monitoradas. Sem essa estrutura, o potencial da tecnologia pode ser comprometido pelos próprios riscos que ela cria”, conclui.
Sobre a Triven
A Triven é uma empresa de serviços de backoffice que fornece tecnologia e consultoria para apoiar startups e negócios da nova economia na tomada de decisões estratégicas. Atua por meio de cinco verticais: gestão estratégica financeira, gestão estratégica de pessoas, consultoria financeira, gestão de portfólio para fundos de Venture Capital e plataforma AI based de inteligência financeira.
