Ao utilizar este site, você concorda com a nossa política de privacidade e termos de uso.
Aceitar
starten.techstarten.techstarten.tech
Redimensionador de fontesAa
  • hubs
  • notícias
  • oportunidades
  • carreira
  • colunistas
  • artigos
Leitura: Inteligência artificial também precisa passar no teste
compartilhar
Redimensionador de fontesAa
starten.techstarten.tech
  • hubs
  • notícias
  • oportunidades
  • carreira
  • colunistas
  • artigos
pesquisar
  • quem somos
  • manifesto
  • contato
siga starten.tech>
2023 © starten.tech. Todos os direitos reservados.
starten.tech > notícias > artigos > Inteligência artificial também precisa passar no teste
artigos

Inteligência artificial também precisa passar no teste

Newton Moraes
Última atualização: 18/11/2026 15:01
Newton Moraes - professor e especialista em LGPD
compartilhar
compartilhar

Um equipamento médico precisa demonstrar segurança antes de chegar ao paciente. Um automóvel passa por testes antes de circular. Produtos elétricos são submetidos a verificações para reduzir riscos. Entretanto, sistemas de inteligência artificial capazes de influenciar diagnósticos, selecionar profissionais e orientar decisões importantes ainda são utilizados sem que seus limites sejam suficientemente compreendidos e, mais grave, sem avaliação consistente dos impactos sobre as pessoas afetadas.

Assim como ocorre com outras tecnologias, é necessário avaliar como a IA se comporta diante de situações inesperadas, informações incompletas, tentativas de manipulação, vieses discriminatórios e ataques por comandos maliciosos, conhecidos como prompt injections. Sobretudo, é preciso definir quem responde quando algo dá errado.

Para empresas e gestores públicos, a questão já tem consequências práticas. Contratar uma solução de IA não pode significar apenas comparar preços, funcionalidades e promessas comerciais. É preciso exigir evidências de segurança, conhecer limitações, estabelecer responsabilidades e documentar testes e medidas adotadas. Não basta afirmar que houve cuidado: é necessário demonstrar que os riscos foram identificados, avaliados e mitigados.

Isso não exige segurança absoluta, promessa impossível em qualquer tecnologia. Exige diligência proporcional aos riscos, sem sufocar a inovação. Critérios claros podem fortalecer a confiança, estimular investimentos e valorizar quem desenvolve soluções responsáveis, preservando a organização de prejuízos com a perda de dados, documentos, contratos, fórmulas, segredos de negócio e do pagamento de indenizações.

A inteligência artificial continuará surpreendendo pela velocidade com que aprende, produz e transforma atividades. Mas o verdadeiro sinal de maturidade tecnológica não será aquilo que ela promete fazer. Será aquilo que consegue demonstrar que faz, com segurança.

TAGS:opinião
Por Newton Moraes professor e especialista em LGPD
Newton Moraes é advogado e professor de Direito Constitucional da FTEC, em Porto Alegre. Mestre em Direito e especialista em Proteção de Dados pela Universidade de Coimbra, em Portugal, atuou como Encarregado-Geral pela Proteção de Dados do município de Porto Alegre. Atualmente, é consultor da DPOfficer Brazil, com atuação em LGPD e governança de dados.
Deixe um comentário

Deixe um comentário Cancelar resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

últimas notícias

IA na Black Friday: Prompts e dicas para encontrar as melhores promoções usando as principais ferramentas
Tags: tecnologia
Com R$ 2 bilhões em valuation acumulado, 49 educação opera infraestrutura tecnológica de programas como Prêmio Sebrae Startups
Tags: tecnologia
Porto Alegre recebe MATE Festival e reúne artistas de Portugal e do Rio Grande do Sul 
Tags: tecnologia
Sua operação já está em freezing para a Black Friday?
Tags: opinião
Startups aceleradas pelo BRDE Labs RS participam de rodada de negócios
Tags: startups

notícias relacionadas

artigos

Sua operação já está em freezing para a Black Friday?

5 Min leitura
artigos

A Teoria das Restrições e os agentes de IA: como romper gargalos e escalar negócios na prática 

3 Min leitura
artigos

Uma reflexão sobre o papel da comunicação

6 Min leitura
artigos

O Desafio das Marcas na Era da IA: Como Transformar Montanhas de Dados em Inteligência de Negócio

5 Min leitura

editorial

starten.tech: jornalismo digital que traduz o dinamismo local para o contexto global de inovação, startups e tecnologia.

🏆vencedor do Brasil Publisher Awards 2024 na categoria “Melhor site de Tecnologia”.

sugira uma pauta

(51) 99990-3536
[email protected]

tags

agtech artigos carreira colunistas cursos editais edtech especial eventos femtech fintech foodtech geek govtech healthtech hubs lawtech legaltech logtech oportunidades Sem categoria tech vagas

cadastre-se

starten.techstarten.tech
siga starten.tech>
2024 © starten.tech. Todos os direitos reservados.
  • quem somos
  • contato
  • política de privacidade
  • termos de uso
Vá para versão mobile
Welcome Back!

Sign in to your account

Perdeu sua senha?