Excelência na prestação de serviços.

Home
Blog
Tecnologia
IA na empresa: como testar automações antes de escalar o uso

IA na empresa: como testar automações antes de escalar o uso

20 Agosto 2026 Tecnologia

Sua empresa está testando a IA antes de colocá-la para trabalhar em escala?

Sandbox da ANPD reforça uma lição prática para os negócios: automações com inteligência artificial precisam ser testadas em ambiente controlado antes de ganhar acesso amplo a dados, sistemas e decisões

Por Cleiton Celini e Gledson Alves, sócios e contadores da AUDICONT Contabilidade

Uma empresa decide automatizar o atendimento a clientes com inteligência artificial. O teste inicial funciona. A ferramenta responde rapidamente, resume informações e reduz parte do trabalho manual.

Em poucos dias surge a ideia de ampliar o uso: conectar o sistema ao CRM, liberar acesso a documentos, permitir consulta a dados financeiros e automatizar algumas ações que antes dependiam de pessoas.

É nesse momento que a pergunta deixa de ser apenas se a inteligência artificial funciona.

A questão passa a ser outra: a empresa sabe o que acontecerá quando essa ferramenta tiver acesso a dados reais, usuários reais e processos que produzem consequências financeiras, contratuais ou operacionais?

A Autoridade Nacional de Proteção de Dados vem testando essa lógica em seu Sandbox Regulatório de Inteligência Artificial. No projeto-piloto, empresas desenvolvem soluções em ambiente experimental, controlado e supervisionado, enquanto são observados desafios de governança, segurança, transparência e proteção de dados pessoais. Em julho, o primeiro relatório parcial indicou pontos que ainda precisavam ser aprimorados. Em 13 de agosto, a ANPD realizou uma consulta multissetorial para ampliar a avaliação do projeto.

A experiência regulatória não significa que toda empresa precise montar um laboratório formal para usar IA. Mas traz uma lição útil para qualquer negócio: quanto maior a autonomia concedida à tecnologia, mais importante se torna testar antes de escalar.

O primeiro teste não deveria perguntar apenas se a IA acerta

Quando uma ferramenta de inteligência artificial é avaliada, a atenção costuma se concentrar na qualidade da resposta.

Ela resumiu corretamente o documento? Criou o texto esperado? Classificou o cliente de forma adequada? Encontrou a informação necessária?

Essas perguntas são importantes, mas não suficientes.

Um teste empresarial precisa observar também o comportamento do sistema quando:

• recebe informação incompleta ou contraditória;

• não encontra resposta segura;

• é exposto a dados pessoais ou confidenciais;

• recebe instrução fora do processo previsto;

• interage com outra ferramenta;

• produz uma resposta errada com aparência convincente;

• é utilizado por alguém que desconhece seus limites.

A ferramenta não precisa falhar o tempo todo para representar risco. Em muitos processos, basta um erro específico atingir uma operação relevante.

A IA pode funcionar bem e ainda estar inserida no processo errado

Uma automação pode executar exatamente aquilo que foi solicitado e, mesmo assim, produzir um resultado inadequado para a empresa.

Imagine uma IA autorizada a resumir contratos. Tecnicamente, a tarefa pode ser realizada com qualidade. Mas outras perguntas continuam abertas:

• quais documentos podem ser enviados para a ferramenta?

• existem informações confidenciais ou dados pessoais?

• quem revisa o resumo antes de ele orientar uma decisão?

• o texto gerado será tratado como apoio ou como conclusão definitiva?

• onde o conteúdo fica armazenado?

• o fornecedor utiliza os dados para outras finalidades?

O risco não está apenas no modelo. Está no desenho do processo ao redor dele.

Esse cuidado também vale para ferramentas utilizadas informalmente pelas equipes. Quando funcionários começam a enviar documentos, planilhas, contratos ou informações de clientes para serviços de IA sem uma regra corporativa, a empresa pode ganhar produtividade e perder visibilidade sobre onde seus dados estão circulando.

Testar com dados fictícios reduz risco, mas não revela tudo

Uma fase inicial pode utilizar informações sintéticas ou exemplos fictícios para verificar funcionalidades sem expor dados reais.

Essa abordagem ajuda a identificar erros de lógica, integrações quebradas e respostas inadequadas. Mas não substitui completamente testes mais próximos do cenário de uso.

O primeiro relatório do Sandbox Regulatório da ANPD indicou, entre outros pontos, a necessidade de aprimorar protocolos relacionados a dados sintéticos e reforçar aspectos de comunicação, governança e produção de evidências.

Para empresas, isso mostra que o teste precisa evoluir por etapas.

Uma possível sequência é:

• começar com dados fictícios e tarefas de baixo impacto;

• validar regras, respostas e limites;

• restringir acessos e permissões;

• testar com amostra controlada de situações reais quando houver base e segurança para isso;

• registrar erros e exceções;

• definir revisão humana;

• só depois ampliar usuários, integrações e volume.

A velocidade de expansão não deveria ser maior do que a capacidade de compreender o que a automação está fazendo.

Permissão é uma das decisões mais importantes

Uma ferramenta que apenas sugere um texto possui um nível de risco. Uma ferramenta que consegue acessar sistemas, consultar dados, enviar mensagens, alterar registros ou acionar outras aplicações possui outro.

À medida que a IA ganha autonomia, permissões passam a ser tão importantes quanto a qualidade do modelo.

Antes de conectar uma solução a sistemas internos, a empresa precisa saber:

• quais informações ela poderá consultar;

• quais registros poderá alterar;

• quais sistemas poderá acionar;

• se consegue executar ações sem aprovação;

• como seu acesso será revogado;

• quais registros de atividade ficarão disponíveis.

A discussão se aproxima dos mesmos controles usados para gestão de acessos e rastreabilidade: conceder apenas o necessário, identificar quem ou o que realizou cada ação e manter capacidade de revogação.

IA conectada a outras ferramentas aumenta o número de pontos que precisam ser testados

Uma solução de inteligência artificial pode depender de diferentes fornecedores e serviços para funcionar.

Ela pode utilizar um modelo de IA de terceiro, infraestrutura em nuvem, banco de dados externo, ferramenta de busca, API, sistema financeiro, CRM ou outros agentes de software.

Quanto maior o número de conexões, maior a necessidade de saber onde um erro pode surgir e até onde ele pode se propagar.

Esse cuidado é semelhante ao necessário quando a empresa avalia um fornecedor de tecnologia que participa de processos críticos. Terceirizar a infraestrutura ou o modelo não elimina a responsabilidade de conhecer os riscos que chegam ao próprio negócio.

Um teste bem desenhado deve considerar não apenas o comportamento da IA, mas também o que acontece quando uma integração falha, uma API fica indisponível ou um fornecedor muda seu serviço.

Erro de IA não deveria virar automaticamente ação no sistema

Existe uma diferença relevante entre inteligência artificial que recomenda e inteligência artificial que executa.

Uma ferramenta pode sugerir uma classificação contábil, preparar uma resposta a cliente, identificar uma possível divergência ou propor um lançamento.

Outra situação é permitir que ela efetivamente altere cadastro, envie informação, aprove operação ou execute uma rotina sem revisão.

Quanto maior a consequência, maior deve ser a necessidade de controles intermediários.

Em tarefas críticas, podem ser utilizados mecanismos como:

• aprovação humana antes da execução;

• limites de valor;

• bloqueio para determinadas categorias de operação;

• trilha de auditoria;

• registro da informação que originou a decisão;

• possibilidade de reversão.

Automação eficiente não é aquela que elimina todas as pessoas do fluxo. É aquela que reduz trabalho repetitivo sem retirar controles necessários.

A empresa precisa testar também aquilo que a IA não deveria fazer

Testes tradicionais verificam se uma função funciona.

Com inteligência artificial, também é importante verificar se o sistema respeita limites.

Por exemplo:

• a ferramenta recusa uma instrução fora do escopo?

• um usuário sem permissão consegue acessar informação restrita?

• a IA revela dados de outro cliente?

• uma mensagem maliciosa consegue alterar seu comportamento?

• ela informa quando não possui dados suficientes?

• existe um caminho seguro quando o sistema não sabe responder?

Esse tipo de teste procura identificar falhas antes que elas apareçam em produção.

A própria evolução do sandbox da ANPD destaca a importância de segurança, transparência, governança de dados, anonimização e produção de evidências à medida que os testes avançam.

Transparência começa dentro da própria empresa

Não basta informar externamente que determinado serviço utiliza inteligência artificial se internamente ninguém sabe como ele funciona no processo.

A organização deveria conseguir explicar, em linguagem prática:

• qual é a finalidade da ferramenta;

• quais dados ela utiliza;

• quem pode usá-la;

• quais decisões ela apoia;

• quais ações consegue executar;

• quem revisa os resultados;

• como erros são tratados.

Essa documentação não precisa ser excessivamente técnica. Precisa ser suficiente para que gestores, responsáveis pelo processo e pessoas que controlam riscos entendam o que foi colocado em operação.

Dados pessoais exigem uma pergunta anterior: era necessário enviá-los?

Quando a IA trata dados pessoais, a análise não começa apenas pela segurança da plataforma.

Também é necessário avaliar finalidade, necessidade, base aplicável, acesso, retenção, compartilhamento e papel dos envolvidos.

Uma prática simples é verificar se a tarefa pode ser realizada sem enviar determinados dados.

Se um documento puder ser anonimizado ou reduzido antes do processamento, a exposição pode diminuir.

Quando a solução utiliza infraestrutura externa, também é importante compreender onde as informações são processadas e quais fornecedores participam do fluxo.

Essa preocupação se conecta ao cuidado de saber onde os dados da empresa realmente são processados quando serviços em nuvem são utilizados.

Teste controlado também precisa de critério para encerrar o teste

Nem toda iniciativa de inteligência artificial precisa chegar à produção.

Uma empresa pode descobrir durante os testes que:

• o ganho de produtividade é pequeno;

• a taxa de erro é incompatível com a atividade;

• o custo de revisão elimina a economia esperada;

• os dados necessários são excessivamente sensíveis;

• a integração cria dependência difícil de administrar;

• o fornecedor não oferece controles suficientes;

• a tarefa exige julgamento humano que não pode ser reduzido a uma automação.

Cancelar ou redesenhar uma iniciativa depois de um teste não significa fracasso.

Pode significar que o teste cumpriu exatamente sua função: descobrir o problema antes de ele ganhar escala.

Piloto bom precisa produzir evidência, não apenas entusiasmo

Demonstrações de inteligência artificial costumam impressionar porque mostram o melhor cenário.

O ambiente empresarial precisa medir algo diferente.

Antes de ampliar uma solução, a empresa pode acompanhar indicadores como:

• percentual de respostas que exigem correção;

• tempo efetivamente economizado;

• quantidade de exceções;

• erros por tipo de tarefa;

• incidentes de acesso ou uso inadequado;

• custo da ferramenta e da revisão humana;

• impacto no processo antes e depois da automação.

Sem indicadores, existe o risco de confundir novidade com produtividade.

Uma ferramenta pode parecer rápida e, ao mesmo tempo, gerar retrabalho que só aparece depois.

Pequenas empresas também podem testar IA de forma controlada

Ambiente controlado não significa laboratório sofisticado.

Uma pequena ou média empresa pode começar com regras simples:

• escolher uma tarefa específica;

• usar poucos usuários no início;

• não conceder acesso amplo aos sistemas;

• definir quais dados podem ser utilizados;

• exigir revisão humana;

• registrar erros;

• avaliar o resultado após um período;

• ampliar apenas quando os controles estiverem claros.

A proporcionalidade é importante. O teste de uma ferramenta que ajuda a revisar um texto possui exigências diferentes de uma automação com acesso ao financeiro ou a dados de clientes.

O maior risco aparece quando a automação cresce mais rápido do que a governança

Ferramentas de inteligência artificial podem começar de forma pequena e ganhar espaço rapidamente.

Um recurso utilizado por uma pessoa passa a ser adotado pelo departamento. Depois recebe uma integração. Em seguida ganha acesso a documentos. Mais tarde passa a executar tarefas.

Se cada expansão ocorrer sem uma nova avaliação, o risco também cresce sem ser percebido.

Por isso, cada mudança relevante deveria provocar uma nova pergunta: o controle que era suficiente para o estágio anterior continua suficiente agora?

Na avaliação de Cleiton Celini e Gledson Alves, sócios e contadores da AUDICONT Contabilidade, a adoção de inteligência artificial precisa ser acompanhada pela mesma disciplina aplicada a qualquer processo que possa afetar dados, dinheiro, clientes ou registros da empresa.

“A inteligência artificial pode produzir ganho relevante de produtividade, mas a decisão de ampliar seu uso não deveria se apoiar apenas em uma demonstração que funcionou bem. Antes de escalar, a empresa precisa entender quais dados entram, quais ações a ferramenta consegue executar, quem revisa o resultado e como um erro será identificado e corrigido.”

Oito perguntas antes de ampliar uma ferramenta de IA

1. Qual problema empresarial a ferramenta realmente resolve?

2. Quais dados serão enviados ou acessados?

3. Quais sistemas poderão ser consultados ou alterados?

4. Quais erros já apareceram durante o teste?

5. Quem revisa decisões ou respostas relevantes?

6. Existe registro das ações realizadas?

7. O que acontece se a ferramenta ou o fornecedor ficar indisponível?

8. Quais critérios precisam ser atendidos antes de ampliar usuários, dados ou autonomia?

Responder a essas perguntas não elimina todos os riscos. Mas ajuda a impedir que uma automação experimental se transforme em processo crítico antes que a empresa esteja preparada.

FAQ

1. O que é um sandbox regulatório de inteligência artificial?

É um ambiente experimental e supervisionado em que soluções podem ser testadas sob condições controladas, permitindo observar riscos, desafios e medidas de governança antes de uma aplicação mais ampla.

2. Toda empresa precisa criar um sandbox para usar IA?

Não. O conceito pode ser aplicado de forma proporcional. Pequenas empresas podem testar uma ferramenta com poucos usuários, dados limitados, permissões restritas e revisão humana antes de ampliar o uso.

3. Por que testar IA antes de integrar com sistemas internos?

Porque uma integração pode permitir que a ferramenta consulte dados, altere registros ou acione outros sistemas. O impacto de um erro aumenta conforme cresce o nível de acesso e autonomia.

4. Dados fictícios são suficientes para testar uma IA?

São úteis nas etapas iniciais, especialmente para reduzir exposição, mas podem não reproduzir todas as situações reais. Os testes precisam evoluir de forma controlada conforme a solução se aproxima do uso efetivo.

5. Toda resposta de IA precisa de revisão humana?

O nível de revisão deve acompanhar o risco da tarefa. Conteúdos de baixo impacto podem admitir controles mais simples, enquanto decisões financeiras, contratuais, fiscais ou relacionadas a dados pessoais exigem maior supervisão.

6. Como saber se uma ferramenta de IA está pronta para ser ampliada?

A empresa deve observar qualidade, taxa de erro, segurança, permissões, dados utilizados, capacidade de recuperação, revisão humana e evidências de ganho real de produtividade antes de ampliar usuários ou autonomia.