Seguimos no AI Experience Brasil, em São Paulo, neste 29 de outubro. Depois de um painel sobre os limites éticos da tecnologia, acompanhamos uma conversa bem mais pé no chão, focada no que acontece quando um agente de IA erra diante de clientes, de quem investe ou do mercado.
O painel reuniu Felipe Bazon, Founder e CSO da hedgehog, e Felipe Bannitz, CEO da Mandu Inovação Social, com mediação de Abraão Sena, Partner da Triven. Logo no início, Abraão resumiu o tom da conversa: a parte tecnológica é o menor dos problemas. O desafio de verdade está nas pessoas, na responsabilidade e nas conversas difíceis que a IA obriga as empresas a ter.
Para CHROs e lideranças de RH, o recado foi direto. Boa parte das falhas de IA nasce de lacunas de gestão, treinamento e governança, temas que estão no centro da agenda de pessoas.
Se a IA errou, alguém deu a ordem errada
Felipe Bazon foi categórico ao afirmar que, quando a IA erra, a responsabilidade é de quem a comandou. Ele lembrou uma expressão antiga da tecnologia, garbage in, garbage out: a qualidade da resposta acompanha a qualidade do que entra. Pedir “crie um site” ou “escreva um artigo” sem dizer em nome de quem, para quem e com qual visão é garantia de resultado fraco.
Abraão trouxe um exemplo que muitas lideranças vão reconhecer: relatórios gerados por IA e enviados sem revisão de uma vírgula sequer, até que alguém, do outro lado, percebe que os números não fecham entre si.
Para o RH: a falha que aparece no relatório começa na formação. Antes de liberar ferramentas, vale investir em letramento em IA que vá além do “como usar” e desenvolva senso crítico, capacidade de contextualizar pedidos e hábito de revisar o que a máquina entrega.
Playbooks antes de agentes
Um dos pontos mais práticos do painel veio de Bazon: muita gente pega processos soltos, joga tudo numa IA e pede que ela crie agentes a partir disso. Para ele, o caminho é transformar processos em playbooks, documentos que explicam o passo a passo, o contexto e os critérios de decisão. Ao revisar os processos da própria agência com apoio da IA, ele descobriu lacunas que nem sabia que existiam, e só depois disso os agentes passaram a funcionar bem.
Para o RH: quem lidera pessoas conhece bem esse problema. Muito do conhecimento das empresas vive na cabeça de quem executa. Documentar rotinas, critérios e exceções em playbooks fortalece a IA e também a gestão do conhecimento, o onboarding e os planos de sucessão.
Human in the loop, com hora marcada para entrar
Felipe Bannitz defendeu que, pelo menos nos próximos anos, nenhum processo relevante deve rodar sem uma pessoa no circuito. E acrescentou um detalhe importante: é preciso saber exatamente em quais momentos essa pessoa entra.
Ele ilustrou o risco com um caso que circulou no setor aéreo. Um agente de atendimento informou a um cliente que havia um desconto de luto de 50% na passagem. Quando o cliente tentou usar o benefício, descobriu que ele nunca existiu. O agente simplesmente inventou a política.
Para o RH: em recrutamento, atendimento a pessoas colaboradoras, comunicação de benefícios ou dúvidas sobre políticas internas, uma resposta errada da IA vira uma promessa da empresa. Definir as etapas em que a revisão humana é obrigatória precisa fazer parte do desenho de qualquer agente voltado para pessoas.
Testar antes de expor
Bannitz foi enfático: blindagem total não existe. O que existe é reduzir o impacto. Antes de lançar qualquer agente para o público, ele recomenda testes de estresse, revisão cruzada entre agentes e testes com pessoas. Como dica prática, citou o PromptFoo, ferramenta de código aberto que simula tentativas de manipulação (como pedir descontos indevidos ou se passar por um gestor) e compara o comportamento de diferentes modelos.
Para o RH: vale aplicar a mesma lógica a qualquer IA que conversa com candidaturas ou pessoas colaboradoras. Simular perguntas difíceis, tentativas de contornar regras e situações sensíveis antes do lançamento evita que a crise seja descoberta pelo público.
Responsabilização ainda é território em aberto
O painel também tocou num debate que segue sem resposta clara no mundo: quando um agente autônomo causa dano, quem responde? Para os painelistas, a ausência de uma regra definida torna ainda mais importante que cada empresa estabeleça internamente seus próprios guardrails e responsáveis.
Para o RH: a política de IA da empresa precisa nomear pessoas, e não apenas sistemas. Quem aprova um agente, quem monitora, quem responde por um erro e como esse erro será comunicado internamente são perguntas de governança que passam pelo RH.
Reputação também se constrói pelo que a IA diz sobre você
Bazon trouxe um alerta sobre um fenômeno novo: cada vez mais pessoas perguntam a assistentes de IA sobre empresas, e as respostas podem estar erradas. Para ele, a defesa começa pelo básico bem feito: estratégia de marca clara, discurso coerente em todos os canais e atenção à reputação em plataformas de avaliação. Tudo isso forma a pegada digital que alimenta o que as IAs dizem sobre uma marca.
Para o RH: isso vale também para a marca empregadora. Candidaturas já perguntam a assistentes de IA como é trabalhar em uma empresa. O que aparece em avaliações públicas, no site de carreiras e nos canais oficiais vai compor essa resposta. Coerência entre o que a empresa comunica para fora e o que pratica para dentro deixou de ser um detalhe.
PMEs: cautela antes do hype
Para empresas menores, onde os processos costumam estar na cabeça de quem empreende, os painelistas recomendaram começar mapeando as tarefas do dia a dia e identificando onde a IA realmente gera valor. Bazon resumiu bem: a IA vai melhorar a produtividade, mas acreditar que ela vai resolver todos os problemas é o primeiro erro.
O que vem pela frente
Sobre 2027, os dois evitaram previsões fechadas, já que novos modelos surgem a cada semana. Bannitz destacou a virada de 2026, quando agentes passaram a executar tarefas em vez de só responder perguntas, e apontou a robótica como a próxima grande onda. Bazon chamou atenção para o vibe coding, que permitiu à agência dele desenvolver ferramentas próprias e reduzir a dependência de softwares contratados em dólar.
Para o RH: times multi-agentes tomando decisões dentro das empresas vão exigir novos desenhos de cargo, novas competências e novas formas de liderar. A conversa sobre IA deixou de ser só da TI.
O que levar para a agenda de RH
O painel deixou perguntas que valem para qualquer comitê de pessoas e de IA:
- Nossas equipes sabem contextualizar pedidos e revisar criticamente o que a IA entrega?
- Os processos de RH estão documentados como playbooks ou vivem na cabeça de quem os executa?
- Em quais etapas dos nossos agentes a revisão humana é obrigatória?
- Testamos nossas IAs voltadas a pessoas antes de colocá-las no ar?
- Quem responde por um erro de IA e como esse erro seria comunicado internamente?
- O que um assistente de IA responde hoje quando alguém pergunta como é trabalhar aqui?
Na Workhub, a lição de garbage in, garbage out tem um endereço claro: a base de conteúdo interno. Antes de colocar uma IA para responder dúvidas das pessoas colaboradoras sobre benefícios, políticas ou processos, a intranet precisa estar atualizada, organizada e confiável. Uma IA só responde bem sobre a empresa quando a empresa comunica bem sobre si mesma.
Seguimos no AI Experience Brasil e trazemos mais aprendizados nos próximos dias.
