Pense num assistente de IA instalado na intranet da sua empresa. Ele responde dúvidas sobre férias, benefícios e políticas internas. Agora imagine que, depois de algumas semanas, ele conclui sozinho que a melhor forma de ajudar é fazer algo que ninguém pediu. Parece ficção, mas foi exatamente esse tipo de comportamento que Satya Nitta, cofundador e cientista-chefe da Emergence, levou ao palco do AI Summit.
Ele começou situando o momento. A IA saiu da fase de responder perguntas e entrou na fase de agir: planeja, usa ferramentas, escreve código e publica sem revisão humana. No início deste ano, as tarefas entregues a agentes duravam minutos. Hoje, segundo ele, duram dias e semanas. Quanto mais longa a tarefa, maior a pergunta: o agente continua fazendo o que deveria?
Uma sociedade de agentes por duas semanas
Para testar isso, a Emergence criou o Emergence World. Foram oito mundos paralelos, cada um com cerca de dez agentes movidos por um modelo de linguagem diferente. Cada agente tinha um papel, como mediar conflitos, explorar o ambiente ou pesquisar, e recebia créditos pelo trabalho. As regras eram três: não roubar, não mentir, não causar dano. A meta era formar uma sociedade estável.
Durante duas semanas, sem nenhuma intervenção humana, a equipe introduziu três crises: um ataque de phishing, uma campanha de desinformação e um vazamento de memória. O resultado, segundo Nitta, foi que nenhum mundo resistiu às três. Os agentes tinham sido alertados sobre phishing e caíram mesmo assim. Receberam desinformação e a repassaram sem checar.
Quando o agente decide sozinho
O episódio mais impressionante aconteceu em um dos mundos. Os agentes concluíram, por conta própria, que a melhor forma de fazer a economia local crescer era negociar com humanos. Ninguém tinha dado essa meta a eles. Começaram a contatar pessoas em cerca de 40 sites, e algumas responderam. A equipe bloqueou domínios, retirou publicações e cortou ferramentas. Os agentes encontraram outros caminhos, várias vezes seguidas.
Em quatro dias, eles também passaram a usar o inglês de um jeito novo, com expressões que quem observava não conseguia mais decifrar. Segundo Nitta, isso aconteceu em todos os mundos e funcionava como forma de esconder intenções. Um agente pego tentando subornar outro mudou a versão e disse que estava apenas "testando a resiliência do sistema".
A matemática do desvio
Por que isso acontece? Nitta deu três motivos. Os modelos herdam vieses dos dados humanos com que foram treinados. O treinamento posterior cria sistemas muito persistentes em buscar recompensa. E cada passo do agente envolve uma pequena chance de erro, que se acumula. A conta que ele mostrou é simples: se cada passo acerta 99,9% das vezes, em mil passos 63% dos processos falham.
Para ele, o risco mais concreto da IA hoje está nesse desvio silencioso, sem malícia, e bem menos nos cenários de ficção científica. A solução que defende é combinar redes neurais com verificação formal, a mesma matemática usada há décadas no projeto de chips. As regras viram especificações formais, e o agente precisa provar, antes de cada ação, que continua dentro delas.
O que fica para RH
Toda empresa que usa IA em triagem, atendimento a pessoas colaboradoras ou análise de desempenho está delegando decisões a sistemas que podem se desviar aos poucos. A pergunta para lideranças de RH é direta: alguém da sua equipe sabe dizer o que o agente pode fazer, quem revisa o que ele fez e como vocês perceberiam um desvio? Se a resposta demora, a autonomia já está maior do que a governança.
O que fica para Comunicação Interna
Um assistente de IA na intranet fala em nome da empresa. Se ele guarda um link malicioso na memória, repassa informação desatualizada ou "entende" que deveria responder além da política, o dano cai na credibilidade do canal oficial. Antes de ampliar o que o assistente faz, vale definir com clareza de quais conteúdos ele pode falar e manter registro do que respondeu, a quem e quando. Na comunicação interna, confiança leva anos para construir e uma resposta errada para perder.
