A Lacuna de Governança: O Que os Líderes Erram sobre AI no Trabalho

A maioria das conversas sobre governança de AI acontece no nível errado. Os boards querem uma política. O jurídico quer um processo de revisão. Mas as falhas reais de governança em AI no trabalho não estão acontecendo em salas de reunião. Estão acontecendo quando um rep cola o histórico de deals de um cliente no ChatGPT, quando um gestor usa análise de desempenho gerada por AI sem contar à pessoa que está sendo avaliada, e quando ninguém decidiu quais decisões de AI requerem um humano para assinar.

A lacuna não é uma lacuna de política. É comportamental e estrutural. E as empresas que constroem sistemas reais de governança descobriram algo que a turma que prioriza políticas não descobriu: você não pode governar comportamento que está fingindo que não existe.

Três Falhas Que Já Estão Acontecendo na Sua Empresa

Antes de construir qualquer estrutura de governança, ajuda ser honesto sobre as falhas que já estão em andamento. Em empresas que não abordaram explicitamente a governança de AI, essas três aparecem quase universalmente.

Falha 1: Vazamento de dados através de ferramentas de AI para consumidores. O problema mais comum e menos discutido. Os funcionários estão usando ChatGPT, Claude, Gemini e dezenas de outras ferramentas de AI de nível consumidor para fazer seus trabalhos. Parte disso é produtividade inocente. Parte envolve colar dados de clientes, projeções financeiras internas, termos de contrato ou informações de funcionários em ferramentas cujas políticas de tratamento e retenção de dados são regidas por termos de serviço ao consumidor, não por contratos de dados corporativos. O Work Trend Index da Microsoft de 2024 descobriu que 78% dos usuários de AI no trabalho estão trazendo suas próprias ferramentas de AI, ferramentas que a empresa nunca aprovou ou avaliou quanto ao risco de dados.

Um rep que cola três anos de histórico de deals de um cliente no ChatGPT para obter uma estratégia de negociação não está sendo descuidado de propósito. Ele está resolvendo um problema real com a ferramenta mais conveniente disponível. A falha é estrutural: a empresa nunca lhes disse o que era aceitável, nunca forneceu uma alternativa aprovada e nunca criou uma razão para pensar duas vezes. Os riscos aqui vão além da reputação: ética e privacidade de dados em AI explica por que ferramentas de nível consumidor criam exposição legal real quando usadas com dados de clientes corporativos.

O Salesforce Einstein e o HubSpot AI operam sob contratos de dados corporativos que a maioria dos funcionários nem sabe que existem. A distinção entre "recurso de AI dentro do seu CRM contratado" e "ferramenta de AI em uma aba de navegador de consumidor" é real, mas é invisível para quem faz o trabalho, a menos que alguém a torne visível.

Falha 2: Confusão de autoridade entre output de AI e decisão de AI. Esta cria os problemas mais caros no downstream. Output de AI é informação. Uma decisão de AI é uma ação tomada ou uma recomendação aceita sem revisão independente. A maioria das organizações não definiu quais decisões requerem julgamento humano, quais podem ser aceleradas por output de AI e quais podem ser tomadas de forma autônoma por AI dentro de parâmetros definidos.

Quando um gestor usa scores de desempenho gerados por AI de uma ferramenta de produtividade para tomar uma decisão de compensação ou promoção sem revelar que a AI contribuiu para a avaliação, isso não é apenas uma lacuna de política. É uma exposição potencial de direito do trabalho em várias jurisdições e um problema de confiança com seu time quando emerge. A pesquisa do Stanford HAI sobre AI no local de trabalho documenta a crescente lacuna entre a rapidez com que os funcionários estão adotando ferramentas de AI e a lentidão com que as organizações estão estabelecendo frameworks de governança para gerenciar essa adoção. Regulamentos como o EU AI Act já estão impondo requisitos de divulgação e auditoria justamente a esse tipo de decisão de AI de altas apostas; vale revisar as implicações estratégicas do EU AI Act para CEOs antes do seu próximo ciclo de performance. E isso vai emergir.

O problema da confusão de autoridade é agravado pela forma como os recursos de AI são embutidos nas ferramentas existentes. O HubSpot AI pode pontuar a prontidão de um prospecto sem que o rep perceba que o score foi gerado por AI. Quando os reps agem sobre esses scores como se fossem fatos, eles terceirizaram um julgamento para um modelo que nunca avaliaram. Isso é uma decisão, não apenas assistência.

Falha 3: O problema de adoção invisível. Times de liderança consistentemente subestimam a extensão em que a AI já está incorporada nos fluxos de trabalho diários. Na maioria das empresas, no momento em que uma discussão formal de política de AI acontece no nível executivo, 40-60% dos funcionários já estão usando ferramentas de AI diariamente, muitas delas ferramentas que a empresa não aprovou ou nem catalogou.

Isso cria um dilema de governança: você não pode construir barreiras efetivas ao redor de comportamento que não sabe que existe. E uma política que chega depois do fato, proibindo ou restringindo ferramentas nas quais as pessoas já construíram seus workflows, cria ressentimento em vez de conformidade.

A versão produtiva da auditoria de adoção invisível não é uma ameaça. É uma pesquisa e uma conversa. "Quais ferramentas de AI você está usando, para que as usa e o que precisaria da empresa para se sentir confiante usando-as adequadamente?" Essa conversa gera o mapa real do seu desafio de governança.

Por Que as Políticas de AI Falham

A resposta organizacional padrão a um desafio de governança de AI é escrever uma política. A política recebe revisão jurídica, é aprovada pela equipe executiva, postada na intranet e então não tem efeito mensurável no comportamento.

As políticas falham porque descrevem comportamento aceitável e inaceitável em termos abstratos mas não mudam as condições que produzem o comportamento. Uma política que diz "não cole dados de clientes em ferramentas externas de AI" não resolve o problema se não houver ferramenta de AI interna aprovada para a tarefa que o funcionário está tentando realizar. O rep vai colar os dados de qualquer forma, agora com uma chance ligeiramente menor de fazê-lo na frente de um gestor.

Um sistema de governança é diferente de um documento de política de quatro formas:

Fornece alternativas aprovadas, não apenas proibições. Se colar dados de clientes no ChatGPT é proibido, precisa haver uma forma aprovada de realizar a tarefa subjacente. Caso contrário, a proibição só adiciona atrito, não resolve o problema.

Define direitos de decisão explicitamente. Quem pode aprovar uma nova ferramenta de AI para uso da equipe? Quem decide quais decisões de AI requerem revisão humana? Quem possui a função de governança de AI? Sem direitos de decisão claros, a governança é meramente consultiva.

Cria responsabilização leve sem burocracia. Bons sistemas de governança têm uma forma de sinalizar preocupações e relatar situações ambíguas sem exigir um relatório de incidente formal. Um canal no Slack monitorado por uma pessoa designada é mais eficaz do que um portal de compliance.

Evolui conforme as ferramentas evoluem. Um documento de governança de AI de 18 meses atrás está quase certamente sem cobertura para capacidades que agora existem nas ferramentas que seu time está usando. A revisão trimestral é a cadência mínima.

A Questão do Humano no Loop

A questão de governança tecnicamente mais complexa não é sobre dados. É sobre autoridade de decisão: quais decisões de AI requerem que um humano revise, aprove ou substitua?

A resposta honesta depende de apostas e reversibilidade. Uma decisão é de altas apostas se errar causar dano material: perda financeira, exposição legal, dano de relacionamento, impacto de segurança. Uma decisão é irreversível se corrigi-la depois for caro ou impossível.

Decisões de altas apostas e irreversíveis devem sempre ter um humano no loop. Recusar automaticamente uma solicitação de crédito, encerrar um contrato de cliente, enviar uma campanha de outreach em grande escala, dispensar um funcionário com base em dados de produtividade gerados por AI: todos esses requerem revisão humana antes da ação, não apenas depois. A orientação da Anthropic sobre implantação responsável de AI enquadra isso como um princípio central: sistemas de AI que operam em domínios de altas apostas exigem arquiteturas de supervisão humana proporcionais à gravidade dos erros possíveis.

Mas é aqui que a maioria dos frameworks de governança falha: eles definem a necessidade de revisão humana sem tornar a revisão fácil de fazer. Se revisar uma recomendação de AI leva 15 minutos e requer navegar em três sistemas, as pessoas vão pular a revisão e apenas carimbam o output. O design efetivo de governança torna a substituição humana o caminho de menor resistência, não o desvio burocrático.

Para a AI embutida em CRMs especificamente (o deal scoring do Salesforce Einstein, os recursos preditivos de contato do HubSpot, as recomendações de Pipeline do Zoho Zia), a questão de governança é: seus líderes de vendas estão tratando esses outputs como pontos de dados ou como decisões? Construir uma cultura de higiene de Pipeline, em que reps e gestores tratam os outputs dos modelos com ceticismo, é a base comportamental que faz a camada de governança realmente funcionar. A resposta deveria ser sempre "pontos de dados", mas, na prática, a resposta depende de essa distinção ter sido explicitada para as pessoas que usam as ferramentas diariamente.

A Camada Mínima de Governança

Uma empresa SaaS de 200 pessoas não precisa de um comitê de governança, um conselho de ética ou um diretor de política de AI dedicado. O que precisa é de um conjunto de acordos operacionais, um dono claro e uma estrutura de responsabilização leve.

Aqui está como isso realmente parece:

Um registro de ferramentas de AI. Uma lista simples de ferramentas de AI aprovadas, seus casos de uso aprovados e seu nível de tratamento de dados (pode lidar com dados de clientes / não pode lidar com dados de clientes / precisa de aprovação caso a caso). Isso leva cerca de duas horas para construir e reduz significativamente o problema de adoção invisível. Quando os funcionários sabem quais ferramentas são aprovadas e para quê, tomam decisões melhores. Uma referência de segurança e compliance em AI é um insumo útil para classificar as ferramentas por nível de dados; ela cobre as perguntas a fazer aos fornecedores sobre residência e retenção de dados antes de adicionar uma ferramenta ao seu registro.

Mapeamento de direitos de decisão. Uma página que responde: quais outputs de AI requerem revisão humana antes da ação? Quem aprova novas ferramentas de AI para uso da equipe? Quem possui o processo de governança? Isso não precisa ser abrangente no primeiro dia. Precisa ser específico o bastante para que as situações ambíguas mais comuns sejam resolvidas sem escalada.

Normas de divulgação. Um acordo de que quando a AI contribuiu de forma significativa para uma decisão (uma recomendação de contratação, uma avaliação de desempenho, uma proposta importante), essa contribuição é divulgada. Não porque invalida a decisão, mas porque muda como o destinatário pode avaliá-la. Isso é um acordo comportamental, não um documento de política, e precisa ser modelado primeiro pela liderança.

Um caminho de escalada leve. Uma pessoa (tipicamente um líder de operações ou de pessoas) que é o ponto de contato designado para questões de governança de AI. Não um comitê formal. Apenas uma pessoa com a autoridade de tomar uma decisão quando algo ambíguo surgir, e a expectativa de que ela o faça rapidamente.

O Scorecard de Prontidão para Governança de AI

Avalie sua organização de 1 a 5 em cada uma destas cinco dimensões operacionais para identificar onde as lacunas de governança são maiores:

Clareza de tratamento de dados (1-5). Os funcionários sabem quais categorias de dados podem ser usadas com ferramentas externas de AI? Existe uma lista documentada de ferramentas aprovadas e seu nível de dados?

Responsabilização de decisão (1-5). Você mapeou quais decisões assistidas por AI requerem revisão humana? Os direitos de decisão estão documentados e são conhecidos pelas pessoas que tomam essas decisões?

Conscientização dos funcionários (1-5). Os funcionários sabem quais são as normas de governança de AI? Eles foram treinados, não apenas notificados?

Design de substituição (1-5). É fácil para os funcionários desafiar ou substituir um output de AI? O workflow torna a revisão o padrão, não a exceção?

Trilha de auditoria (1-5). Você consegue reconstruir quais ferramentas de AI foram usadas em uma decisão se precisar? Há registro suficiente para atender a uma consulta de conformidade?

Uma pontuação de 20-25 indica uma fundação de governança madura. 10-15 indica as lacunas com maior probabilidade de causar um problema material nos próximos 12 meses. Abaixo de 10 significa que o problema de adoção invisível é quase certamente maior do que a liderança acredita.

Uma Agenda de Workshop de 90 Minutos

Se você quer produzir um acordo operacional de governança de AI de verdade com seu time de liderança, em vez de mais um documento de política, aqui está uma estrutura de workshop que funciona:

Minutos 0-20: Revele o uso real. Comece pelo que está acontecendo, não pelo que deveria acontecer. Peça a cada líder que compartilhe duas ferramentas de AI que seu time está usando e para quê. Sem julgamento, apenas mapeando. Esta é a auditoria de adoção invisível em ação.

Minutos 20-40: Mapeie as apostas. Trabalhe a questão dos direitos de decisão. Quais decisões de AI na sua organização são de altas apostas e irreversíveis? Use o framework de apostas/reversibilidade para categorizá-las. Essa conversa produz os requisitos de humano no loop sem exigir um consultor de governança.

Minutos 40-60: Construa o registro de ferramentas. Em grupo, classifique as ferramentas reveladas no primeiro segmento: aprovada, precisa de revisão, não aprovada. Atribua níveis de dados. Isso leva mais de 20 minutos se a lista for longa, mas o resultado (um registro de verdade) vale o tempo.

Minutos 60-80: Atribua direitos de decisão. Quem é dono da função de governança? Quem aprova novas ferramentas? Quem trata as escaladas? Defina nomes específicos, não apenas papéis. Acordos com nomes atribuídos são acompanhados.

Minutos 80-90: Defina as normas de divulgação. Concordem sobre quando a contribuição da AI a uma decisão precisa ser divulgada e a quem. Costumam ser os 10 minutos mais úteis do workshop, porque obrigam o time de liderança a ser explícito sobre algo que vinha sendo implicitamente variável.

O resultado é um acordo operacional de uma página, não um documento de política de 20 páginas. Ele responde às perguntas que os funcionários realmente enfrentam. E, como foi construído por meio de conversa em vez de redigido pelo jurídico, reflete a realidade operacional de como a AI está sendo usada de fato.

Essa é a diferença entre governança como teatro e governança como sistema.

Leia Mais

• AI Agents no Pipeline de Vendas: Hype, Realidade e o Que Realmente Funciona
• AI Copilots vs. AI Agents: Entender a Diferença Importa
• Medindo o ROI de AI Além de 'Tempo Economizado'