*Por Priscila Ferreira

A automação do atendimento deixou de ser apenas uma forma de responder mais rápido e passou a interferir diretamente na maneira como uma marca promete, negocia e assume compromissos diante de seus consumidores. Por isso, restringir radicalmente o uso de agentes de inteligência artificial é um erro estratégico, mas liberá-los para agir sem limites é uma aposta igualmente ruim. O desafio não está em escolher entre inovação e segurança, e sim em reconhecer que todo agente autorizado a falar ou agir em nome de uma empresa também pode produzir consequências jurídicas e reputacionais. Quando uma marca transfere tarefas para um sistema automatizado, ela não transfere a responsabilidade por aquilo que esse sistema faz.

O caso da Air Canada, no qual um tribunal canadense responsabilizou a companhia por informações incorretas fornecidas por seu chatbot sobre a política de tarifas para luto, tornou concreto um risco que muitas organizações ainda tratam como hipótese. A questão não era se o sistema tinha intenção de enganar o consumidor, mas se a empresa poderia se eximir de uma informação oferecida por seu próprio canal de atendimento. O episódio mostra que a experiência do cliente não separa a promessa feita por um funcionário daquela apresentada por um agente digital. Para quem recebe a resposta, ambos falam em nome da mesma marca, e é essa percepção que precisa orientar a governança.

O avanço da adoção de IA torna essa discussão ainda mais relevante. No relatório Cost of a Data Breach 2025, a IBM e o Ponemon Institute apontaram que 97% das organizações pesquisadas que sofreram incidentes de segurança relacionados à IA não tinham controles de acesso adequados para esses sistemas. Embora o levantamento trate de segurança, e não diretamente de reputação, ele revela um problema de gestão que também afeta a comunicação com o consumidor: a tecnologia pode ganhar autonomia mais rápido do que a organização consegue estabelecer limites. Um agente conectado a bases internas, sistemas de venda ou políticas comerciais não precisa cometer um grande erro técnico para criar um problema público. Basta responder com segurança sobre algo que não está autorizado a prometer.

O argumento de que a supervisão humana elimina a agilidade da automação também não se sustenta quando a supervisão é desenhada de acordo com o risco. Uma empresa pode permitir que um agente responda dúvidas frequentes e organize solicitações de rotina, enquanto exige transferência para uma pessoa em reclamações sensíveis, negociações fora de política ou situações com impacto financeiro e jurídico. Para isso, precisa estabelecer uma matriz de risco, restringir os dados disponíveis, registrar as interações relevantes, testar respostas antes da implantação e manter um mecanismo de interrupção rápida. A governança deve incluir comunicação, jurídico, tecnologia, segurança e atendimento, porque a reputação não é responsabilidade exclusiva de quem desenvolve o sistema. É uma questão de negócio.

A escolha, portanto, não é entre confiar cegamente na IA e abrir mão dela. É entre uma automação governada e outra que expõe a empresa a riscos que poderiam ter sido previstos. Uma marca precisa saber quais compromissos seus agentes podem assumir, quais informações podem consultar e em que momento devem interromper a interação e chamar uma pessoa. Também precisa estar preparada para reconhecer o erro e reparar o consumidor quando a falha acontecer. O verdadeiro teste de maturidade não será a quantidade de tarefas automatizadas, mas a capacidade de ampliar a eficiência sem perder o controle sobre a própria palavra. A reputação continua pertencendo à empresa, mesmo quando a resposta é produzida por uma máquina.

*Priscila Ferreira é especialista em Direito Digital e Cibersegurança e CEO da infer assessoria.

Leia também: Uso apressado de Inteligência Artificial no atendimento gera resolução fictícia e compromete marcas