IA responsável: o que é, os riscos e como governar o uso na empresa

IA responsável é o conjunto de práticas que garante que a inteligência artificial seja usada com segurança, justiça e transparência, e o AI Index 2026, do Stanford HAI, acende um alerta: ela não está acompanhando o avanço da tecnologia. Enquanto os modelos ficam mais poderosos a cada mês, a segurança e a governança ficam para trás, e os incidentes aumentam. Este artigo traduz o que o relatório mostra sobre os riscos da IA e o que a sua empresa deve fazer para se proteger.

O que é IA responsável

IA responsável é o conjunto de princípios e práticas que faz a inteligência artificial ser usada de forma segura, justa, transparente e sob controle humano. Na prática, significa garantir que um sistema de IA não discrimine, não exponha dados indevidamente, não tome decisões importantes sem revisão de uma pessoa e que a empresa saiba explicar o que ele faz. Não é um freio à inovação, é o que torna a inovação sustentável: sem ela, o ganho de eficiência de hoje pode virar um problema jurídico, reputacional ou de confiança amanhã.

Os riscos estão crescendo

O dado mais contundente do relatório é o aumento dos incidentes. Os casos de IA documentados subiram para 362 em 2025, contra 233 em 2024, um salto que acompanha a popularização da tecnologia. O AI Index 2026 é direto ao afirmar que a IA responsável não está acompanhando a capacidade: quase todos os desenvolvedores de modelos de ponta publicam resultados de desempenho, mas o relato sobre segurança continua irregular. E há um achado especialmente incômodo: pesquisas recentes mostram que melhorar uma dimensão da IA responsável, como segurança, pode degradar outra, como acurácia. Não existe, portanto, solução mágica; é preciso equilíbrio e atenção contínua.

O problema da alucinação

Um dos riscos mais relevantes para o uso cotidiano é a alucinação, quando a IA gera uma informação falsa com aparência de verdade. O relatório aponta que as taxas de alucinação variam enormemente entre os modelos de topo, o que torna a revisão humana indispensável. Para a empresa, a regra prática é simples: nada do que a IA produz deve virar decisão, contrato, comunicação oficial ou dado contábil sem conferência de uma pessoa. A IA é um excelente rascunhista e um péssimo dono da verdade. Tratamos das boas práticas de uso no guia sobre ética da inteligência artificial.

A alucinação é propriedade conhecida e catalogada da tecnologia, e não defeito de um produto específico. Ji e colegas (2023), em revisão publicada na ACM Computing Surveys, mapearam a literatura sobre alucinação em geração de linguagem natural: métricas para medir, métodos para mitigar e o progresso por tarefa, da sumarização à tradução automática. O que registram é que a geração baseada em aprendizado profundo é propensa a produzir texto não pretendido, o que degrada o desempenho do sistema e frustra a expectativa do usuário em muitos cenários reais. A revisão é anterior à geração atual de modelos e não traz taxa agregada de alucinação, então serve para explicar o que é e por que é estrutural, e não para dimensionar quanto acontece hoje.

A regulação está avançando

O ambiente legal está se fechando em torno do uso responsável. Na Europa, o EU AI Act começou a entrar em vigor em 2025, com as primeiras proibições valendo em fevereiro e as obrigações para modelos de propósito geral a partir de agosto, num modelo de regras proporcionais ao risco. No Brasil, o marco legal da inteligência artificial (PL 2338/2023) tramita no Congresso seguindo lógica parecida, e a LGPD já se aplica a qualquer uso de IA que trate dados pessoais, com a Autoridade Nacional de Proteção de Dados (ANPD) no centro da fiscalização. O relatório registra ainda que o Brasil está entre os países desenvolvendo um instituto de segurança em IA. A leitura para a empresa é que antecipar-se à regulação é mais barato do que correr atrás depois: documentar onde a IA é usada e manter revisão humana já adianta boa parte da conformidade.

O que as empresas estão (e não estão) fazendo

Há avanço e há lacuna. O lado bom: a fatia de empresas sem qualquer política de IA responsável caiu de 24% para 11%, e os papéis de governança de IA cresceram. O lado preocupante: a maturidade média ainda é baixa, e os principais obstáculos apontados são lacunas de conhecimento, restrições de orçamento e incerteza regulatória. Padrões como a norma ISO/IEC 42001 e o framework de gestão de risco de IA do NIST começam a ganhar tração como referências. A boa notícia para a América Latina é que a região teve a maior melhora mundial em maturidade de IA responsável no período, sinal de que dá para evoluir rápido quando há intenção.

Como adotar IA com responsabilidade na PME

Na nossa prática: a pequena e média empresa não precisa de um comitê de ética nem de uma consultoria cara para começar. Três cuidados resolvem a maior parte do risco. Primeiro, revisão humana: nenhuma decisão que afete pessoas, dinheiro ou clientes sai sem uma pessoa conferir. Segundo, proteção de dados: não inserir informações sensíveis de clientes em ferramentas públicas sem saber como elas são tratadas, respeitando a LGPD. Terceiro, transparência: avisar quando um atendimento ou conteúdo é gerado por IA e saber explicar, em linhas gerais, o que cada ferramenta faz. A esses três, soma-se uma governança leve: definir um responsável pelo tema, registrar onde a IA é usada e revisar periodicamente. É pouco esforço para um risco que, segundo o relatório, só cresce.

Os modelos mais capazes são os menos transparentes

Um achado preocupante do relatório é que a transparência caminha na direção errada. Os sistemas de IA mais poderosos são, hoje, também os menos abertos: empresas líderes pararam de divulgar detalhes como o código de treinamento, o tamanho dos dados e o número de parâmetros. Um índice que mede a transparência dos principais modelos chegou a subir, mas voltou a cair na medição mais recente. Para a empresa que depende dessas ferramentas, isso significa operar com uma certa caixa-preta, o que reforça a importância de testar os resultados na prática e não confiar cegamente no que o fornecedor promete.

Há uma contestação relevante a esse arranjo. Rudin (2019), em artigo de perspectiva na Nature Machine Intelligence, argumenta que tentar explicar modelos de caixa-preta, em vez de construir modelos interpretáveis desde o início, tende a perpetuar má prática e pode causar grande dano em decisões de alto risco. Para ela, o caminho é projetar modelos interpretáveis por construção, e a troca entre acurácia e interpretabilidade não é tão inevitável quanto se costuma supor.

Leitura da CGLC: a PME raramente escolhe a arquitetura do modelo que usa, mas escolhe onde aplicá-lo. Em decisão de alto risco, como contratar, desligar ou negar crédito, vale exigir um critério que você consiga explicar em voz alta para a pessoa afetada. Onde não dá para explicar, a decisão não deveria ser automatizada.

O viés é o risco mais concreto

Leitura da CGLC: entre todos os riscos, o viés algorítmico é o que mais gera problema prático para as empresas. A IA aprende com dados do passado, e se esses dados carregam preconceitos, o sistema os reproduz, parecendo neutro por ser matemático. Em seleção de pessoas, crédito ou atendimento, isso pode levar a decisões injustas e até ilegais. A defesa não é abandonar a IA, é manter a decisão final humana, revisar periodicamente os resultados em busca de padrões discriminatórios e cobrar transparência de quem fornece a ferramenta. Governança, aqui, é proteção, não burocracia.

Um dos casos mais bem documentados de viés algorítmico mostra por onde ele entra. Obermeyer, Powers, Vogeli e Mullainathan (2019) examinaram um algoritmo comercial usado por sistemas de saúde dos Estados Unidos para identificar pacientes que precisavam de cuidado adicional. Para um mesmo escore de risco, pacientes negros estavam mais doentes que os brancos, e os autores estimam que esse viés reduzia a menos da metade o número de pacientes negros identificados para o cuidado extra. A causa não era a raça estar no modelo: o algoritmo predizia custo de saúde como aproximação de necessidade de saúde, e como se gastava menos com pacientes negros de mesma necessidade, ele concluía que estavam mais saudáveis. Reformular o algoritmo para não usar custo como aproximação de necessidade eliminou o viés.

Leitura da CGLC: o achado desloca o alvo da governança. O risco não mora na intenção de quem constrói, mora na escolha da variável que o sistema tenta prever. Ao contratar uma ferramenta, a pergunta a fazer ao fornecedor é o que exatamente o modelo prediz, e se isso é a mesma coisa que você quer decidir.

Por onde a governança começa

Na nossa prática: não é preciso esperar uma estrutura completa para agir. O primeiro passo é simplesmente mapear onde a IA já é usada na empresa, muitas vezes mais do que a liderança imagina, com gente usando ferramentas por conta própria. Em seguida, definir regras básicas: o que pode e o que não pode ser inserido nas ferramentas, quais decisões exigem revisão humana e quem responde pelo tema. Esse mínimo de governança, leve e proporcional ao porte, já coloca a empresa à frente da maioria e reduz o risco que o relatório mostra estar crescendo. Se a empresa ainda está decidindo onde a tecnologia entra, o guia de inteligência artificial para empresas traz o passo a passo dessa adoção.

Segurança sob ataque: o que os testes revelam

Um achado importante do relatório é que a segurança dos modelos depende do contexto. Em uso normal, os principais sistemas se comportam bem em testes de segurança, mas o desempenho cai quando são submetidos a tentativas deliberadas de burlar suas proteções, os chamados jailbreaks. Em outras palavras, a barreira de segurança existe, mas não é intransponível. Para a empresa, a lição não é técnica, é organizacional: não confie cegamente que a ferramenta vai recusar todo uso indevido, e oriente as pessoas sobre o que pode e o que não pode ser feito com IA. A tecnologia ajuda, mas a política de uso e o bom senso da equipe continuam sendo a primeira linha de defesa.

O custo de não ter governança

Leitura da CGLC: ignorar a IA responsável tem preço, ainda que ele não apareça de imediato. Um vazamento de dados de clientes inseridos numa ferramenta sem cuidado pode gerar sanção sob a LGPD. Uma decisão automatizada enviesada em uma contratação ou concessão de crédito pode virar processo. Um conteúdo gerado por IA com erro grave, publicado sem revisão, pode arranhar a reputação construída em anos. O relatório mostra os incidentes crescendo justamente porque o uso se espalhou mais rápido que os cuidados. Para a empresa, a governança de IA é como um seguro barato: custa pouco para implementar e evita prejuízos que podem ser altos. O risco não é exagero, é o lado que o entusiasmo costuma esquecer. No caso da contratação, os pontos de viés e a forma de mitigá-los estão em como mitigar o viés algorítmico no RH.

A América Latina está avançando

Há um sinal animador na nossa região. Segundo o relatório, a América Latina teve a maior melhora mundial em maturidade de IA responsável no período medido, partindo de um patamar baixo, mas evoluindo mais rápido que as demais regiões. Some-se a isso o fato de o Brasil estar desenvolvendo um instituto de segurança em IA. Isso mostra que governança de IA não é privilégio de país rico nem de grande corporação: é uma questão de intenção e método. Para a empresa brasileira, é um convite a não esperar a regulação chegar para se organizar, e sim a usar essa janela para construir, desde já, uma adoção de IA confiável.

Um checklist mínimo de IA responsável

Na nossa prática: para sair da teoria, vale um checklist enxuto que qualquer PME consegue aplicar. A empresa sabe onde a IA é usada hoje, inclusive pelo uso individual dos colaboradores? Existe uma regra clara sobre que tipo de dado pode ou não ser inserido nas ferramentas? Toda decisão que afeta pessoas, dinheiro ou clientes passa por revisão humana? Há alguém responsável por acompanhar o tema? Os clientes são avisados quando interagem com IA? Quanto mais respostas negativas, maior a urgência. Nenhuma dessas perguntas exige investimento alto; todas exigem intenção, e é a intenção que separa o uso responsável do uso temerário.

Perguntas frequentes

O que é IA responsável?

É o conjunto de práticas que garante o uso seguro, justo, transparente e supervisionado da inteligência artificial. Envolve evitar discriminação e vieses, proteger dados, manter a decisão final humana e ser capaz de explicar o que os sistemas de IA fazem.

Os riscos da IA estão aumentando?

Sim. Segundo o AI Index 2026, os incidentes de IA documentados subiram de 233 em 2024 para 362 em 2025. O relatório alerta que a IA responsável não está acompanhando o avanço da capacidade dos modelos, o que torna a governança mais urgente.

A IA já é regulada no Brasil?

O marco legal específico (PL 2338/2023) ainda tramita no Congresso, seguindo uma lógica de regras por nível de risco. Mas a LGPD já se aplica a todo uso de IA que trate dados pessoais, com fiscalização da ANPD. O Brasil também está desenvolvendo um instituto de segurança em IA.

Como uma empresa pequena usa IA com segurança?

Com três cuidados: revisão humana em decisões que afetam pessoas ou dinheiro, proteção de dados conforme a LGPD e transparência sobre o uso de IA. Soma-se uma governança leve: um responsável pelo tema, registro de onde a IA é usada e revisão periódica.

Fontes e referências

• Stanford HAI. AI Index Report 2026, capítulo Responsible AI.
• Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1-38. https://doi.org/10.1145/3571730
• Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453. https://doi.org/10.1126/science.aax2342
• Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1(5), 206-215. https://doi.org/10.1038/s42256-019-0048-x

A CGLC (Centro de Gestão e Liderança Contemporânea) é um laboratório de cocriação de soluções que apoia empresas e líderes no desenvolvimento de lideranças, cultura de inovação e gestão de pessoas.