Governança de IA: quem responde pelas decisões que a IA toma
· Adriano Marchetti Cillo
A adoção de inteligência artificial costuma avançar mais rápido do que a definição de quem responde pelo que ela decide. Um assistente passa a sugerir respostas a clientes, um modelo passa a priorizar atendimentos, uma ferramenta passa a resumir contratos. Cada passo parece pequeno. Somados, delegam decisões a sistemas sem que ninguém tenha dito em que condições isso é aceitável.
Governança de IA, no nível da diretoria, não é um documento de princípios nem um assunto exclusivo do jurídico ou da tecnologia. É a resposta clara a perguntas sobre responsabilidade, feita antes do incidente e não depois dele.
Quatro perguntas de responsabilidade
- Quem é o dono do resultado de negócio que a IA afeta, e não apenas da entrega técnica?
- Que decisões a IA pode tomar sozinha e quais exigem supervisão ou aprovação humana?
- Quem aprova o risco que a empresa aceita, e com que critério?
- Quem percebe quando o sistema erra, e quem tem autoridade para interromper ou corrigir?
Se alguma resposta for “depende” ou “ninguém em particular”, essa é a lacuna de governança. Ela costuma aparecer pela primeira vez em um erro com cliente, e a essa altura a pergunta já deixou de ser teórica.
A intensidade deve ser proporcional ao risco
Uma ferramenta que ajuda a equipe a organizar anotações internas não exige o mesmo controle que um sistema que influencia crédito, contratação, saúde ou o tratamento de reclamações de clientes. Aplicar o mesmo peso a tudo cria burocracia onde ela não é necessária e deixa frágil onde ela é essencial. Classificar usos por impacto é o que permite concentrar atenção no que importa.
Visibilidade antes de controle
Muitas empresas não sabem ao certo onde a IA já está sendo usada. Ferramentas adotadas por equipes por conta própria, fora dos canais autorizados, são comuns. Antes de definir regras, vale mapear onde, como e por quem a IA já está presente. Não se governa o que não se enxerga.
Como começar sem criar burocracia
- Faça um inventário simples dos usos de IA existentes e planejados.
- Classifique cada uso pelo impacto que um erro teria sobre clientes, receita, risco e conformidade.
- Para os de maior impacto, defina dono, limites de autonomia, critérios de supervisão e um responsável por interromper.
- Revise em ciclos curtos, porque os usos mudam mais rápido do que as regras.
A responsabilidade precisa acompanhar a mudança
Há ainda uma questão que costuma desaparecer quando a discussão fica restrita à política: a responsabilidade muda quando o uso muda. Um assistente interno pode começar como apoio à análise e depois passar a gerar respostas que chegam ao cliente. Um fluxo inicialmente supervisionado pode ganhar autonomia para cumprir etapas sozinho. Por isso, a governança precisa acompanhar a evolução do caso de uso, e não ser uma aprovação única feita no início do projeto. O que mudou na autonomia, no dado utilizado ou no impacto potencial deve provocar uma nova avaliação.
O que fazer com isso
Governança bem feita não freia a adoção. Ela permite delegar mais com segurança, porque os limites já foram decididos e alguém responde por eles. Sem isso, a empresa depende da sorte de que nenhum erro importante aconteça antes de a responsabilidade ser definida.
É esse o tipo de conversa que a AMC conduz com executivos: transformar a adoção de IA em decisões claras sobre responsabilidade, risco e valor.