O limite que separa inovação de irresponsabilidade. A empresa pode automatizar cálculos, previsões e recomendações. Não pode automatizar o dever de responder pelas próprias escolhas.
Imagine a seguinte cena: um candidato é eliminado de um processo seletivo sem saber por quê. Um consumidor tem seu crédito recusado por um sistema que ninguém na empresa consegue explicar. Um trabalhador é apontado como improdutivo por uma ferramenta que mede velocidade, mas ignora qualidade, complexidade e contexto. Em uma empresa em crise, um modelo recomenda cortes imediatos que melhoram a projeção de caixa, mas destroem capacidades essenciais para a recuperação.
Em todos esses casos, a resposta mais fácil seria dizer: “foi o algoritmo”.
Mas um algoritmo não assina a ata do conselho. Não define sozinho a finalidade para a qual será utilizado. Não escolhe o fornecedor, não negocia o contrato, não determina quais dados serão empregados, não estabelece a margem de erro aceitável e não responde perante trabalhadores, consumidores, credores ou a sociedade.
A inteligência artificial pode participar da decisão. A responsabilidade, entretanto, continua sendo humana e empresarial.
Essa é uma das questões mais importantes da nova economia. A corrida atual não é apenas para saber quem utilizará mais inteligência artificial. A verdadeira disputa será para descobrir quem conseguirá incorporá-la com velocidade, discernimento e governança. Empresas que apenas compram ferramentas podem ganhar eficiência temporária. Organizações que aprendem a governar a tecnologia constroem uma vantagem competitiva mais duradoura: confiança.
O ALGORITMO NÃO É UM SUJEITO MORAL
A inteligência artificial já deixou de ser uma promessa distante. Ela seleciona currículos, estima riscos, detecta fraudes, prevê demanda, segmenta clientes, recomenda preços, elabora documentos, simula investimentos e reorganiza cadeias produtivas. Em muitas empresas, a recomendação da máquina percorre diferentes níveis hierárquicos até adquirir a aparência de uma verdade objetiva.
É justamente aí que começa o perigo.
Todo modelo é construído a partir de escolhas. Alguém define o problema. Alguém seleciona os dados. Alguém decide o que significa “sucesso”. Alguém estabelece a métrica que será otimizada. Alguém aceita determinada taxa de erro. Mesmo quando o sistema é fornecido por uma empresa externa, a organização que o utiliza escolhe confiar nele e decide onde inserir seus resultados.
Por isso, a expressão “a inteligência artificial decidiu” costuma esconder uma cadeia de decisões humanas. A tecnologia influencia a vontade empresarial, mas não cria uma zona livre de responsabilidade.
O administrador não precisa tornar-se cientista de dados. Precisa, contudo, saber formular as perguntas certas. Qual problema o sistema pretende resolver? O uso da IA é realmente necessário? Que pessoas podem ser afetadas? Quais são os limites conhecidos? Quem pode interromper seu funcionamento? Como uma decisão poderá ser contestada? O que acontecerá se o fornecedor desaparecer, mudar o modelo ou deixar de prestar informações?
Ignorar essas perguntas não é inovação. É transferir para o futuro um risco que já existe no presente.
A FALSA NEUTRALIDADE DOS NÚMEROS
Existe uma tendência humana de atribuir maior autoridade àquilo que aparece na forma de número, nota, percentual ou gráfico. Um escore de risco parece mais objetivo do que a opinião de um gerente. Uma previsão estatística parece mais racional do que a experiência de uma equipe. Uma recomendação automatizada parece menos sujeita a preconceitos do que uma escolha humana.
Essa aparência pode ser enganosa.
O sistema responde à pergunta que recebeu e otimiza a métrica que lhe foi atribuída. Se os dados reproduzem desigualdades históricas, o modelo pode amplificá-las. Se a variável escolhida não representa adequadamente o fenômeno, a precisão matemática pode esconder um erro de compreensão. Se o contexto econômico muda, previsões construídas com base no passado podem perder validade exatamente quando parecem mais necessárias.
Há ainda o chamado viés de automação: pessoas tendem a aceitar recomendações produzidas por sistemas, inclusive quando existem sinais de erro. A simples presença de um funcionário no fluxo, portanto, não significa supervisão humana efetiva. Se essa pessoa não compreende o resultado, não dispõe de tempo para revisá-lo, teme contrariar a ferramenta ou não possui autoridade para interromper o processo, o controle humano é apenas decorativo.
A pergunta correta não é apenas “há um ser humano na operação?”. A pergunta é: esse ser humano possui informação, competência, tempo, independência e poder real para discordar?
DILIGÊNCIA ALGORÍTMICA: UMA NOVA EXPRESSÃO PARA UM DEVER ANTIGO
Em estudo científico que serviu de base a esta reflexão, proponho a expressão dever de diligência algorítmica. Não se trata de criar uma obrigação extravagante ou de responsabilizar o administrador por qualquer falha tecnológica. Trata-se de reconhecer que o tradicional dever de cuidado assume um conteúdo mais exigente quando decisões empresariais passam a depender de sistemas de inteligência artificial.
Esse dever pode ser compreendido como a obrigação contínua e proporcional ao risco de justificar a adoção da tecnologia, conhecer seus limites relevantes, avaliar impactos, controlar fornecedores, documentar decisões, assegurar supervisão humana verdadeira, monitorar resultados e corrigir danos.
A palavra central é proporcionalidade. Uma ferramenta utilizada para organizar documentos internos não exige a mesma estrutura de controle de um sistema empregado para contratar pessoas, conceder crédito, orientar diagnósticos, definir preços individualizados ou recomendar a demissão de trabalhadores. Quanto maior o impacto potencial sobre direitos, reputação, continuidade empresarial ou grupos vulneráveis, maior deve ser a intensidade do cuidado.
Na prática, a diligência algorítmica começa antes da compra. A empresa precisa definir uma finalidade legítima, avaliar alternativas e classificar o risco do uso pretendido. Continua na seleção do fornecedor, com análise de dados, segurança, documentação, propriedade intelectual, direito de auditoria e regras para incidentes. Prossegue durante a implementação, com treinamento, definição de alçadas e possibilidade de suspensão. E permanece durante toda a operação, porque modelos, dados, pessoas e circunstâncias mudam.
Governança não é produzir uma política elegante e esquecê-la em uma pasta. É criar capacidade institucional para perceber quando a tecnologia deixou de servir à finalidade que justificou sua adoção.
A PESSOA HUMANA NÃO CABE EM UM PERFIL
A filosofia ajuda a compreender por que esse debate não pode ser reduzido à conformidade técnica.
Aristóteles distinguia a prudência do simples domínio dos meios. Deliberar bem exige compreender circunstâncias, conflitos de valores e consequências que não cabem integralmente em uma fórmula. Kant recordava que a pessoa deve ser tratada como fim, e nunca apenas como instrumento. Hans Jonas demonstrou que, quanto maior o alcance do poder tecnológico, maior deve ser a responsabilidade por seus efeitos. Hannah Arendt advertiu contra a dissolução do julgamento individual dentro de aparatos e rotinas. Habermas mostrou que decisões legítimas precisam oferecer razões compreensíveis àqueles que são afetados.
Essas ideias continuam surpreendentemente atuais. Um modelo pode apontar a maneira mais rápida de reduzir custos, mas não decide se a economia pretendida respeita contratos, direitos, relações de confiança e a função social da empresa. Pode estimar a probabilidade de inadimplência, mas não define sozinho quais formas de diferenciação são juridicamente aceitáveis. Pode medir o comportamento de um trabalhador, mas não transforma a pessoa em mera sequência de indicadores.
Na obra Direitos humanos: liberdades públicas e cidadania, escrita com Paulo Hamilton Siqueira Júnior, dignidade, liberdade e cidadania aparecem como limites ao exercício do poder. Essa construção ganha nova atualidade quando parte do poder econômico passa a ser exercida por infraestruturas capazes de conhecer, classificar, prever e influenciar indivíduos.
O paradoxo é evidente: a empresa pode saber cada vez mais sobre a pessoa, enquanto a pessoa sabe cada vez menos sobre os critérios pelos quais é avaliada.
Em A Guerra dos Seguidores, a disputa por aparência, reconhecimento, visibilidade e influência oferece uma poderosa lente literária para compreender o ambiente digital. Plataformas não apenas conectam pessoas; também organizam a atenção, estimulam antagonismos e interferem na formação da autonomia.
Ao mesmo tempo, as redes conservam enorme potencial de comunicação, mobilização e transformação. A questão decisiva, portanto, não é escolher entre tecnologia e humanidade. É decidir qual concepção de humanidade orientará a tecnologia.
Uma pessoa não se esgota em dado, perfil, escore ou audiência.
A INTELIGÊNCIA ARTIFICIAL NAS EMPRESAS EM CRISE
Em processos de turnaround, a inteligência artificial pode ser extraordinariamente útil. Ela permite projetar fluxo de caixa, testar cenários, identificar perdas, segmentar recebíveis, monitorar indicadores e acelerar diagnósticos. Quando o tempo é escasso, a tecnologia amplia a capacidade de enxergar alternativas.
Mas empresas em crise também apresentam o ambiente mais perigoso para a confiança automática em modelos. Os dados se tornam instáveis, as relações comerciais mudam, o custo financeiro aumenta, clientes alteram seu comportamento e premissas antes razoáveis perdem validade. Um sistema treinado em períodos de normalidade pode interpretar mal uma realidade de ruptura.
Além disso, a recuperação empresarial não é um simples exercício de redução de despesas. Uma empresa reúne pessoas, contratos, conhecimento, reputação, capacidade produtiva e função social. Um corte que melhora o caixa deste mês pode eliminar a competência necessária para gerar receita no próximo trimestre. O encerramento de uma unidade aparentemente deficitária pode destruir uma relação estratégica ou uma posição de mercado. A eficiência isolada não substitui a estratégia.
Na crise, quanto mais urgente e irreversível for a decisão, maior deve ser a prudência. Recomendações algorítmicas precisam ser tratadas como insumos, não como ordens. Premissas devem ser revalidadas com frequência. Alternativas menos lesivas precisam ser consideradas. E os grupos que suportarão o custo da medida devem ser identificados com clareza.
A IA deve reconstruir a capacidade decisória da liderança, e não substituir a liderança.
A LEI PODE EVOLUIR, MAS O DEVER DE CUIDADO JÁ EXISTE
O mundo caminha para modelos de governança baseados em risco. O Regulamento Europeu de Inteligência Artificial estabelece obrigações diferenciadas conforme a natureza e o impacto dos sistemas. O NIST, nos Estados Unidos, estruturou um modelo voluntário para governar, mapear, medir e gerenciar riscos. Em 2026, a OCDE publicou orientação específica de devida diligência para empresas que desenvolvem ou utilizam IA, incluindo prevenção, monitoramento, comunicação, participação e reparação.
No Brasil, o debate legislativo continua na Câmara dos Deputados após a aprovação do Projeto de Lei nº 2.338/2023 pelo Senado. A futura legislação poderá organizar deveres, competências e sanções. Isso não significa, porém, que hoje exista um vazio jurídico.
A Constituição, o Código Civil, a Lei das Sociedades por Ações, a Lei Geral de Proteção de Dados, o Código de Defesa do Consumidor, a legislação trabalhista e os regimes setoriais já oferecem fundamentos para exigir finalidade legítima, informação, segurança, não discriminação, cuidado, transparência e reparação.
Esperar uma lei geral de inteligência artificial para começar a governar sistemas que já afetam pessoas e negócios seria juridicamente imprudente e empresarialmente disfuncional.
A VANTAGEM COMPETITIVA SERÁ A CONFIANÇA
Durante algum tempo, a adoção de inteligência artificial poderá ser apresentada como sinal de modernidade. Em breve, ela será apenas parte da infraestrutura comum das organizações. Quando todas as empresas tiverem acesso a ferramentas semelhantes, o diferencial não estará na posse da tecnologia, mas na qualidade das decisões construídas com ela.
As empresas mais maduras não serão aquelas que eliminarem o ser humano do processo. Serão aquelas que souberem posicioná-lo onde o julgamento, a responsabilidade e a criatividade produzem maior valor. Não serão as que confiarem cegamente nos modelos, mas as que desenvolverem capacidade para questioná-los. Não serão as que esconderem erros atrás da complexidade técnica, mas as que souberem detectá-los, explicá-los e corrigi-los.
Antes de colocar um sistema de IA em uma decisão relevante, toda liderança deveria ser capaz de responder a seis perguntas: para qual finalidade legítima ele será usado; quem poderá ser afetado; quais dados e premissas sustentam o resultado; quem possui autoridade real para discordar; como a decisão poderá ser reconstruída e explicada; e qual será o procedimento de correção se algo der errado.
Se essas respostas não existem, a empresa provavelmente ainda não possui uma estratégia de inteligência artificial. Possui apenas uma ferramenta.
A proposição final é simples: a empresa pode delegar à inteligência artificial operações, cálculos, previsões e recomendações. Não pode delegar a definição legítima dos fins, o juízo prudencial, a explicação aos afetados nem a responsabilidade pelos efeitos de sua organização.
O futuro da inteligência artificial não será definido apenas por máquinas mais poderosas. Será definido por instituições humanas capazes de utilizar poder sem abandonar responsabilidade.
Este conteúdo possui finalidade informativa e não constitui consulta, opinião legal ou recomendação aplicável automaticamente. A estratégia depende dos documentos, do contexto econômico e das particularidades da empresa.