Caixa-preta algorítmica, direitos fundamentais e habeas data: a judicialização da opacidade decisória na Administração Pública

Resumo

A crescente utilização de sistemas automatizados na Administração Pública tem ampliado a eficiência decisória, mas também intensificado problemas jurídicos relacionados à opacidade algorítmica, à discriminação e à limitação do controle pelos cidadãos. Em contexto de tratamento automatizado de dados, a ausência de explicabilidade pode dificultar a contestação administrativa e judicial de decisões que afetem direitos fundamentais. Este artigo investiga se a “caixa-preta” algorítmica, quando incidindo sobre situações juridicamente relevantes, pode estimular a judicialização por meio do habeas data e, por consequência, sobrecarregar o Poder Judiciário. Sustenta-se que o remédio constitucional continua indispensável à tutela informacional, mas sua utilização massificada revela falhas estruturais de governança, transparência e revisão prévia na Administração. Conclui-se que a solução adequada não consiste em restringir o acesso ao Judiciário, mas em fortalecer mecanismos administrativos de explicação, auditoria e revisão humana, em conformidade com a Constituição e com a Lei Geral de Proteção de Dados Pessoais (MENDES, 2018; STF, 2026; BRASIL, 2018).¹

Palavras-chave: inteligência artificial; caixa-preta algorítmica; habeas data; direitos fundamentais; proteção de dados.

Introdução

A presença de algoritmos na Administração Pública deixou de ser promessa tecnológica para se tornar realidade concreta. Sistemas automatizados já são usados para triagem, classificação de risco, cruzamento de dados, apoio à fiscalização e organização de serviços públicos, o que pode gerar ganhos de eficiência e padronização. Entretanto, quando tais sistemas operam como caixas-pretas, isto é, quando não permitem compreender de modo suficiente os critérios empregados na decisão, surgem problemas sérios de legitimidade, transparência e controle (PIMENTEL, 2021; UNISINOS, 2023).²

O problema se agrava quando a decisão automatizada atinge direitos fundamentais, como privacidade, igualdade, devido processo legal, acesso a prestações estatais e proteção de dados pessoais. Nesses casos, a opacidade pode inviabilizar a contestação informada e deslocar para o Judiciário a tarefa de reconstruir racionalmente a decisão administrativa. Daí a pertinência da pergunta central deste artigo: a baixa transparência dos algoritmos, ao afetar direitos fundamentais, pode ampliar o uso do habeas data e, com isso, contribuir para maior sobrecarga do Judiciário (MENDES, 2018; STF, 2026)?³

A resposta defendida é positiva, mas com uma precisão importante: o problema não está no habeas data em si, que permanece como garantia constitucional relevante, e sim na ausência de canais administrativos suficientes para explicação, revisão e correção. Em outras palavras, a judicialização tende a crescer quando o cidadão não encontra resposta adequada fora do processo judicial (BRASIL, 1988; BRASIL, 2022).⁴

Caixa-preta e direitos fundamentais

A expressão “caixa-preta” designa sistemas cuja lógica interna não é clara para os usuários e, por vezes, nem mesmo para os próprios operadores institucionais. No campo jurídico, isso é especialmente grave porque impede o indivíduo de compreender por que foi selecionado, excluído, classificado ou submetido a determinado efeito jurídico. A literatura contemporânea aponta que esse tipo de opacidade pode reproduzir vieses, consolidar discriminações e comprometer o controle democrático sobre a atividade estatal (UNISINOS, 2023; STF, 2023).⁵

Quando a decisão automatizada incide sobre direitos fundamentais, a exigência de transparência deixa de ser apenas um ideal de boa administração e se converte em dever jurídico. A proteção de dados pessoais, nesse contexto, não é apenas um tema de privacidade, mas de autodeterminação informativa e dignidade da pessoa humana. A doutrina brasileira recente tem destacado que o tratamento de dados pode produzir efeitos concretos sobre a personalidade do titular, razão pela qual não basta assegurar tratamento lícito; é necessário garantir também inteligibilidade e possibilidade real de contestação (MENDES, 2018; IGP, 2018).⁶

Nesse sentido, a discussão sobre “explicabilidade” não é um capricho técnico. Trata-se de uma exigência constitucional derivada da necessidade de controle da Administração, de proteção contra arbitrariedades e de preservação da igualdade material. Quando um algoritmo afeta bens jurídicos relevantes sem que sua lógica seja minimamente acessível, a decisão torna-se difícil de fiscalizar, o que fragiliza a própria legitimidade da atuação estatal (PIMENTEL, 2021; UNICURITIBA, 2024).⁷

Marco constitucional e legal

No ordenamento brasileiro, a tutela dos dados pessoais ganhou reforço constitucional e legal. A doutrina e a jurisprudência passaram a compreender que a proteção informacional é componente do regime de direitos fundamentais, especialmente após a consolidação do tratamento constitucional dos dados pessoais e a entrada em vigor da Lei Geral de Proteção de Dados Pessoais (BRASIL, 2018; MENDES, 2018).⁸

A LGPD prevê, entre outros pontos, direitos do titular à informação, acesso e revisão de decisões tomadas unicamente com base em tratamento automatizado de dados. O art. 20 é central nesse debate porque reconhece a possibilidade de revisão da decisão automatizada, ainda que a extensão prática desse direito seja objeto de intensa discussão doutrinária (BRASIL, 2018; JUSBRASIL, 2023).⁹

A jurisprudência constitucional também é relevante. O Supremo Tribunal Federal, ao examinar o habeas data, valorizou o interesse de agir e o acesso às informações relativas à pessoa do impetrante, em linha com uma leitura material da tutela informacional (STF, 2016; STF, 2026).¹⁰ A partir dessa perspectiva, o remédio constitucional pode ser mobilizado não apenas para conhecer dados armazenados, mas também para controlar efeitos jurídicos derivados do tratamento informacional (MENDES, 2018).¹¹

Habeas data e decisões automatizadas

O habeas data foi concebido como instrumento de acesso, retificação e complementação de informações pessoais constantes de registros ou bancos de dados de entidades governamentais ou de caráter público. Seu objetivo é permitir que o titular conheça aquilo que o Estado sabe sobre ele e, se necessário, corrija imprecisões (BRASIL, 1988; STF, 2016).¹²

Em ambiente algorítmico, contudo, a situação é mais complexa. Muitas vezes o cidadão não quer apenas acessar o dado bruto, mas entender a lógica decisória que conduziu à negativa de um benefício, à inscrição em cadastro, à exclusão de um programa ou à classificação em determinada categoria de risco. Nesses casos, o habeas data pode funcionar como instrumento de abertura inicial do sistema, mas nem sempre é suficiente para revelar toda a racionalidade do modelo automatizado (JUSBRASIL, 2023; IDP, 2025).¹³

Ainda assim, em situações nas quais a decisão automatizada se apoia em dados pessoais tratados pela Administração, a via constitucional tende a ganhar relevância prática. Isso acontece porque a opacidade informacional gera dúvida quanto à legalidade da decisão e reforça a necessidade de controle judicial. O ponto sensível é que, sem uma etapa administrativa eficaz de revisão e explicação, o remédio constitucional passa a ser acionado com maior frequência, deslocando para o Judiciário um problema que poderia ser resolvido antes (MENDES, 2018; BRASIL, 2018).¹⁴

Judicialização e sobrecarga

A hipótese de aumento da judicialização é plausível por ao menos três razões. Primeiro, sistemas automatizados tendem a produzir decisões em escala, de modo que um mesmo vício pode afetar grande número de pessoas. Segundo, a falta de explicabilidade reduz a capacidade de o interessado resolver o conflito no plano administrativo. Terceiro, a ausência de uma resposta clara da Administração incentiva o recurso ao Judiciário como única forma de acesso às razões da decisão (UNISINOS, 2023; UFT, 2024).¹⁵

A doutrina brasileira recente sobre discriminação algorítmica reforça esse diagnóstico. Os riscos da caixa-preta não se limitam à incompreensão técnica; eles alcançam a igualdade, a dignidade e a proteção da personalidade. Quando o algoritmo reproduz vieses humanos, amplifica estereótipos ou opera com dados inadequados, a discussão deixa de ser apenas procedimental e passa a ser substantiva (UNISINOS, 2023; STF, 2023).¹⁶

Nesse quadro, o habeas data pode assumir função de catalisador da judicialização. Isso é positivo na medida em que preserva o acesso à justiça, mas problemático porque a multiplicação de demandas individuais pode sobrecarregar o Judiciário. O excesso de ações, porém, não deve ser lido como abuso do jurisdicionado; ele revela, antes, a insuficiência dos mecanismos administrativos de transparência e revisão (STF, 2016; UFT, 2024).¹⁷

Alternativas de governança

A saída mais consistente não é enfraquecer o habeas data, mas fortalecer mecanismos de prevenção. A Administração Pública deve adotar deveres de documentação, explicação em linguagem simples, revisão humana efetiva, auditoria periódica e rastreabilidade das decisões automatizadas. Esses instrumentos reduzem a assimetria informacional e permitem solução de conflitos antes da judicialização (IDP, 2025; CONJUR, 2024).¹⁸

Também é recomendável consolidar protocolos de contestação administrativa, com prazos claros, canais acessíveis e resposta motivada. Em matéria de direitos fundamentais, a motivação não pode ser formal ou vazia; ela precisa permitir compreensão mínima do motivo da decisão e da lógica aplicada ao caso concreto. Sem isso, a explicação vira mera aparência de controle (BRASIL, 2018; UNICURITIBA, 2024).¹⁹

Por fim, deve-se reconhecer que a governança algorítmica é questão de política pública e de técnica jurídica ao mesmo tempo. A exigência de transparência não elimina a inovação tecnológica, mas impõe limites constitucionais para que a automação não se torne instrumento de exclusão silenciosa. Assim, a Administração deve ser eficiente sem se tornar opaca, e tecnológica sem abandonar a racionalidade democrática (STF, 2023; CONJUR, 2024).²⁰

Conclusão

A caixa-preta algorítmica representa desafio real para o Estado Democrático de Direito, sobretudo quando interfere em direitos fundamentais. A opacidade das decisões automatizadas pode incentivar a judicialização por meio do habeas data, instrumento constitucional adequado para acesso, correção e controle de informações pessoais (MENDES, 2018; STF, 2016).²¹

Todavia, o aumento da litigiosidade não decorre da existência do remédio constitucional, mas da ausência de estruturas administrativas aptas a garantir explicação e revisão prévias. Por isso, a resposta juridicamente mais adequada consiste em combinar proteção de dados, motivação, auditoria e revisão humana, de modo a reduzir a dependência exclusiva do Judiciário e preservar a efetividade dos direitos fundamentais (BRASIL, 2018; CONJUR, 2024).²²

Notas de rodapé

¹ A formulação sintetiza a relação entre tratamento automatizado, proteção de dados e tutela constitucional, em diálogo com a doutrina sobre habeas data e autodeterminação informativa.

² Sobre caixa-preta algorítmica, vieses e limites da explicabilidade, ver estudos brasileiros recentes.

³ A hipótese de incidência do habeas data em ambientes de opacidade informacional decorre da tutela constitucional dos dados pessoais e do direito de acesso.

⁴ A necessidade de mecanismos administrativos prévios é reforçada pela literatura sobre revisão de decisões automatizadas.

⁵ A relação entre discriminação algorítmica, vieses e proteção constitucional é destacada pela doutrina recente.

⁶ A leitura contemporânea do habeas data como instrumento de autodeterminação informativa é central para a doutrina brasileira sobre proteção de dados.

⁷ O dever de explicação e controle decorre da necessidade de proteção contra arbitrariedades e da centralidade dos dados pessoais no direito contemporâneo.

⁸ O regime jurídico brasileiro passou a tratar dados pessoais como objeto de tutela qualificada, especialmente após a LGPD.

⁹ O art. 20 da LGPD é o principal ponto normativo sobre revisão de decisões automatizadas.

¹⁰ O STF reconhece o interesse de agir como requisito do habeas data em precedentes divulgados em informativos oficiais.

¹¹ A doutrina especializada aponta a ampliação funcional do habeas data em face da sociedade informacional.

¹² Essa é a finalidade clássica do habeas data no sistema constitucional brasileiro.

¹³ A literatura sobre o direito à revisão das decisões automatizadas mostra a insuficiência da mera entrega de dados brutos.

¹⁴ O aumento do uso judicial do remédio pode ocorrer quando a Administração não oferece resposta administrativa satisfatória.

¹⁵ A judicialização em massa é compatível com sistemas automatizados que geram decisões padronizadas em larga escala.

¹⁶ A discriminação algorítmica é um dos principais riscos apontados pela doutrina recente.

¹⁷ A sobrecarga do Judiciário é efeito sistêmico possível quando a transparência administrativa é insuficiente.

¹⁸ Medidas como auditoria, documentação e revisão humana são recorrentes na literatura especializada.

¹⁹ A motivação adequada é exigência essencial para controle e legitimidade da decisão pública.

²⁰ A conciliação entre inovação e proteção de direitos é o eixo regulatório contemporâneo.

²¹ O habeas data permanece como remédio constitucional apto a controlar o acesso e a retificação de dados pessoais.

²² A solução institucional adequada é a combinação de proteção de dados, revisão humana e governança algorítmica.

Referências

BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988.

BRASIL. Lei n. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais. Brasília, DF: Presidência da República, 2018.

CONJUR. Da regulamentação de decisões automatizadas e IA pela ANPD. 2024. Disponível em: <https://www.conjur.com.br/>. Acesso em: 8 jul. 2026.conjur.com

IDP. Artigo 20 da LGPD: A revisão de decisões automatizadas funciona? 2025. Disponível em: <https://blog.idp.edu.br/>. Acesso em: 8 jul. 2026.blog.idp.edu

IGP. Existe um direito à explicação na Lei Geral de Proteção de Dados no Brasil? 2018. Disponível em: <https://igarape.org.br/>. Acesso em: 8 jul. 2026.igarape.org

JUSBRASIL. O art. 20 da LGPD e o direito de revisão das decisões automatizadas. 2023. Disponível em: <https://www.jusbrasil.com.br/>. Acesso em: 8 jul. 2026.jusbrasil.com

MENDES, Laura Schertel Ferreira. Habeas data e autodeterminação informativa: os dois lados da mesma moeda. 2018.dfj.emnuvens

PIMENTEL, José Eduardo de Souza. Inteligência artificial e algoritmos de “caixa preta”. 2021.ric.cps

STF. Supremo Tribunal Federal. Informativo STF sobre habeas data e interesse de agir. 2016. Disponível em: <https://www.stf.jus.br/>. Acesso em: 8 jul. 2026.stf

STF. Inteligência artificial no Poder Judiciário, discriminação algorítmica e direitos humanos-fundamentais. 2023.suprema.stf.jus

UNICURITIBA. Direito à explicação das decisões automatizadas na LGPD. 2024.revista.unicuritiba.edu

UNISINOS. Discriminação algorítmica: inteligência artificial, vieses humanos e algorítmicos e a proteção constitucional. 2023.online.unisc

UFT. A visão dos tribunais sobre a revisão das decisões automatizadas à luz da LGPD. 2024.