INTELIGÊNCIA ARTIFICIAL NA TOMADA DE DECISÃO ADMINISTRATIVA

Limites Jurídicos, Riscos Institucionais e Diretrizes para o Uso Responsável no Setor Público Brasileiro

Resumo

A incorporação de sistemas de inteligência artificial (IA) no processo decisório da Administração Pública brasileira representa uma das mais profundas transformações contemporâneas do Direito Administrativo. Ao mesmo tempo em que tais tecnologias ampliam a capacidade estatal de análise de dados, padronização procedimental e eficiência decisória, elas tensionam princípios estruturantes do regime jurídico-administrativo, como legalidade, motivação, transparência, publicidade, devido processo e proteção de dados pessoais. O presente artigo analisa, sob perspectiva jurídico-administrativa, os limites constitucionais e infraconstitucionais, os riscos institucionais e as condições normativas necessárias para o uso constitucionalmente adequado da IA como instrumento de apoio à decisão administrativa. A pesquisa propõe, ao final, diretrizes normativas e recomendações de boas práticas voltadas a órgãos e entidades da Administração Pública, com especial atenção à governança algorítmica, à accountability decisória e à tutela de direitos fundamentais, alinhando inovação tecnológica e juridicidade administrativa.

Palavras-chave: inteligência artificial; decisões administrativas; governo digital; proteção de dados; governança algorítmica.

1. Introdução

A Administração Pública brasileira atravessa um processo acelerado de transformação digital, impulsionado por agendas de governo digital, pela crescente digitalização de serviços públicos e pela adoção de tecnologias avançadas de tratamento de dados. Nesse contexto, sistemas de inteligência artificial passaram a ser utilizados em atividades de triagem, classificação, análise preditiva, recomendação e apoio à tomada de decisões administrativas, especialmente em estruturas responsáveis por processos massivos e complexos, como autarquias previdenciárias, órgãos de gestão funcional e unidades de análise processual.

Esse movimento, embora promissor do ponto de vista da eficiência administrativa, desafia os fundamentos tradicionais do Direito Administrativo. A substituição parcial — ou o suporte intensivo — do juízo humano por sistemas algorítmicos suscita questionamentos relevantes acerca da legalidade do uso de modelos automatizados, da transparência dos critérios decisórios, da motivação dos atos administrativos, da proteção de dados pessoais e da preservação do devido processo administrativo.

O problema central que orienta este estudo pode ser assim formulado: quais são os limites jurídicos, os riscos institucionais e os requisitos normativos necessários para assegurar o uso constitucionalmente adequado da inteligência artificial no processo decisório da Administração Pública brasileira?

A hipótese central sustenta que, sem parâmetros jurídicos claros e mecanismos eficazes de controle, o uso de IA tende a comprometer a legitimidade das decisões administrativas, violando princípios constitucionais essenciais. Em contrapartida, defende-se que a construção de diretrizes jurídicas específicas permite a utilização responsável da IA como instrumento auxiliar da Administração, potencializando a eficiência sem afastar a observância aos direitos fundamentais.

2. Inteligência Artificial e Decisão Administrativa: enquadramento conceitual

A inteligência artificial, no âmbito da Administração Pública, não se confunde com a substituição integral do agente público, mas com a utilização de sistemas capazes de processar grandes volumes de dados, identificar padrões e gerar recomendações ou validações para decisões humanas. Trata-se, portanto, de IA como instrumento de apoio à decisão administrativa, e não como sujeito decisório autônomo.

Ainda assim, a crescente dependência de outputs algorítmicos altera significativamente a dinâmica decisória estatal. Quando a decisão administrativa passa a ser fortemente influenciada por modelos automatizados, surge o risco de uma "discricionariedade algorítmica opaca", na qual os fundamentos reais da decisão deixam de ser plenamente compreensíveis, auditáveis ou contestáveis pelo administrado e pelos órgãos de controle.

Essa realidade impõe uma releitura crítica de categorias clássicas do Direito Administrativo, como motivação, discricionariedade, controle e responsabilidade, à luz das tecnologias digitais.

3. Marco Constitucional e Infraconstitucional Aplicável

O uso de IA pela Administração Pública encontra limites e parâmetros em um conjunto articulado de normas constitucionais e infraconstitucionais. No plano constitucional, destacam-se:

o princípio da legalidade administrativa;

o dever de motivação dos atos administrativos;

o direito fundamental ao devido processo legal, ao contraditório e à ampla defesa;

a proteção da intimidade, da vida privada e dos dados pessoais;

os princípios da publicidade, transparência e eficiência.

No plano infraconstitucional, assumem especial relevância:

a Lei nº 9.784/1999, que disciplina o processo administrativo e impõe deveres de motivação, razoabilidade e proporcionalidade;

a Lei nº 12.527/2011 (Lei de Acesso à Informação), que reforça a transparência ativa e passiva;

a Lei nº 13.709/2018 (Lei Geral de Proteção de Dados Pessoais), que estabelece bases legais, princípios e direitos dos titulares no tratamento de dados;

a Lei nº 14.129/2021, que estrutura a política de governo digital e incentiva a inovação, sem afastar a juridicidade administrativa.

Esse arcabouço normativo evidencia que a adoção de IA não ocorre em um vazio jurídico, mas deve ser interpretada de forma sistemática e finalística, sob pena de inconstitucionalidade material das práticas administrativas digitalizadas.

4. Riscos Jurídicos e Institucionais do Uso de IA na Administração

A literatura jurídica brasileira tem alertado para riscos específicos associados ao uso de sistemas algorítmicos no setor público. Entre os principais, destacam-se:

4.1 Opacidade decisória e déficit de motivação

Modelos algorítmicos complexos, especialmente os baseados em aprendizado de máquina, podem produzir decisões cujo raciocínio interno não é facilmente explicável. Isso compromete o dever de motivação dos atos administrativos e dificulta o exercício do controle administrativo, judicial e social.

4.2 Vieses, discriminações e erros sistemáticos

Sistemas de IA treinados com bases de dados enviesadas tendem a reproduzir ou intensificar desigualdades estruturais, gerando discriminações indiretas incompatíveis com o princípio da isonomia.

4.3 Fragilização do devido processo administrativo

Decisões automatizadas ou semi-automatizadas podem reduzir espaços de contraditório, revisão humana e participação do administrado, afetando garantias procedimentais básicas.

4.4 Riscos à proteção de dados pessoais

O uso intensivo de dados pessoais, inclusive sensíveis, amplia riscos de tratamento excessivo, inadequado ou desproporcional, em afronta à LGPD.

5. Contribuições Doutrinárias Brasileiras

A doutrina nacional tem desempenhado papel central na construção de uma abordagem crítica sobre IA e Administração Pública. Autores como Vanice Lírio do Valle e Fabrício Motta enfatizam a necessidade de alinhar inovação tecnológica e juridicidade administrativa. Ana Frazão alerta para assimetrias de poder e riscos da racionalidade algorítmica. Danilo Doneda, Laura Schertel Mendes e Bruno Bioni destacam os limites impostos pela proteção de dados pessoais ao uso de tecnologias pelo Estado. Eduardo Magrani propõe modelos de governança de IA baseados em transparência, responsabilidade e controle.

Essas contribuições convergem para a ideia de que a inovação tecnológica, no setor público, deve ser normativamente orientada e institucionalmente controlada.

6. Diretrizes Normativas e Boas Práticas para o Uso Responsável da IA

Como produto prático-profissional, o estudo propõe diretrizes estruturadas em torno de princípios jurídicos e mecanismos de controle:

Princípio da supervisão humana obrigatória: decisões com impacto em direitos devem ser revisáveis por agente público qualificado.

Dever de transparência algorítmica: divulgação dos critérios gerais, finalidades e limites dos sistemas utilizados.

Motivação reforçada: explicitação do papel da IA na formação da decisão administrativa.

Avaliação prévia de riscos e impactos: inclusive quanto a vieses e proteção de dados.

Governança e accountability: definição clara de responsabilidades institucionais pelo uso dos sistemas.

Proteção de dados desde a concepção (privacy by design): observância estrita da LGPD.

7. Conclusão

A inteligência artificial não é, por si, incompatível com o Direito Administrativo brasileiro. O risco não reside na tecnologia, mas em sua adoção acrítica, desregulada e opaca. A construção de parâmetros jurídicos claros, diretrizes normativas e boas práticas de governança algorítmica permite conciliar eficiência administrativa, inovação tecnológica e tutela efetiva de direitos fundamentais.

O desafio contemporâneo do Estado brasileiro consiste em transformar a IA em instrumento de fortalecimento — e não de erosão — da legitimidade democrática das decisões públicas.

Referências

BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. 3. ed. São Paulo: Thomson Reuters Brasil, 2021.

BLUM, Renato Opice. Direito digital aplicado. São Paulo: Thomson Reuters Brasil, 2021.

BODIN, Jean-François; MAGRANI, Eduardo (org.). Inteligência artificial e Direito: ética, regulação e responsabilidade. Rio de Janeiro: FGV Editora, 2021.

BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Brasília, DF: Senado Federal, 1988.

BRASIL. Lei nº 9.784, de 29 de janeiro de 1999. Regula o processo administrativo no âmbito da Administração Pública Federal. Diário Oficial da União, Brasília, DF, 1 fev. 1999.

BRASIL. Lei nº 12.527, de 18 de novembro de 2011. Lei de Acesso à Informação. Diário Oficial da União, Brasília, DF, 18 nov. 2011.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União, Brasília, DF, 15 ago. 2018.

BRASIL. Lei nº 14.129, de 29 de março de 2021. Dispõe sobre princípios, regras e instrumentos para o Governo Digital. Diário Oficial da União, Brasília, DF, 30 mar. 2021.

BRASIL. Controladoria-Geral da União. Guia de Governança de Inteligência Artificial no Setor Público. Brasília: CGU, 2023.

BRASIL. Tribunal de Contas da União. Referencial básico de governança aplicável a órgãos e entidades da Administração Pública. Brasília: TCU, 2020.

CARVALHO FILHO, José dos Santos. Manual de direito administrativo. 39. ed. São Paulo: Atlas, 2025.

DI PIETRO, Maria Sylvia Zanella. Direito administrativo. 38. ed. Rio de Janeiro: Forense, 2025.

DONEDA, Danilo. Fundamentos da proteção de dados pessoais. 2. ed. São Paulo: Atlas, 2021.

FRAZÃO, Ana. Concorrência, inovação e regulação econômica: desafios trazidos pelas novas tecnologias. São Paulo: Thomson Reuters Brasil, 2018.

JUSTEN FILHO, Marçal. Curso de direito administrativo. 16. ed. Rio de Janeiro: Forense, 2025.

MAGRANI, Eduardo. Governança de dados e inteligência artificial. 2. ed. São Paulo: Forense, 2022.

MELLO, Celso Antônio Bandeira de. Curso de direito administrativo. 37. ed. Belo Horizonte: Fórum, 2024.

MOTTA, Fabrício; VALLE, Vanice Regina Lírio do. Direito administrativo e transformação digital. Belo Horizonte: Fórum, 2022.

OECD. Artificial Intelligence in the Public Sector. Paris: OECD Publishing, 2020.

OECD. Recommendation of the Council on Artificial Intelligence. Paris: OECD, 2019.

PECK PINHEIRO, Patrícia. Direito digital aplicado: privacidade, proteção de dados e compliance. 7. ed. rev. ampl. e atual. São Paulo: Saraiva Jur, 2023.

SUNDFELD, Carlos Ari. Direito administrativo para céticos. 2. ed. São Paulo: Malheiros, 2017.

UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho (Artificial Intelligence Act). Jornal Oficial da União Europeia, 2024.

WACHTER, Sandra; MITTELSTADT, Brent; FLORIDI, Luciano. Why a right to explanation of automated decision-making does not exist in the General Data Protection Regulation. International Data Privacy Law, v. 7, n. 2, 2017.