Inteligência artificial: o desafio da explicabilidade

2024

Abstract: The text examines the intersection between technology and law, focusing on how a data-driven approach can revolutionize the judiciary towards a people-centered Justice 5.0. It highlights the technological shift in procedural law, emphasizing the need for intuitive and participatory designs, aiming for an due process that addresses contemporary challenges in access to justice. The significant impact of artificial intelligence on the judicial process is discussed, transforming data analysis and decision-making. Technology, especially AI, is seen as a potential transformer, provided it is integrated responsibly, considering ethical challenges, privacy issues, and the need for effective regulation. The text also addresses the concept of Justice 5.0, which combines technology and the humanization of law, proposing a more ccessible and citizen-adapted judicial system. This approach emphasizes the customization of procedures and the use of technology to promote a fairer and more efficient system. Finally, the text underscores the urgency of solid governance for the use of AI in the judiciary, aiming to avoid risks and ensure that technology is employed in a way that promotes justice and protects fundamental rights. Regulation is pointed out as crucial to ensure that the implementation of AI is compatible with ethical and legal principles. Resumo: O texto examina a interseção entre tecnologia e direito, focando em como uma abordagem data-driven pode revolucionar o sistema judiciário para uma Justiça 5.0, centrada nas pessoas. Destaca-se a virada tecnológica no direito processual, com ênfase na necessidade de designs intuitivos e participativos, tendo em vista um devido processo que responda aos desafios contemporâneos de acesso à justiça. Discute-se o impacto significativo da inteligência artificial no processo judicial, transformando a análise de dados e a tomada de decisões. A tecnologia, especialmente a IA, é vista como um potencial transformador, desde que integrada com responsabilidade, considerando os desafios éticos, de privacidade e a necessidade de regulamentação eficaz. O texto também aborda o conceito de justiça 5.0, que alia tecnologia e humanização do direito, propondo um sistema judicial mais acessível e adaptado às necessidades dos cidadãos. Essa abordagem enfatiza a customização de procedimentos e a utilização de tecnologia para promover um sistema mais justo e eficiente. Por fim, destaca-se a urgência de uma governança sólida para o uso da IA no Judiciário, tendo por objetivo evitar riscos e garantir que a tecnologia seja empregada de forma a promover a justiça e proteger os direitos fundamentais. A regulação é apontada como crucial para assegurar que a implementação da IA seja compatível com os princípios éticos e legais.

Inteligência Artificial nos Tribunais: Desafios Éticos e Jurisdição, 2024

A Inteligência Artificial vem substituindo diversas tarefas humanas. Com controles ainda imaturos, algumas decisões tomadas com base em sistemas inteligentes podem gerar prejuízos irreversíveis. No contexto judicial, o cenário nebuloso urge por um debate profundo que inclui diversidade e inclusão nas equipes de desenvolvimento, interoperabilidade dos sistemas, discriminação algorítmica e opacidade das máquinas. O preconceito e a discriminação estão presentes em nossa sociedade e, consequente mente, também contaminam sistemas cujos algoritmos são desenhados por seres humanos. A transparência de sistemas de IA é essencial para garantia do devido processo legal ou contraditório e da ampla defesa. Diante do imprescindível olhar pelos direitos humanos, vamos embarcar no sensível dilema entre a importante contribuição de sistemas inteligentes para o Poder Judiciário e a necessidade de elaborar controles jurisdicionais efetivos.

A tecnologia no âmbito jurídico se tornou um instrumento indispensável, uma vez que apresenta soluções inovadoras, que aumentam a eficiência, acessibilidade e transparência do sistema de justiça, auxiliando e otimizando o trâmite das práticas jurídicas, sobretudo porque permite tornar célere os procedimentos, bem como reduz os custos processuais. Visando efetivar a prestação jurisdicional, o Poder Judiciário tem utilizado da Inteligência Artificial como alternativa capaz de garantir a segurança jurídica e proporcionar soluções inovadoras que aumentam a eficiência, acessibilidade e transparência no âmbito do Poder Judiciário. Os benefícios dessa ferramenta vão desde a automação de tarefas repetitivas, a pesquisa e localização de documentos relevantes, a leitura de peças, a identificação de causas de prevenção e de temas repetitivos, até a prolação de decisões judiciais. Diante disso, o presente artigo tem por escopo analisar a importância da Inteligência Artificial, partindo da seguinte hipótese: a IA pode ser considerada um mecanismo facilitador no âmbito processual brasileiro, colaborando com a efetividade da prestação jurisdicional e com o acesso à Justiça. No aspecto metodológico, adotou-se a pesquisa teórica e o raciocínio científico hipotético dedutivo, partindo de considerações fundamentais sobre a Inteligência Artificial para, depois, verificar suas possíveis aplicações no âmbito jurídico e por fim, os eixos temáticos do presente trabalho são associados com a finalidade de descrever algumas contribuições da Inteligência Artificial para o Acesso à Justiça, sem prejuízo da reflexão sobre certas dificuldades que se apresentam.

Monografia (Graduação - Direito) - Universidade de Brasília, 2024

Esta monografia investiga as aplicações e limitações da Inteligência Artificial Generativa (IAG) no campo jurídico, com ênfase no estudo de caso do Tribunal de Contas da União (TCU) e na análise da utilidade de assistentes jurídicos desenvolvidos na plataforma ChatGPT. A pesquisa aborda os fundamentos e a evolução das Inteligências Artificiais (IAs), com foco nas tecnologias generativas baseadas em grandes modelos de linguagem (Large Language Models – LLMs), destacando suas potencialidades e limitações. São examinados os principais casos de uso, como a sumarização de documentos, a pesquisa jurídica por meio de buscas semânticas e a assistência na elaboração de peças processuais, além das técnicas de Engenharia de Prompt, que otimizam as respostas geradas pela IA. Também são analisados os desafios técnicos, éticos e legais relacionados à implementação dessas tecnologias, incluindo questões de privacidade, viés algorítmico, transparência e conformidade com a Lei Geral de Proteção de Dados (LGPD), a Resolução nº 332/2020 do Conselho Nacional de Justiça (CNJ), bem como uma análise sumária do Projeto de Lei nº 2.338/2023, que propõe a regulamentação da IA no Brasil. Identificam-se problemas nesse projeto, como imprecisões terminológicas e preocupações com a carga regulatória excessiva, que podem impactar negativamente o desenvolvimento da IA no país, especialmente para pequenas e médias empresas (PMEs). O estudo de caso do TCU revela iniciativas inovadoras como o ChatTCU e o INACIA (Instrução Assistida com Inteligência Artificial), evidenciando o impacto positivo da IAG na eficiência e precisão dos processos de auditoria e controle, sempre observando as salvaguardas éticas e legais. A pesquisa avalia ainda a percepção dos profissionais do TCU quanto à adoção dessas tecnologias, identificando barreiras relacionadas ao conhecimento técnico e oportunidades para sua implementação. Os resultados indicam que os assistentes jurídicos desenvolvidos aumentam significativamente a produtividade, melhorando a eficiência na realização de tarefas como pesquisa jurídica, revisão de documentos e elaboração de peças processuais. Além disso, constatou-se que essas ferramentas podem reduzir erros humanos, oferecendo suporte em processos complexos e contribuindo para a democratização do acesso à informação jurídica. O trabalho propõe diretrizes para uma implementação e uso pragmático e responsável da IA Generativa no Direito, enfatizando a necessidade de validação das informações, mitigação de riscos e responsabilidade compartilhada entre desenvolvedores e usuários. Nesse sentido, sugere-se que a IA Generativa seja encarada como uma extensão do conhecimento negocial e da capacidade intelectual dos usuários, numa abordagem denominada co-inteligência. Conclui- se que, embora existam limitações técnicas e desafios éticos, a IAG apresenta grande potencial para aprimorar os processos jurídicos, desde que utilizada com supervisão humana e de forma responsável, respeitando as melhores práticas internacionais e o contexto jurídico brasileiro.

Revista Contemporânea, 2023

INTELIGÊNCIA ARTIFICIAL GENERATIVA E FUNDAMENTAÇÃO DA DECISÃO JUDICIAL, 2023

A inteligência artificial generativa oferta modelos multimodais de linguagem que vêm encantando e promovendo mudanças significativas em diversos setores da sociedade. O objetivo deste estudo é avaliar o contexto da fundamentação da decisão judicial, na atualidade, perante o advento de tais modelos. Perpassando pela análise do chamado constitucionalismo digital e a normativa processual, ofertamos os contornos necessários do devido processo legal tecnológico para nortear a discussão. É pressuposto fundamental, para que possam ser utilizadas ferramentas de inteligência artificial, mormente no Poder Judiciário, que exista accountability e possibilidade de controle do aparato tecnológico, inclusive para fins de responsabilização.

Direito Público, 2022

A inteligência artificial (IA) tem sido utilizada em larga escala em variados domínios, com cada vez mais implicações sociais, éticas e de privacidade. À medida que suas potencialidades e aplicações são expandidas, surgem dúvidas sobre a confiabilidade dos sistemas equipados com IA, particularmente aqueles que empregam técnicas de machine learning que podem torná-los verdadeiras ‘caixas-pretas’. A XAI (Explainable Artificial Intelligence), ou inteligência artificial explicável, objetiva oferecer informações que ajudam a explicar o processo preditivo de determinado modelo algorítmico. Este artigo se volta especificamente para o estudo da XAI, investigando seu potencial para explicar decisões de modelos algorítmicos e combater o enviesamento dos sistemas de IA. Na primeira etapa do trabalho, é discutida a questão da falibilidade e enviesamento da IA, e como a opacidade agrava esses problemas. Na segunda parte, apresenta-se a inteligência artificial explicável e suas potenciais contrib...

2025

As contratações públicas brasileiras, essenciais à Administração e recentemente regidas pela Lei nº 14.133/2021, enfrentam desafios significativos de complexidade, morosidade e conformidade legal. Neste cenário, a Inteligência Artificial Generativa (IAG), operando por meio de Grandes Modelos de Linguagem (LLMs), emerge como uma tecnologia com potencial transformador para otimizar estes processos. O objetivo geral deste artigo foi investigar como a IAG pode contribuir de forma prática, segura e juridicamente adequada para o aperfeiçoamento das fases de planejamento, seleção do fornecedor e gestão contratual no Brasil. Para tal, adotou-se uma metodologia mista, combinando uma revisão crítica de literatura sobre as potencialidades, limites e desafios ético-legais da IAG no contexto da Nova Lei de Licitações, com um estudo empírico focado na análise de desempenho e utilidade do assistente especializado "Oráculo Jurídico Contratações Públicas", um GPT customizado com conhecimento específico via Retrieval-Augmented Generation (RAG). Os resultados indicam que a IAG demonstra capacidade significativa para aumentar a eficiência processual, agilizando a pesquisa normativa, a análise de documentos volumosos e a elaboração assistida de peças técnicas como Estudos Técnicos Preliminares. A análise do GPT "Oráculo", que acumulou mais de 5.000 chats e obteve avaliação média de utilidade de 4.75/5, corrobora a percepção de valor pelos profissionais, evidenciando seu potencial para otimizar rotinas e centralizar informações. Discute-se, contudo, a imperativa necessidade de abordar os riscos inerentes, como vieses algorítmicos, proteção de dados (LGPD), transparência e a indelegabilidade da competência decisória, reforçando que a IAG não substitui o julgamento humano qualificado. Conclui-se que assistentes de IAG podem configurar-se como ferramentas auxiliares valiosas para a efetivação dos objetivos da Lei 14.133/2021, promovendo maior agilidade e segurança jurídica. No entanto, sua implementação bem-sucedida depende de planejamento estratégico, estrito respeito às balizas jurídicas e éticas, e, fundamentalmente, da indispensável supervisão e validação final por parte dos agentes públicos competentes, assegurando a responsabilidade e a primazia do interesse público.

Revista de Direito do Consumidor, 2025

O presente artigo examina o conceito de Inteligência Artificial inserido no direito brasileiro. Para tanto, se analisa a evolução histórica e técnica da inteligência artificial (IA), destacando marcos desde a formalização lógica de McCulloch e Pitts até o aprendizado profundo moderno. Em seguida, analisamos a natureza jurídica da IA no direito brasileiro, explicando que, embora a IA seja tecnicamente um software protegido por direitos autorais, possui características únicas. Por fim, o artigo apresenta e justifica o conceito jurídico de IA aprovado pelo Tribunal Superior Eleitoral em 2024 como primeiro no ordenamento brasileiro. Essa definição inclui lógica, representação do conhecimento e aprendizado de máquina, além da capacidade de produzir conteúdos sintéticos. Inspirado no modelo europeu do AI Act, o conceito busca neutralidade tecnológica e adaptabilidade, servindo como base para futuras legislações nacionais que conciliem inovação, proteção de direitos fundamentais e segurança jurídica. Palavras-chave: Conceito de inteligência artificial-Consumidor-Natureza jurídica do software-Direito digital.

VI ENCONTRO VIRTUAL DO CONPEDI DIREITO, GOVERNANÇA E NOVAS TECNOLOGIAS III , 2023

Todos os direitos reservados e protegidos. Nenhuma parte deste anal poderá ser reproduzida ou transmitida sejam quais forem os meios empregados sem prévia autorização dos editores.