STJ adverte advogados sobre risco da alucinação de IAs

A Inteligência Artificial veio para otimizar o Direito, certo? Mas o que acontece quando ela simplesmente inventa a jurisprudência? O Superior Tribunal de Justiça (STJ) se deparou, nos autos do HC nº 1094270/MG, com essa resposta ao analisar um Habeas Corpus cuja peça trazia 16 decisões judiciais errôneas. Vítima da chamada alucinação de IA, o advogado responsável agora pode enfrentar uma representação na OAB.

Este caso acende um alerta sobre os limites do uso da tecnologia na justiça, o dever de boa-fé processual e o risco real para os clientes! Por isso, continue a leitura para conferir a análise do caso e entender as possíveis implicações éticas!

Clique aqui para seguir o canal do Gran Jurídico no WhatsApp! ⚖️

Alucinação de IA: entenda o caso

No dia 18 de maio de 2026, o Superior Tribunal de Justiça (STJ) analisou um pedido de liminar em Habeas Corpus impetrado em favor de um homem preso preventivamente pela suposta prática do crime de tráfico de drogas.

O relator do processo, ministro Rogerio Schietti Cruz, indeferiu o pedido de urgência após examinar os elementos dos autos, assim como a decisão de primeiro grau que decretou a prisão com base no risco de reiteração delitiva e no histórico criminal do acusado.

Todavia, antes de avaliar o pedido prisional, o ministro apontou irregularidades na petição inicial da defesa, já que, a seu ver, a peça apresentava uma estrutura incomum, dividida em onze tópicos numerados e composta quase exclusivamente por ementas de tribunais superiores, sem apresentar o desenvolvimento de raciocínio jurídico próprio, sem analisar os fatos específicos do réu e sem articular as teses com a situação concreta do assistido.

Ao ser intimado pelo magistrado para esclarecer se havia utilizado Inteligência Artificial (IA) generativa na elaboração do documento, o advogado confirmou eventual uso da tecnologia. O profissional afirmou, inclusive, ter realizado revisão técnica e adequação jurídica do conteúdo — todavia, a verificação individualizada feita pela Corte Superior demonstrou que todas as 16 citações de julgados continham erros ou dados inventados.

👉Leia a decisão sobre alucinação de IA na íntegra aqui!

O fenômeno da alucinação na Inteligência Artificial generativa

A análise minuciosa realizada identificou que as citações contidas na petição inicial apresentavam erros sistemáticos na indicação de relatores, de turmas julgadoras ou da espécie de decisão.

Em alguns casos, a ferramenta de IA generativa atribuiu a relatoria a ministros que não julgaram o caso; em outros, indicou que a decisão era um acórdão colegiado quando se tratava de uma decisão monocrática.

Mesmo nos processos em que o nome do relator estava correto, o conteúdo integral da decisão e as frases transcritas foram inventados. O relator do processo caracterizou essa situação como o fenômeno de alucinação dos modelos de linguagem de grande escala.

Trata-se de falha tecnológica que faz com que os sistemas automatizados gerem dados plausíveis na aparência, mas inteiramente falsos no conteúdo, afetando principalmente a busca por números de processos, nomes de autoridades e trechos textuais de decisões.

O ministro relator pontuou, ainda, que o uso da IA na atividade jurídica não é um ato reprovável por si só, pois serve para qualificar o trabalho e organizar a atividade judicial. O erro verificado no processo decorreu, portanto, da falta de verificação humana do material que foi produzido de forma automática.

A supervisão do profissional, no caso, foi considerada superficial ou inexistente, uma vez que a peça repetiu as referências “fabricadas” sem que nenhum dos erros fosse percebido antes do protocolo.

Implicações éticas e responsabilidade profissional na advocacia

A apresentação de peças processuais com dados inventados interfere na relação entre os sujeitos do processo e atinge todo o sistema de justiça. Conforme decisão do STJ, o advogado possui o dever de conferir os documentos e petições que assina, assumindo a responsabilidade integral por aquilo que manifesta em juízo.

Assim, a introdução de falsos precedentes a um só tempo pode induzir o julgador a erro e comprometer os deveres de boa-fé, de cooperação, de lealdade processual e de veracidade previstos na legislação processual civil, aplicável subsidiariamente ao rito penal.

Inclusive, a conduta de deturpar o teor de dispositivo de lei, de citação doutrinária ou de julgado, bem como de depoimentos, documentos e alegações da parte contrária, para confundir o adversário ou iludir o juiz da causa, é infração disciplinar prevista no artigo 34, inciso XIV, da Lei n.º 8.906/1994 (Estatuto da Advocacia e a Ordem dos Advogados do Brasil).

👉 Saiba tudo sobre as infrações disciplinares previstas do Estatuto OAB aqui!

Em razão disso, o relator determinou o envio de um ofício à Ordem dos Advogados do Brasil, acompanhado de cópia da decisão e da petição inicial, para que a instituição tome ciência dos fatos e adote as providências administrativas e disciplinares cabíveis, sobretudo porque a ausência de defesa técnica personalizada também gera prejuízos ao cliente assistido.

No caso concreto, o cidadão que estava sob privação de liberdade dependia da análise real de sua situação e recebeu uma peça composta por referências fabricadas por um sistema automatizado e protocoladas sem conferência. Diante do ocorrido, o tribunal decidiu afastar as deficiências formais da petição e analisar o pedido prisional diretamente com base nas informações e decisões fornecidas pelo juízo de origem.

Prepare-se com o Gran: Assinatura Ilimitada 11

Assine agora e receba acesso IMEDIATO a plataforma que mais aprova em concursos públicos e, o melhor, com acesso às 5 novidades da plataforma: Cronograma com 1 clique, Raio-X, Jornada do Aprovado, Legislação Comentada e a Revisão Inteligente. Faça o teste por 7 dias. O Gran está comprometido com a sua preparação! Satisfação garantida ou seu dinheiro de volta!

*Os cursos para OAB, CFC e Residências não estão disponíveis na Assinatura Ilimitada.