O ministro Alexandre de Moraes, do Supremo Tribunal Federal (STF), aplicou uma multa de 5 mil reais a um advogado que incluiu um comando oculto em uma petição protocolada na Corte, numa tentativa de manipular o sistema de inteligência artificial utilizado pelo tribunal.
O fato e os números
De acordo com a InfoMoney, a técnica utilizada é conhecida como prompt injection, termo que descreve a inserção de instruções escondidas em um texto com o objetivo de alterar o comportamento de um sistema de inteligência artificial que venha a processá-lo.
No caso, o comando oculto tentava induzir a IA do STF a negar comandos de análise prévia da petição. A multa de 5 mil reais foi aplicada diretamente pelo ministro Alexandre de Moraes.
Contexto e por que importa
O episódio é apontado como um precedente relevante sobre ética e governança no uso de inteligência artificial no Judiciário brasileiro. Tribunais em todo o país têm adotado sistemas de IA para auxiliar na triagem e análise de processos, o que torna a integridade desses sistemas uma questão central para o funcionamento da Justiça.
A tentativa de manipulação por meio de comandos ocultos expõe um tipo de vulnerabilidade que não depende de falhas técnicas no sistema, mas do uso indevido de texto para enganar a ferramenta.
O que muda para o mercado jurídico
A decisão sinaliza que tentativas de burlar sistemas de IA em processos judiciais podem ser tratadas como infração passível de punição, o que tende a gerar cautela entre advogados ao lidar com peças processuais analisadas por ferramentas automatizadas.
Escritórios de advocacia e profissionais do direito devem passar a considerar a integridade e a transparência no uso de textos protocolados eletronicamente, à medida que tribunais ampliam o uso de inteligência artificial em suas rotinas.
O que observar daqui para frente
O caso pode influenciar a criação de normas mais específicas sobre o uso de inteligência artificial em tribunais brasileiros, bem como regras de conduta para advogados em relação a peças processuais analisadas por sistemas automatizados.
Deixe um comentário