Uma tecnologia de inteligência artificial criada no Rio Grande do Sul foi a protagonista de um marco na segurança jurídica brasileira. O sistema Galileu, desenvolvido pelo Tribunal Regional do Trabalho da 4ª Região (TRT4), em Porto Alegre, identificou e barrou uma técnica de manipulação conhecida como prompt injection em um processo na cidade de Parauapebas (PA). Na prática, advogadas inseriram instruções ocultas na petição — como textos da mesma cor do fundo do arquivo — para tentar "ordenar" que a IA ignorasse fatos e fizesse uma análise superficial favorável.

A tentativa de fraude não contava com o conceito de "segurança por desenho" do Galileu. Ao processar o documento, o sistema não apenas bloqueou os comandos maliciosos, como emitiu um alerta imediato ao juiz responsável, detalhando a estratégia de engano. Como consequência, as profissionais envolvidas foram punidas com uma multa de R$ 84 mil. Segundo Natacha Moraes de Oliveira, secretária de tecnologia do TRT4, este é o primeiro caso confirmado dessa modalidade de ataque contra a IA do Judiciário, reforçando a necessidade de ferramentas institucionais robustas.

Lançado em 2024, o Galileu atua como um assistente técnico que organiza fatos e sugere minutas de sentenças, mas possui uma trava ética fundamental: ele nunca toma decisões sozinho. Todas as sugestões passam obrigatoriamente pela revisão do magistrado. Com o aprimoramento constante para detectar textos invisíveis e códigos maliciosos em PDFs, o tribunal gaúcho agora exporta segurança para outros estados, garantindo que a tecnologia sirva para acelerar a justiça, e não para contorná-la.