Sistema de Segurança de IA do TRT4 Impede Fraude em Processo Judicial
Recentemente, um caso envolvendo o uso de uma ferramenta de inteligência artificial (IA) no Tribunal Regional do Trabalho da 4ª Região (TRT4), em Porto Alegre, chamou a atenção. O sistema, conhecido como Galileu, foi responsável por identificar uma tentativa de manipulação em um processo judicial em Parauapebas, no Pará, onde advogadas tentaram inserir um 'código secreto' com a intenção de enganar a IA.
Como Funciona o Sistema Galileu
O Galileu, lançado em 2024, é um assistente projetado para auxiliar juízes na redação de sentenças. A ferramenta analisa documentos do processo, como petições e contestações, e realiza tarefas como resumir pedidos, sugerir estruturas para sentenças e buscar fundamentação em bancos de dados internos. Embora facilite o trabalho dos magistrados, todas as sugestões geradas devem ser revisadas e aprovadas pelos juízes.
Detecção de Tentativas de Manipulação
Recentemente, o Galileu se destacou ao detectar uma tentativa de 'prompt injection', uma técnica que envolve a inserção de comandos maliciosos em documentos para enganar sistemas de IA. A secretária-geral de tecnologia e inovação do TRT4, Natacha Moraes de Oliveira, explicou que essa foi a primeira confirmação de um ataque desse tipo. O sistema já havia sinalizado outros casos como suspeitos, mas, após análise humana, foram considerados falsos positivos.
O Processo de Identificação de Fraudes
O funcionamento do sistema para barrar fraudes ocorre em três etapas. Primeiramente, ao processar um documento, o Galileu identifica trechos ocultos com instruções maliciosas. Em seguida, ele emite um alerta ao juiz e neutraliza o comando malicioso, evitando que a tentativa de manipulação prossiga. É importante ressaltar que o Galileu não toma decisões; seu papel é apenas relatar as anomalias encontradas.
Segurança e Conformidade
A implementação do Galileu foi feita com foco em segurança, adotando protocolos rigorosos para detectar sinais de manipulação. Desde o desenvolvimento, os criadores do sistema já consideravam a possibilidade de interferências externas. Isso levou à criação de mecanismos que identificam textos ocultos, como aqueles que utilizam a mesma cor do fundo do documento, uma técnica comum em tentativas de fraudes.
Conclusão e Implicações Futuras
O uso do Galileu representa um avanço significativo na segurança dos processos judiciais, permitindo que o Judiciário utilize tecnologia de ponta para garantir a integridade e a eficiência de suas operações. Ao alertar sobre tentativas de manipulação e manter a supervisão humana nas decisões, o sistema não só fortalece a confiança no uso de IA no Judiciário, mas também estabelece um precedente importante para a implementação de tecnologias semelhantes em outras áreas.
Fonte: https://g1.globo.com
