O Superior Tribunal de Justiça (STJ) identificou tentativas de manipulação de sistemas de inteligência artificial por meio da técnica conhecida como prompt injection. Esse tipo de ataque utiliza comandos ocultos em documentos para tentar influenciar respostas e comportamentos de modelos de IA.

Segundo o tribunal, as tentativas foram bloqueadas pelas camadas de proteção da plataforma de IA utilizada pela corte, mas o caso resultou na abertura de investigação policial e administrativa.

O episódio reforça um alerta importante para empresas e órgãos públicos que estão acelerando a adoção de IA generativa:

🔹 Sistemas de IA podem ser manipulados por entradas maliciosas
🔹 Documentos processados por IA devem ser tratados como potencialmente hostis
🔹 Segurança em IA exige governança, validação, filtros e monitoramento contínuo
🔹 O risco não está apenas no modelo, mas em toda a cadeia de uso da IA

À medida que a inteligência artificial ganha espaço em ambientes corporativos, jurídicos e governamentais, cresce também a necessidade de estratégias robustas de AI Security.

A discussão agora não é mais se a IA será adotada, mas se ela está preparada para resistir a ataques sofisticados.