A possibilidade de inserir comandos ocultos em documentos para tentar influenciar sistemas de inteligência artificial abre uma nova frente no debate sobre o avanço da IA no Direito brasileiro. Conhecida como prompt injection, a técnica utiliza instruções inseridas em conteúdos que serão processados por sistemas de inteligência artificial com o objetivo de alterar ou direcionar suas respostas.
Essas instruções podem ser disfarçadas em documentos por meio de recursos como letras brancas, fontes de tamanho reduzido ou outras formas de ocultação de texto. O risco surge quando ferramentas de inteligência artificial interpretam essas informações como comandos a serem executados, em vez de tratá-las apenas como parte do conteúdo analisado. Em ambientes jurídicos, essa vulnerabilidade ganha relevância diante do volume de petições, decisões e documentos processuais submetidos à análise automatizada.
Segurança entra no centro do debate
Para Lucas Barbosa Oliveira, advogado e fundador da Iter, empresa de tecnologia especializada em inteligência artificial aplicada ao contencioso tributário, esse tipo de vulnerabilidade acrescenta uma nova dimensão à discussão sobre IA no Direito: além da qualidade das respostas produzidas pelos modelos, será necessário discutir a segurança das informações que os alimentam e a capacidade de identificar tentativas de manipulação.
“Os advogados agora têm que usar inteligência artificial. Não é mais uma questão de se eu vou ou não usar, mas de como eu vou usar. E isso passa necessariamente por segurança, rastreabilidade e responsabilidade sobre aquilo que é produzido”, afirma.
Ferramentas generalistas e sistemas jurídicos
O debate também evidencia uma diferença importante entre o uso de ferramentas generalistas e sistemas desenvolvidos especificamente para ambientes jurídicos. Em aplicações profissionais, explica Lucas Barbosa Oliveira, não basta que a inteligência artificial produza uma resposta aparentemente correta. É necessário saber quais informações foram utilizadas, de onde vieram e como participaram da construção do resultado.
“Todas as informações utilizadas pelos agentes precisam ser rastreáveis e conferíveis. O advogado continua responsável por fazer a conferência e a validação daquilo que é produzido pela inteligência artificial”, afirma.
Rastreabilidade em cada etapa
Na Iter, a arquitetura foi desenvolvida para trabalhar com uma base de conhecimento jurídico previamente curada e dentro de um ambiente controlado. A tecnologia acompanha movimentações processuais, identifica novas decisões, classifica informações, relaciona precedentes e prepara minutas para revisão do advogado responsável. A decisão jurídica e a validação final permanecem humanas.
“Nossos engenheiros investiram recursos e bastante tempo no desenvolvimento da telemetria, uma ferramenta que nos permite monitorar e identificar exatamente quais informações foram mobilizadas em cada etapa do processo, conferindo a rastreabilidade total das informações que estão sendo mobilizadas em cada etapa do processo. Não abrimos mão da segurança, esse controle é fundamental.”
Uma nova camada de governança
Para Lucas Barbosa Oliveira, os riscos envolvendo tentativas de manipulação não significam que a adoção de inteligência artificial pelo Direito deva desacelerar. Ao contrário, reforçam a necessidade de uma nova camada de governança tecnológica. À medida que tribunais, escritórios e departamentos jurídicos incorporam sistemas capazes de interpretar documentos e executar etapas de fluxos processuais, segurança, rastreabilidade e supervisão tendem a se tornar tão relevantes quanto a própria capacidade dos modelos.
Por Eluan Carlos