Proposta em tramitação na Câmara busca criar regras específicas para proteger sistemas judiciais de manipulações feitas por meio de comandos ocultos em documentos digitais.
A inteligência artificial começa a ocupar funções cada vez mais importantes no funcionamento do poder público, e essa transformação também cria novos tipos de risco. Um exemplo ganhou atenção no Congresso nos últimos dias: um projeto de lei pretende estabelecer medidas específicas contra ataques de “prompt injection”, técnica capaz de inserir comandos maliciosos em documentos para tentar alterar o comportamento de sistemas de IA. A proposta é especialmente relevante para o setor de tecnologia porque mostra como a segurança de modelos de inteligência artificial está deixando de ser apenas uma preocupação técnica e passando a fazer parte da agenda regulatória brasileira.
O assunto também ganhou importância depois que tribunais brasileiros identificaram tentativas de manipular ferramentas de inteligência artificial utilizadas na análise de processos. O Superior Tribunal de Justiça informou que encontrou petições contendo comandos ocultos e adotou medidas para investigar os casos. Ao mesmo tempo, o Conselho Nacional de Justiça vem tratando a segurança contra esse tipo de vulnerabilidade como parte da governança da IA no Judiciário.
O que muda com o projeto sobre ataques contra inteligência artificial
O Projeto de Lei 2.543/2026, apresentado na Câmara dos Deputados, estabelece medidas de prevenção, identificação, proibição e repressão a ataques de injeção de prompt e outras formas de manipulação maliciosa contra sistemas de inteligência artificial empregados em processos judiciais ou administrativos. A proposta também prevê a criação de um novo tipo penal no Código Penal para situações em que a manipulação tenha como objetivo obter vantagem indevida, provocar dano, comprometer a integridade do serviço judicial ou influenciar indevidamente um resultado automatizado. O texto está atualmente aguardando a designação de relator na Comissão de Ciência, Tecnologia e Inovação.
Na prática, o projeto tenta responder a uma característica importante dos sistemas de IA modernos: eles não analisam apenas informações estruturadas, mas também documentos produzidos por usuários. Uma petição, contrato, relatório ou outro arquivo pode conter instruções que não foram destinadas ao leitor humano, mas que podem ser interpretadas por um modelo de inteligência artificial como comandos. A proposta define “injeção de prompt” justamente como a inserção direta ou indireta de comandos, instruções, conteúdos ou sinais destinados a alterar, burlar, desviar ou subverter o comportamento esperado de um sistema de IA.
O texto prevê ainda que órgãos judiciais e administrativos estabeleçam padrões técnicos mínimos de segurança, procedimentos para detecção e resposta a incidentes, critérios de responsabilização e mecanismos para preservação de evidências digitais. Outro ponto relevante é a previsão de auditoria, em determinadas situações, de processos nos quais sistemas de IA tenham analisado documentos, inclusive para verificar possíveis sinais de manipulação. A proposta estabelece, portanto, uma combinação de segurança cibernética, governança tecnológica e responsabilização jurídica, mostrando que a proteção de sistemas de IA não depende somente do desenvolvimento de modelos mais eficientes.
Por que o prompt injection virou uma preocupação para o setor de tecnologia
O risco ganhou dimensão concreta no sistema de Justiça brasileiro porque documentos digitais podem funcionar como uma espécie de entrada para sistemas automatizados. Em maio, o STJ informou ter identificado petições contendo tentativas de prompt injection e explicou que a técnica consiste na inserção de comandos ocultos em documentos comuns para tentar influenciar modelos de inteligência artificial. Segundo o tribunal, as tentativas foram neutralizadas e passaram a ser documentadas para permitir a adoção de medidas processuais e eventual apuração administrativa ou criminal.
O episódio mostra uma mudança importante na segurança digital. Durante muitos anos, a proteção de sistemas esteve concentrada em ameaças como malware, invasões de redes, roubo de senhas e exploração de falhas de software. Com a expansão da IA generativa, entretanto, o conteúdo fornecido ao sistema também pode se transformar em um vetor de ataque, principalmente quando o modelo recebe documentos externos e precisa interpretar automaticamente seu conteúdo. O próprio CNJ destacou que soluções judiciais de IA precisam considerar riscos associados ao processamento de documentos, metadados, bases de conhecimento e outras entradas potencialmente adversariais.
Essa preocupação ultrapassa o Judiciário e pode afetar empresas que adotam inteligência artificial para automatizar tarefas internas. Sistemas usados para analisar contratos, selecionar documentos, resumir relatórios, responder clientes ou apoiar decisões corporativas também podem receber informações produzidas por terceiros. Isso significa que empresas precisarão pensar não apenas em qual modelo de IA contratar, mas também em como controlar os dados que entram no sistema, registrar as interações e verificar as respostas produzidas pela tecnologia.
Para profissionais de tecnologia, a tendência cria uma demanda maior por mecanismos de segurança específicos para inteligência artificial. Entre eles estão monitoramento, separação entre instruções confiáveis e conteúdo externo, registros de atividade, testes adversariais e supervisão humana em tarefas de maior impacto. A discussão política brasileira, portanto, pode influenciar diretamente a forma como desenvolvedores, empresas e órgãos públicos projetam sistemas de IA nos próximos anos.
Como a nova agenda de regulação da IA pode afetar empresas e usuários
O projeto sobre prompt injection não aparece isoladamente. A Câmara também mantém em tramitação uma discussão mais ampla sobre o marco regulatório da inteligência artificial, concentrada no PL 2.338/2023, que trata do desenvolvimento, fomento e uso ético e responsável da tecnologia. A proposta está sob análise de uma comissão especial e recebeu diversos projetos apensados ao longo de 2026, mostrando que o ambiente regulatório brasileiro para IA continua em construção.
Esse cenário cria um desafio para empresas de tecnologia porque diferentes regras podem afetar simultaneamente segurança, transparência, proteção de dados, responsabilidade e governança algorítmica. Para startups, uma legislação mais detalhada pode representar custos adicionais de conformidade, mas também pode aumentar a previsibilidade para investimentos e contratação de soluções de IA. Para empresas maiores, a tendência é ampliar a necessidade de equipes capazes de combinar desenvolvimento de software, segurança cibernética, proteção de dados e conhecimento regulatório.
Para o usuário comum, o efeito pode ser menos visível, mas igualmente relevante. Quanto mais serviços públicos, bancos, empresas e plataformas utilizarem IA para analisar informações ou apoiar decisões, maior será a importância de mecanismos que permitam identificar erros, manipulações e responsabilidades. A discussão legislativa pode contribuir para estabelecer padrões mínimos de segurança, mas também exigirá cuidado para que regras tecnológicas acompanhem a velocidade de evolução dos sistemas de inteligência artificial.
Os próximos passos do PL 2.543/2026 serão importantes para determinar se a proposta avançará, será modificada ou será incorporada a discussões mais amplas sobre crimes digitais e regulação da IA. Por enquanto, o projeto ainda não é lei e aguarda novas etapas de tramitação na Câmara.
A tendência, porém, é que o debate sobre segurança de inteligência artificial ganhe espaço à medida que governos e empresas ampliem o uso desses sistemas. O caso brasileiro mostra que a próxima geração de políticas digitais não deverá tratar apenas de privacidade ou uso responsável de dados, mas também da segurança dos próprios modelos. Para empresas e profissionais de tecnologia, acompanhar essas mudanças será cada vez mais importante, pois requisitos regulatórios poderão influenciar arquitetura de software, processos de auditoria e contratação de soluções de IA. Para usuários, a principal transformação será ter sistemas digitais mais submetidos a regras de transparência, segurança e responsabilização.
Câmara dos Deputados, PL 2.543/2026,
. Câmara dos Deputados, texto integral do PL 2.543/2026,
Superior Tribunal de Justiça, investigação sobre prompt injection,
TRF6, orientação do CNJ sobre manipulação de sistemas de IA,
Câmara dos Deputados, PL 2.338/2023,
Congresso Nacional, PL 2.991/2026,
Blog Tech é o seu destino definitivo para tudo que é inovação e tecnologia. Mergulhe em um mundo de descobertas com nosso conteúdo atualizado sobre as últimas tendências em gadgets, software, inteligência artificial e muito mais. Seja você um entusiasta da tecnologia ou um profissional do setor, o Blog Tech é a sua fonte confiável para tudo o que há de mais inovador e relevante no mundo tech. Fique ligado e explore o futuro da tecnologia conosco!