Desenvolvida pela startup brasileira Forlex, a OAB (Ordem dos Advogados do Brasil) começou a oferecer plataforma gratuita para identificar riscos em documentos utilizados por ferramentas de inteligência artificial na rotina da advocacia. Batizada de OpenDetector, a solução faz parte do PNIAA (Plano Nacional de Integração da Inteligência Artificial na Advocacia), criado pela entidade para orientar o uso seguro da tecnologia no exercÃcio profissional.
A plataforma identifica tentativas de prompt injection, técnica em que documentos ou mensagens carregam instruções ocultas capazes de alterar o comportamento de modelos de inteligência artificial durante a análise de informações, além de detectar ataques de jailbreak, usados para contornar mecanismos de segurança de assistentes virtuais.
A ferramenta também gera relatórios para auditoria e rastreabilidade das análises. O lançamento ocorre em um momento de rápida expansão do uso de IA por escritórios e departamentos jurÃdicos, que passaram a recorrer à tecnologia para pesquisas, elaboração de petições e análise documental.
O avanço, porém, também ampliou a preocupação com falhas de segurança e com a confiabilidade das respostas produzidas pelos modelos, especialmente quando documentos enviados por terceiros podem conter comandos capazes de influenciar o processamento das informações. Nas próximas semanas, o OpenDetector também deverá incorporar uma funcionalidade para identificar alucinações de inteligência artificial, verificando a existência de citações, jurisprudências e dispositivos legais mencionados nas respostas geradas por esses sistemas.
"O risco deixa de estar apenas na resposta da inteligência artificial e passa a estar também no documento recebido. Um arquivo aparentemente comum pode conter instruções invisÃveis capazes de induzir uma IA a trabalhar contra os interesses do próprio advogado", afirma Daniel Bichuetti, co-CEO e diretor de tecnologia da Forlex.
Segundo o presidente nacional da OAB, Beto Simonetti, a ferramenta inaugura a implementação prática do plano nacional voltado à integração da inteligência artificial na advocacia. "A inteligência artificial já integra a rotina da advocacia e exige respostas institucionais que conciliem inovação, segurança jurÃdica e ética profissional. O OpenDetector demonstra o compromisso da OAB em oferecer ferramentas que fortaleçam a atuação dos advogados e das advogadas em todo o paÃs", diz.
De acordo com a Forlex, a plataforma é compatÃvel com qualquer sistema jurÃdico baseado em inteligência artificial e poderá ser utilizada como uma etapa adicional de verificação antes da produção de peças processuais, pareceres e pesquisas jurÃdicas. O acesso será gratuito para advogados regularmente inscritos na OAB mediante cadastro na plataforma da empresa.