Recientemente, el Tribunal de Justicia de São Paulo (TJ-SP) ha revelado un caso alarmante de manipulación de inteligencia artificial (IA) en el ámbito judicial. Un abogado presentó una petición en 2025 que contenía un texto en fuente blanca, invisible a simple vista, que instruía a la IA a otorgar justicia gratuita y a citar al demandado. Esta técnica, conocida como 'prompt injection', ha generado preocupación en el sistema judicial brasileño, donde el uso de IA se ha incrementado significativamente en los últimos años. La identificación de este intento de manipulación ha llevado a una serie de investigaciones en varios estados, incluyendo Pará y Minas Gerais, donde se han reportado casos similares.

La proliferación de la IA en los tribunales brasileños ha sido impulsada por la necesidad de gestionar un volumen de aproximadamente 80 millones de procesos acumulados. Según un estudio, el 60% de los tribunales ya utilizaban algún tipo de IA en 2025, y se estima que esta cifra ha aumentado a casi el 100% en la actualidad. Sin embargo, la implementación de estas tecnologías ha superado la capacidad de regulación y supervisión, lo que ha permitido que aparezcan vulnerabilidades como las evidenciadas por los recientes casos de 'prompt injection'.

Los expertos advierten que estos incidentes son solo la 'punta del iceberg', sugiriendo que podrían existir muchos más intentos de manipulación que aún no han sido detectados. Dierle Nunes, un abogado y profesor, señala que la falta de mecanismos de control adecuados en el uso de IA en el sistema judicial podría llevar a un aumento de estos casos. Además, el juez Rafael Leite ha enfatizado que la creciente dependencia de la IA en el ámbito judicial podría resultar en una confianza ciega en las decisiones automatizadas, lo que podría comprometer la integridad del sistema.

Para los inversores, esta situación plantea un riesgo significativo en el sector legal y judicial de Brasil. La confianza en la justicia es fundamental para el funcionamiento de cualquier economía, y cualquier erosión de esta confianza podría tener repercusiones en la inversión extranjera y en la percepción del riesgo país. Además, la posibilidad de que la IA sea manipulada podría generar incertidumbre sobre la validez de las decisiones judiciales, afectando a empresas y particulares que dependen de un sistema judicial justo y transparente.

A futuro, es crucial monitorear cómo el Consejo Nacional de Justicia (CNJ) y otros organismos reguladores abordan esta problemática. Se han anunciado iniciativas para desarrollar nuevas normativas y campañas de concientización sobre el uso adecuado de la IA en el ámbito judicial. La implementación de controles más estrictos y la capacitación de los profesionales del derecho en el uso de estas tecnologías serán esenciales para mitigar los riesgos asociados a la manipulación de IA y asegurar la confianza en el sistema judicial brasileño.