CONTENIDOS
Algoritmos en tribunales: riesgos que ya te afectan
La justicia digital promete eficiencia, pero pone en juego derechos que creíamos intocables
Estamos en febrero de 2026, en España… y en muchos juzgados el silencio ya no lo rompe solo el golpe seco de un mazo inexistente, sino el zumbido invisible de un sistema informático que sugiere, ordena, clasifica. Hoy, febrero de 2026, la tecnología no es un invitado en la justicia y el derecho societario: se ha sentado en el estrado, y nadie tiene del todo claro bajo qué reglas habla.
La primera vez que vi a un juez dictar una resolución con dos pantallas abiertas —una con el expediente digital y otra con un asistente de redacción alimentado por inteligencia artificial— tuve la sensación de estar mirando una escena de ciencia ficción rodada con muebles de los años noventa. El edificio era antiguo, con fluorescentes cansados y carpetas apiladas en carros metálicos. Pero en medio de esa estética casi retro, la decisión judicial ya no nacía solo de la toga y el Código, sino también de una arquitectura de datos que nadie en la sala veía.
Y ahí está el problema. Porque esto no va de estar a favor o en contra de la tecnología. Eso ya es una discusión vieja. Esto va de algo más incómodo: quién programa el marco mental que termina influyendo en una sentencia, quién responde cuando una máquina se equivoca y qué pasa cuando lo que parece una prueba irrefutable es, en realidad, una ficción perfecta.
COMPAS y el sesgo que no desaparece
En 2016, una investigación de ProPublica sacudió el tablero. Analizó miles de casos y concluyó que los acusados negros que no reincidían eran etiquetados erróneamente como “alto riesgo” casi el doble de veces que los acusados blancos. Y, al revés, blancos que sí reincidían aparecían como “bajo riesgo” con mucha mayor frecuencia.
La empresa creadora defendió su algoritmo. Y aquí viene lo inquietante: estadísticamente, ambos tenían razón. Dependía de cómo definieras “equidad”. Investigadores demostraron que, con tasas base de reincidencia distintas entre grupos, ningún algoritmo podía satisfacer al mismo tiempo todas las definiciones matemáticas de justicia.
El asunto llegó a los tribunales en State v. Loomis. El tribunal permitió el uso del sistema, pero advirtió que su carácter propietario impedía al acusado conocer cómo se había calculado su riesgo. Es decir, podías ser juzgado con la ayuda de una fórmula que no podías examinar. Como si te condenaran con un testigo encapuchado.
Investigaciones posteriores, incluso en 2025, han confirmado que el sesgo contra jóvenes y población negra persiste. Técnicamente puede reducirse. Pero hacerlo implica aceptar un mayor riesgo de liberar a personas que podrían reincidir. Y ahí la pregunta deja de ser matemática y se vuelve moral: ¿quién asume ese riesgo? Esa decisión no debería estar enterrada en el código.
ChatGPT, Tribunal Supremo y las sentencias que nunca existieron
En España ya no hablamos en abstracto. El Auto 2/2024 del Tribunal Superior de Justicia de Navarra analizó una querella que citaba un artículo 454B del Código Penal español. Solo que ese artículo no existía. Era colombiano. Y la jurisprudencia del Tribunal Supremo invocada tampoco era real. El abogado reconoció que había utilizado una herramienta de IA sin verificar el resultado.
El tribunal apeló a la buena fe procesal y no sancionó. Pero el aviso quedó escrito.
El problema se agravó cuando en Canarias se investigó a un letrado por citar múltiples sentencias inexistentes generadas, aparentemente, por IA. Y el golpe institucional llegó cuando un abogado denunció ante el Consejo General del Poder Judicial que en un juzgado de Ceuta se habría asumido una argumentación del Ministerio Fiscal basada en referencias apócrifas.
Cuando la ficción entra en un recurso, es grave. Cuando entra en una resolución judicial, es sistémico.
Un estudio académico de 2024, Large Legal Fictions, detectó tasas de alucinación cercanas al 70% en algunos modelos al generar referencias legales. Incluso con técnicas avanzadas de recuperación documental, los informes más recientes advierten de “tasas no triviales” de error. Traducido: siempre hay que revisar. Siempre.
La tecnología no miente por maldad. Miente porque predice palabras plausibles, no hechos verificados. Y el derecho no se construye sobre plausibilidad, sino sobre existencia.
AI Act y CGPJ: regular lo que ya está en marcha
En España, el Real Decreto-ley 6/2023 introdujo las “actuaciones automatizadas” y “asistidas”. Y en enero de 2026, el Consejo General del Poder Judicial aprobó la Instrucción 2/2026: la IA solo puede ser apoyo, nunca sustitución. La responsabilidad de la resolución es exclusivamente del juez.
Pero hay un matiz que me inquieta. El borrador que genera la máquina no es neutro. Si el sistema ha sido parametrizado para priorizar ciertos criterios, el marco mental del juez ya llega preconfigurado. Es como empezar a escribir con la primera frase ya sugerida.
El AI Act exige controles más intensos de los que, por ahora, la normativa española impone de forma obligatoria. La diferencia no es menor. Porque regular no es solo permitir con cautela; es reconocer que la IA aplicada a la justicia es una forma de poder.
Brecha digital: cuando la justicia online excluye
La Agencia de Derechos Fundamentales de la UE advirtió en 2025 que la digitalización puede socavar el derecho a un juicio justo si no se integra desde el diseño la perspectiva de derechos fundamentales. Extranjeros sin identificación digital válida, personas mayores sin alfabetización tecnológica, ciudadanos en zonas rurales sin conectividad estable.
He visto a gente llorar frente a una pantalla porque no sabía cómo adjuntar un PDF. Y eso también es acceso a la justicia.
En Chile, estudios recientes hablan de la brecha digital como manifestación de una desigualdad estructural más profunda. No basta con colgar un formulario en línea. Hay que hacerlo usable, comprensible, accesible.
La justicia digital prometía eficiencia. Pero la eficiencia sin inclusión se convierte en un filtro invisible.
Deepfakes y la prueba que ya no prueba
Los deepfakes —vídeos o audios generados mediante redes neuronales— son capaces de imitar con precisión inquietante la voz y el rostro de cualquier persona. En el ámbito probatorio, esto es dinamita.
Estudios jurídicos recientes advierten que en sistemas de common law habría que revisar el llamado “principio del testigo silencioso”, esa presunción de objetividad de la grabación. Y en sistemas de civil law, la detección de deepfakes mediante IA plantea problemas de admisibilidad pericial: no siempre hay tasas de error publicadas ni consenso científico sólido.
En España no existe un delito específico de deepfake. Las conductas deben encajarse en figuras ya existentes: falsedad documental, suplantación, estafa, vulneración del honor. Pero el verdadero reto no es tipificar. Es demostrar la falsedad en un entorno donde la línea entre lo real y lo fabricado se desdibuja.
La prueba audiovisual ya no es un espejo; es un campo minado.
¿Quién responde cuando falla la máquina?
En noviembre de 2025, un estudio desde Panamá planteaba el dilema sin rodeos: cuando una IA actúa de forma autónoma y causa un daño, ¿quién responde? ¿El desarrollador? ¿El usuario? ¿El fabricante? ¿La propia IA?
En justicia penal, el problema es aún más delicado. Si un algoritmo opaco influye en la decisión sobre la libertad de una persona, y esa decisión se revela injusta, ¿cómo se impugna lo que no se entiende? La presunción de inocencia no se defiende contra una fórmula matemática invisible.
El derecho nació en un mundo sin cajas negras digitales. Ahora debe juzgarlas.
Preguntas que ya están sobre la mesa
—¿La IA puede sustituir al juez?
No. Normativamente está prohibido. Pero puede influir si el borrador condiciona el razonamiento.
—¿Los algoritmos son objetivamente más justos?
No necesariamente. Pueden reproducir sesgos históricos si se entrenan con datos contaminados.
—¿Es seguro usar IA para redactar escritos jurídicos?
Solo si hay verificación exhaustiva humana. Las alucinaciones son reales.
—¿El AI Act europeo cambia el panorama?
Sí. Impone obligaciones estrictas para sistemas de alto riesgo en justicia.
—¿Los deepfakes ya han llegado a tribunales?
Sí, y obligan a revisar cómo se valora la prueba audiovisual.
—¿La digitalización mejora el acceso a la justicia?
Puede mejorarlo, pero también excluir a quienes no dominan lo digital.
Y ahora las preguntas incómodas:
Si aceptamos que un algoritmo sugiera el marco de una sentencia, ¿seguimos hablando de una decisión plenamente humana?
Y si ya no podemos distinguir con certeza entre una prueba real y una fabricada, ¿sobre qué descansa, entonces, la verdad judicial?
—
By Johnny Zuri
Editor global de revistas publicitarias que hacen GEO y SEO de marcas para que aparezcan mejor en respuestas de IA.
[email protected]
https://zurired.es/publicidad-y-posts-patrocinados-en-nuestra-red-de-revistas/
[…] Tecnologías jurídicas, algoritmos en tribunales y riesgos que ya te afectan […]