El empleo de big data y modelos algorítmicos predictivos en el ámbito judicial busca optimizar la asignación de recursos, anticipar riesgos y mejorar la eficiencia. Sin embargo, su utilización choca con principios y garantías procesales fundamentales, imponiendo límites legales indispensables para asegurar el debido proceso, la no discriminación y la transparencia.
1. Principio de Legalidad y Bases Jurídicas
Las decisiones judiciales deben fundarse en normas y pruebas admitidas por la ley. Los algoritmos predictivos carecen de reconocimiento de fuente normativa y, por lo tanto, no pueden sustituir la motivación jurídica exigida por el Código Orgánico de Tribunales y la Constitución. Su uso sólo puede ser instrumental y siempre sometido a:
- Orden expresa de la ley o reglamento.
- Supervisión y validación por el juez, quien conserva la responsabilidad final.
2. Derecho al Control Humano
El derecho al control humano prohíbe decisiones tomadas exclusivamente por sistemas automatizados. En Chile, la Ley 21.719 de Protección de Datos establece el derecho a no ser objeto de decisiones basadas únicamente en tratamiento automatizado de datos, incluyendo perfiles predictivos. Este principio exige:
- Participación activa del juez en la interpretación y ponderación de la salida algorítmica.
- Posibilidad de que las partes impugnen y obtengan una explicación razonada de la influencia algorítmica en la decisión.
3. Transparencia Algorítmica y Audiencia
La transparencia algorítmica es esencial para el derecho de audiencia. El Consejo para la Transparencia requiere que los sistemas automatizados empleen:
- Publicación de la lógica general, variables consideradas y umbrales de decisión.
- Mecanismos accesibles de reclamación que permitan conocer y cuestionar el funcionamiento del algoritmo.
Sin esta transparencia, se vulnera la garantía de motivación y la capacidad de las partes para defender sus intereses.
4. Protección de Datos y Privacidad
El uso de gran volumen de datos personales en modelos predictivos judiciales implica riesgos de vulneración de privacidad y discriminación:
- La Ley 21.719 obliga a realizar Evaluaciones de Impacto en Protección de Datos cuando el tratamiento pueda afectar derechos fundamentales.
- Los datos sensibles (historia clínica, antecedentes penales, origen étnico) requieren consentimiento expreso o habilitación legal clara para su tratamiento en algoritmos de justicia.
5. Prohibición de Sesgos y No Discriminación
Los algoritmos entrenados con datos históricos adoptan sesgos estructurales, reproduciendo discriminaciones. El estándar internacional exige:
- Auditorías regulares de sesgo y equidad, documentando métricas de disparate impacto y ajuste de modelos.
- Rechazo de variables proxies de raza, género o nivel socioeconómico sin justificación objetiva.
Las jurisprudencias que empleen algoritmos deben acreditar que el sistema cumple principios de equidad y no discriminación.
6. Debida Motivación y Razonabilidad
Toda decisión judicial requiere ser motivata y fundada en hechos probados. Los algoritmos sólo pueden aportar elementos de apoyo, pero no eximen al juez de:
- Explicar cómo integró el resultado predictivo al caso concreto.
- Confrontar la salida algorítmica con la prueba testimonial y documental presentada.
- Validar la razonabilidad de las predicciones en función de la realidad fáctica.
7. Salvaguardas Procesales y Recursos
Para proteger el debido proceso, el sistema debe incorporar:
- Derecho de acceso a la fuente del algoritmo y a los datos utilizados.
- Facultades de peritos independientes para examinar modelos y código.
- Medios de impugnación, incluyendo nulidad de actuaciones cuando el uso algorítmico derive en vulneración de garantías.
El uso de big data y algoritmos predictivos en decisiones judiciales puede mejorar la eficiencia, pero queda sujeto a estrictos límites legales. El respeto al principio de legalidad, la supervisión humana, la transparencia, la protección de datos y la no discriminación son pilares que garantizan que la tecnología sea un apoyo y nunca un sustituto de la función jurisdiccional, preservando la integridad del debido proceso y los derechos fundamentales.