Los jueces (alemanes) que amaban el uso de la inteligencia artificial – Negocios.com
Cuándo la inteligencia artificial en los juzgados se convierte en un problema de confianza
Un tribunal alemán utilizó ChatGPT para buscar información sobre legislación georgiana y luego citó esa información en su resolución. El detalle que lo delató: cinco de doce enlaces llevaban la etiqueta «utm_source=chatgpt.com». Lo que comenzó como un descuido técnico ha expuesto una cuestión mucho más profunda sobre cómo deben funcionar los juzgados en la era de la IA generativa.
El Tribunal Superior Administrativo de Hesse no ha negado que usara la herramienta. Su defensa fue que ChatGPT solo sirvió para localizar fuentes, que después verificaron. Ahí está el problema: esa verificación no aparece reflejada en la sentencia, y además, algunos de los enlaces citados contienen información que no respalda realmente lo que el tribunal afirma en su texto.
Hay una diferencia crucial que debes entender. No es lo mismo usar IA para ordenar documentos o facilitar búsquedas que permitir que genere los fundamentos jurídicos de una resolución. El tribunal alemán parece haber cruzado esa línea sin darse cuenta, o sin querer admitirlo claramente.
Los errores detectados son concretos. En algunos casos, la sentencia remitía a legislación de 2025 cuando debía analizar normas de años anteriores. En otro, citaba un artículo de 2025 para justificar la ampliación de un decreto que no ocurrió hasta febrero de 2026. Aislados, parecen triviales. Pero en una sentencia judicial, representan algo grave: la imposibilidad de reconstruir desde fuera cómo llegó el tribunal a sus conclusiones.
Aquí está lo fundamental. Una resolución judicial no gana legitimidad solo porque llegue a la conclusión correcta. También debe permitir al ciudadano entender por qué el juez decidió así y verificar las fuentes sobre las que se apoyó. Si cita una fuente que no dice lo que pretende, el problema ya no es formal. Es de fondo. Se erosiona la confianza en la justicia porque nadie puede comprobar el razonamiento real.
El tribunal sostiene que los errores no afectaron la decisión de fondo y que comprobó la información por otras vías. Pero eso plantea una pregunta incómoda: si las fuentes realmente usadas no aparecen bien identificadas en la sentencia, ¿cómo puede el ciudadano confiar en que el análisis fue riguroso?
Aquí entra la defensa que hace el tribunal: invoca la independencia judicial. Los jueces, argumentan, deben poder usar las herramientas que consideren útiles para preparar sus trabajos internamente. La lógica tiene sentido. Nadie espera que los magistrados trabajen al margen de la tecnología disponible.
Pero ese argumento no cierra el asunto. Existe una diferencia entre usar bases de datos como herramienta interna y citar referencias que no verificaste adecuadamente. La independencia judicial no protege el derecho a razonar mal ni a ocultar el proceso de trabajo tras una máquina.
El riesgo real es que una respuesta de IA aparentemente convincente y bien formateada sobreviva a la revisión sin que nadie compruebe el documento original con suficiente cuidado. Es lo que parece ocurrió aquí. Y es exactamente lo que los tribunales europeos tendrán que regular en los próximos años.
