La Cámara en lo Penal de la Circunscripción Judicial de Esquel (Chubut) dictó un fallo histórico que anuló una condena penal al comprobar que el juez de primera instancia empleó indebidamente un sistema de inteligencia artificial generativa para redactar partes de la sentencia.
Se trata de la sentencia N.º 1239/2025, dictada el 4 de junio de 2025 por un juez penal de Esquel, que había condenado a un acusado (R.A.P.) a 2 años y 6 meses de prisión efectiva por un delito de robo. En la revisión del caso, los jueces de la Cámara advirtieron una llamativa frase en el texto de la sentencia condenatoria que delató la intervención de una herramienta automatizada en la fundamentación del fallo.
Al inicio del apartado “Punto IV” de la sentencia de primera instancia –destinado a resolver planteos probatorios de la defensa– se incluyó literalmente la siguiente oración: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar:”
Los jueces Hernán Dal Verme, Martín Eduardo Zacchino y Carina Paola Estefanía indicaron que la utilización de esa herramienta tecnológica, sin trazabilidad ni control humano visible, implicó una delegación prohibida de funciones jurisdiccionales, en infracción a lo previsto por los artículos 16 y 75 del Código Procesal Penal de la Provincia del Chubut. También se advirtió una afectación a la garantía de debido proceso y a la exigencia constitucional de motivación suficiente, ya que no fue posible reconstruir el razonamiento jurídico que sustentaba la decisión.
Los tres magistrados coincidieron en declarar la nulidad de la sentencia y del juicio que la precedió. En sus fundamentos, citaron el Acuerdo Plenario 5435/2025 del Superior Tribunal de Justicia de Chubut, que aprueba las Directrices Éticas para el uso de Inteligencia Artificial Generativa en el Poder Judicial. Dicho marco normativo establece la prohibición de delegar la toma de decisiones en sistemas automatizados, exige transparencia en el uso de estas herramientas, y establece como condición necesaria el control humano y la protección de los datos sensibles involucrados.
“Una gran parte de los/as magistrados/as que integramos los distintos poderes judiciales de nuestro país, somos parte de una generación formada en tiempos en que la tecnología no impactaba en todos los ámbitos de la vida de las personas, del modo en que opera en la actualidad. En lo profesional, nos toca enfrentar el reto de la Inteligencia Artificial aplicada a la Justicia y utilizarla”, señaló la jueza Estefanía en su voto particular.
La magistrada aseguró que “la argumentación jurídica deberá basarse en un razonamiento lógico e integrado, capaz de comprender la normativa jurídica, la trama social compleja, pero también, el lenguaje natural y el fenómeno tecnológico. El desarrollo de la Inteligencia Artificial, del Big Data, blockchain, y de todo el avance científico, impone la composición de esas normas jurídicas a dicha realidad tecnológica, que debe realizarse respetando normas éticas, con transparencia, coherencia, equilibrio, y sobre todo, promoviendo los ideales republicanos y democráticos, para lo cual resulta trascendental, la capacitación de los operadores judiciales”.
En el mismo sentido, señaló: "Al no mencionar cual es la asistencia requerida, desconocemos cual ha sido el “prompt” o instrucción que se le dio al asistente de inteligencia artificial; en cualquier caso, al tratarse de la resolución de un planteo de la Defensa del acusado” , la decisión debe ser analizada a la luz del art. 16 del CPP que establece que “es falta grave a los fines pertinentes delegar o pretender delegar indebidamente en otra autoridad lo que compete al requerido por la persona que él acuda”.
A su turno, el juez Zachino hizo algunas diferenciaciones, entendió que “más allá de la torpeza del sentenciante y la cualidad delatora de la frase que precede al capítulo IV, aún no es suficiente para tildar de nulo el decisorio por cuanto el Acuerdo Plenario n° 5435/2025 del Superior Tribunal de Justicia de la provincia del Chubut, autoriza el uso del ChatGPT y de la IA Generativa, aunque en base a un protocolo –aprobado en dicho Acuerdo como Anexo- cuyos lineamientos son de cumplimiento obligatorio”.
Para el camarista, “podría decirse ab initio que pese al furcio del juez R., no se ha conculcado la reglamentación indicada en el punto c. precedente. Pero, a poco andar tal ideación decae, dando lugar a una decisión que, aunque pudo estar motivada, impide controlar no sólo la génesis de tal motivación sino la validez de sus fundamentos”.
En su voto, el juez identificó tres aspectos críticos en la interacción con el sistema automatizado. En primer lugar, advirtió que la acción de “reeditar” el punto IV mediante IAGen podría haber incluido datos personales sin respetar el deber de anonimización, lo que implicaría “transgredir los claros mandatos señalados más arriba”.
En segundo término, señaló que al pedirse expresamente a la IA que redactara el texto “sin citas”, se omitieron las referencias que permiten identificar la fuente de los argumentos utilizados, lo cual impide verificar si los contenidos son reales, aplicables al caso y correctamente transcritos. Textualmente afirmó: “las ‘citas’ hacen a la fundamentación de un razonamiento y permiten su adecuado control”.
En cuanto a la técnica de “cortar y pegar”, sostuvo que este procedimiento sólo permite confirmar que una parte del texto provino de la IA, pero “deja una brecha demasiado amplia para determinar cuánto texto es atribuible a la IAGen y cuánto al juez”. Agregó que no puede admitirse la confusión entre la asistencia tecnológica y la toma de decisión propiamente dicha, ya que eso afectaría “la prohibición de delegación de decisiones judiciales a sistemas automáticos” y también “el principio de competencia y de juez natural”.
Por otro lado, el voto remarcó que el juez de grado no dejó constancia alguna sobre qué herramienta fue utilizada (ChatGPT, GPT-4, Bard u otra), qué datos de la causa fueron volcados en el sistema, qué instrucciones se le proporcionaron para generar el texto, ni qué medidas se tomaron para mitigar los riesgos propios de este tipo de herramientas, como las “alucinaciones, sesgos, discriminación, etc.”. En palabras del camarista, “todos estos interrogantes, al no tener adecuadas respuestas, no permiten dar por existente una fundamentación adecuada”.
Por otra parte, la Cámara dispuso remitir las presentes actuaciones al Superior Tribunal de Justicia, en tanto organismo que ejerce la superintendencia de la actividad jurisdiccional desplegada por el Juez Penal interviniente, con competencia “para investigar y determinar el alcance de las graves consecuencias producidas en este proceso en virtud del uso incorrecto de la IA, que motivó la declaración de nulidad de la sentencia y del juicio que la precede, con todo lo que ello significa para los justiciables, para la ciudadanía toda y para el Estado, responsable de garantizar el acceso a la justicia y la tutela judicial efectiva.
Fuente: Diario Judicial
https://www.diariojudicial.com/news-101840-al-juez-lo-condeno-chatgpt
