Por Matías Bailone*
DE BABEL A LOS CLAROSCUROS MONSTRUOSOS
"MAGNIFICA HUMANITAS" DE LEÓN XIV Y LA CRÍTICA JURÍDICA DE LA RAZÓN ALGORÍTMICA
I. Un aliado inesperado
Desde que Jorge Mario Bergoglio ocupó la silla de San Pedro, quienes nos inscribimos en una tradición no religiosa comenzamos a mirar con renovada atención la doctrina social de la Iglesia: una corriente antigua, de largo aliento, que el papa Francisco supo proyectar sobre un mundo que ya intuía las catástrofes por venir, ofreciendo una mirada humanista y cristiana del presente. Su sucesor no podía ser menos. León XIV nos ha sorprendido al continuar esa línea, ahora concentrada en el gran peligro de nuestro tiempo: la inteligencia artificial. Y, sin embargo, la lectura de Magnifica Humanitas —el documento que firmó el 15 de mayo de 2026 «sobre la custodia de la persona humana en el tiempo de la inteligencia artificial»— produce el extraño efecto de reconocer, en una voz que viene de otra parte, un diagnóstico que uno creía patrimonio de la tradición crítica.
Lo interesante es comprobar que tradiciones distintas —el pensamiento emancipatorio latinoamericano y la doctrina social de la Iglesia— pueden coincidir al leer los claroscuros de nuestra época. Gramsci, atento a las hegemonías y a los aparatos ideológicos, no se habría sorprendido ante esa convergencia. Tampoco Zaffaroni, siempre dispuesto a dialogar con las teologías de la liberación de lo humano. Existe un terreno común, y hoy se llama resistencia a la deshumanización algorítmica.
Con Guido Risso y Pablo Lega acabamos de publicar El Derecho frente a la Inteligencia Artificial (Hammurabi, 2026), un libro colectivo donde las múltiples miradas de las diversas ramas del derecho se preguntan por su relación con los agentes artificiales de nuestro tiempo. En ese volumen incluimos un artículo mío sobre los riesgos de la inteligencia artificial en la enseñanza del derecho, titulado El sueño de la razón y los claroscuros monstruosos: una fórmula que toma de Goya su grabado más célebre y de Gramsci el aforismo sobre aquello que no termina de morir y aquello que no alcanza todavía a nacer.
Allí sostenía una tesis sencilla y antigua: la técnica nunca es neutral. Cristaliza relaciones sociales, tiende a reproducirlas y nos recuerda que el monstruo no es la máquina, sino nosotros mismos cuando abdicamos del juicio crítico.
Leer ahora la encíclica es asistir a la ratificación de ese diagnóstico desde el lugar menos sospechable y con un alcance —el de un magisterio universal— al que ningún pensador crítico podría aspirar. De ahí estas notas: a la vez comentario elogioso y constatación de una sintonía que no buscamos, pero que celebramos.
II. La técnica no es neutral: el corazón de la convergencia
El núcleo de mi argumento, como el de toda la tradición que viene de Marx y llega a Pasquinelli, es que la racionalidad técnica nunca es un dato inocente. La inteligencia artificial —que, conviene recordarlo, no es inteligencia, aunque sí es perfectamente artificial— no amplía sin más nuestras capacidades: codifica y expropia el trabajo intelectual colectivo, y al hacerlo reproduce las relaciones de poder que la engendraron. Pues bien: el punto exacto en que la encíclica se vuelve sorprendentemente afín a la crítica materialista es precisamente este. Magnifica Humanitas afirma, sin eufemismos, que la tecnología no es neutral, porque «toma el rostro» de quien la concibe, la financia, la regula y la utiliza (n. 9). Es difícil imaginar una formulación más exacta de aquello que, en clave de Éric Sadin, llamé la silicolonización del mundo: la colonización de la existencia por los criterios de eficiencia, optimización y cuantificación de Silicon Valley.
La encíclica va más lejos todavía, y aquí roza la economía política que recorre todo nuestro libro. Observa que los principales motores del desarrollo tecnológico ya no son los Estados, sino actores privados, a menudo transnacionales, dotados de recursos superiores a los de muchos gobiernos, y que el poder adquiere por ello un rostro «privado» difícil de discernir y de gobernar (n. 5). Quien haya leído a Verónica Gago sobre el autoritarismo tecnofinanciero, o a Virginia Eubanks sobre la automatización de la desigualdad, reconocerá de inmediato el paisaje. El documento pontificio no usa la palabra tecnofeudalismo, pero describe su anatomía con precisión: una concentración de poder en pocas manos —patentes, algoritmos, plataformas, infraestructuras, datos— que contradice lo que la doctrina social llama el destino universal de los bienes y ensancha la brecha entre incluidos y excluidos (n. 67). Lo que en mi vocabulario era extractivismo del conocimiento y canibalización de los bienes comunes, en el de la encíclica es traición al destino universal de los bienes. Cambia la teología; el adversario es el mismo.
III. Babel, o la mutilación epistemológica
La primera dimensión del riesgo que analizo en mi trabajo es la epistemológica: la pretensión de reducir el derecho a mero dato cuantificable, de tratar el conocimiento jurídico como información susceptible de ser almacenada, procesada y recuperada. Contra esa pretensión opuse, con Miguel Benasayag, la distinción irreductible entre lo vivo y lo maquínico: la vida es singularidad de cada situación; la máquina, reducción de lo singular a lo general, de lo cualitativo a lo cuantitativo. El derecho practicado en serio participa de lo vivo: cada caso es único, cada interpretación es una apuesta, cada decisión un acto de responsabilidad indelegable.
La encíclica eligió, para nombrar este mismo peligro, una imagen bíblica de una potencia extraordinaria: la torre de Babel. El «síndrome de Babel» que describe León XIV es la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, «incluso el misterio de la persona, en datos y rendimientos» (n. 10). No conozco una definición más feliz de lo que llamé la mutilación epistemológica. Reducir la persona, o el caso jurídico, o el conflicto humano, a datos y rendimientos es exactamente la operación que denuncié siguiendo a Pasquinelli: la compresión estadística que produce error, sesgo y normalización, y que se vuelve peligrosísima cuando se la naturaliza como criterio de decisión. La torre de Babel de la encíclica y los monstruos del sueño de la razón de mi artículo son, a fin de cuentas, la misma figura: la del orgullo que pretende alcanzar el cielo —la objetividad total, la respuesta correcta computable— sacrificando la diversidad, la mediación y, en último término, lo humano.
Y hay un detalle que no quiero dejar pasar, porque toca de lleno la criminología crítica. La encíclica advierte que la tutela formal de los derechos puede convivir con violaciones que avanzan «de manera disimulada o evidente» al ritmo del progreso tecnológico (n. 56). Es la versión magisterial de algo que sabemos desde Zaffaroni: que el sistema penal opera de modo selectivo, que su selectividad no es un defecto corregible con ajustes técnicos, sino que le es constitutiva, y que la inteligencia artificial, al procesar los datos disponibles, no hace sino reproducir, normalizar, canonizar y amplificar esos sesgos estructurales. El caso COMPAS, que analiza con detalle Carlos Ordoñez en nuestro libro, es el monstruo hecho software: la discriminación histórica devuelta con la pátina aséptica de la objetividad estadística. La encíclica, sin nombrarlo, lo presiente.
IV. La neutralización del conflicto y la dignidad como límite
La segunda dimensión de mi análisis es la política: la imagen del derecho como espacio meramente técnico, ajeno a las luchas sociales, que es ideológica en el sentido marxiano porque presenta como natural y necesario lo que es histórico y contingente. Si las respuestas correctas pueden computarse, entonces el debate, la deliberación y el conflicto devienen superfluos. A esa evacuación de lo político la llamé, con Sadin y con Castro Rey, antihumanismo radical y antropofobia: el rechazo de lo humano que se disfraza de fascinación tecnocrática.
Aquí la encíclica aporta lo que mi tradición, por razones obvias, no podía aportar con la misma contundencia: una fundamentación de la dignidad que funciona como límite infranqueable. Magnifica Humanitas denuncia, como «particularmente insidiosa», la ideología que sugiere que cada persona deba ganarse o justificar su propio valor, atribuyendo mayor valía a los más eficientes y productivos, hasta reducir al ser humano a un medio, a un recurso para ser usado y explotado (n. 51). Quien conozca la categoría del cognitariado precarizado de Franco “Bifo” Berardi reconocerá el blanco: el estudiante degradado a consumidor de información premasticada, el docente convertido en símbolo de la fábrica de la infelicidad, la mente subsumida en el proceso de valorización capitalista. La doctrina social de la iglesia responde a esa lógica con la afirmación de una dignidad ontológica, anterior e indisponible, que «ningún poder humano» puede negar legítimamente. No es preciso compartir su fundamento teológico para reconocer la potencia jurídica del límite: es la misma intuición que late en el garantismo cuando insiste en que las garantías no son fricciones a la eficiencia sino conquistas civilizatorias que limitan el poder.
Porque ese es, en rigor, el punto de mayor concordancia. La encíclica recuerda que ninguna máquina podrá jamás sustituir el esplendor de lo humano (n. 15), y que el deber de la hora es «permanecer profundamente humanos». Yo lo había dicho con palabras más profanas: que el agnosticismo y el garantismo penales requieren entrenamientos complejos, empatía, humanismo y compromiso con los derechos fundamentales, y que un jurista formado en la lógica algorítmica tenderá a ver las garantías como obstáculos a eliminar y no como principios a defender —será conservador y punitivista «por las dudas», como dice Zaffaroni. La encíclica y la criminología crítica coinciden en lo esencial: hay un núcleo de lo humano que se resiste al cálculo, y custodiarlo es una tarea política y jurídica de primer orden.
V. Ni apocalípticos ni integrados
Quiero detenerme en una coincidencia de método que me parece decisiva, porque distingue a la encíclica de la verborrea habitual sobre la IA. Frente al fenómeno tecnológico, sostuve —con Umberto Eco al fondo— que no hay que ser ni apocalípticos ni integrados: ni el entusiasmo tecnoutópico que celebra la «justicia digital» y el «derecho 4.0», ni el rechazo tecnófobo y ludita que desatiende las transformaciones reales. La encíclica adopta exactamente esa posición. Pide no bendecir «entusiasmos ingenuos» ni alimentar «miedos estériles» (n. 14), y reconoce que la técnica está arraigada en lo humano desde el principio, que puede curar, conectar, educar y cuidar la casa común, pero también dividir, descartar y generar nuevas injusticias (n. 9).
Es la sobriedad analítica que reclamábamos. La inteligencia artificial ha llegado para quedarse, como escribimos en la presentación de nuestra obra; la cuestión nunca fue el «sí» o el «no» a la herramienta, sino los términos de su incorporación, los límites que se le imponen, los ámbitos que deben permanecer vedados a la automatización, las garantías que protejan a las personas afectadas por decisiones automatizadas. Todo eso —insistimos— permanece abierto a la decisión política. La encíclica lo formula con su imagen de las dos ciudades: la elección primera no es entre la tecnología y su negación, sino entre construir Babel o reconstruir Jerusalén; entre un poder que pretende dominar el cielo y un pueblo que se pone a trabajar, unido, para levantar de nuevo los muros de la convivencia. Cámbiese «Jerusalén» por «Estado constitucional de derecho» y «pueblo» por «comunidad jurídica democrática», y se tendrá, casi literal, la apuesta de nuestro libro.
VI. Un libro que la encíclica viene a confirmar
Si me he permitido este cotejo no es por vanidad de coincidencias, sino porque la encíclica le da a un esfuerzo colectivo una validación que ningún jurista podría haber previsto. El Derecho frente a la Inteligencia Artificial. La ley, el algoritmo y los límites a los derechos fundamentales (Hammurabi, 2026), que dirigimos con Guido Risso y coordinó con rigor Pablo Lega, nació de una convicción compartida: la de someter la transformación algorítmica a un escrutinio crítico riguroso, informado a la vez por la comprensión técnica de los sistemas y por una reflexión jurídica, política y ética que no abdique de las conquistas del constitucionalismo democrático.
El libro abre con un texto de nuestro maestro Eugenio Raúl Zaffaroni sobre poder punitivo e inteligencia artificial, que establece el marco político-criminal indispensable y recuerda que toda tecnología punitiva debe leerse en clave de poder. A partir de allí, el volumen recorre el futuro del constitucionalismo (Risso), el derecho administrativo y la dignidad humana en el Estado (Spessot), la nueva estatalidad de los servicios públicos (Zurro y Pérez), la integridad electoral en la era de la desinformación algorítmica (Tullio), el derecho de defensa ante la IA (Lega), la búsqueda jurisprudencial automatizada (Plou), los algoritmos predictivos en la justicia penal (Ordoñez), la responsabilidad penal de los agentes autónomos (Riquert y Grandi), el caso límite del chatbot y el suicidio adolescente (Guariste), el derecho del trabajo y la vigilancia algorítmica (Lois), la responsabilidad social empresarial (Cáccaro Olazábal y Torrealba Aponte), el periodismo y los derechos de autor (Larrondo) y los deepfakes sexuales en las escuelas desde una perspectiva de género (Garín). Es, lo digo sin falsa modestia, una cartografía integral del problema, escrita desde el Sur y resistente a la importación acrítica de modelos.
Lo notable es que casi todas las preocupaciones que estructuran Magnifica Humanitas tienen ya, en ese libro, un desarrollo jurídico concreto. La advertencia de la encíclica contra el poder tecnológico privado encuentra su correlato en los capítulos sobre estatalidad y servicios públicos; su defensa de la verdad como bien común y su llamado a una ecología de la comunicación dialogan con el trabajo de Tullio sobre desinformación algorítmica; su insistencia en la dignidad indisponible es el hilo que une los capítulos sobre derecho de defensa, justicia predictiva y violencia de género; su crítica a la reducción de la persona a recurso productivo es exactamente la denuncia del capítulo sobre el trabajo. La encíclica, en suma, viene a confirmar —con la autoridad de un magisterio universal y la elegancia de la imagen bíblica— lo que un grupo de juristas latinoamericanos venía sosteniendo en clave constitucional y político-criminal. No es poca cosa que el diagnóstico converja desde tradiciones tan distintas; al contrario, esa convergencia es la mejor prueba de que el problema es real y de que las respuestas críticas no eran tecnofobia sino lucidez.
VII. Coda: qué monstruos nos proponemos ser
Hay una simetría que un materialista histórico impenitente no puede dejar de saborear. La doctrina social de la Iglesia nació, hace ciento treinta y cinco años, cuando León XIII enfrentó con la Rerum Novarum la cuestión obrera de la primera revolución industrial. Hoy un León XIV enfrenta, con Magnifica Humanitas, la cuestión algorítmica de esta otra revolución. De la máquina de vapor a la máquina de calcular el alma; del proletariado industrial al cognitariado precarizado. La historia, que se repite como farsa, ofrece aquí una rima perfecta.
Cerraba mi artículo recordando a Joseph Weizenbaum: el peligro no reside en que las computadoras piensen como los humanos, sino en que los humanos comiencen a pensar como computadoras. Y le robaba a Luis Ignacio García la pregunta que importa: si todo ha devenido monstruoso, la cuestión es qué tipo de monstruos nos proponemos ser. La encíclica responde a su manera —llama a no construir la enésima Babel, a poner a Dios en el horizonte y al ser humano en el centro—, y yo seguiré respondiendo a la mía, que es la del garantismo, la criminología cautelar y la apropiación crítica de la herramienta: la IA como punto de partida, jamás como punto de llegada; instrumento en el taller del jurista, nunca sustituto de su inteligencia ni coartada de su pereza.
Pero en lo esencial nos entendemos. Frente a la silicolonización de la vida y del derecho, frente al sueño dogmático de la razón algorítmica y sus claroscuros monstruosos, hace falta una alianza amplia, plural, capaz de reunir a quienes —desde la cátedra o desde el púlpito, desde el materialismo histórico o desde la doctrina social de la iglesia— se niegan a aceptar que el fin del derecho sea la eficiencia y no la justicia, el procesamiento óptimo de información y no la protección de la dignidad humana. Magnifica Humanitas es, en ese frente, un documento mayor. Bienvenido sea al taller. Y bienvenido el lector a un debate que, como advertimos en nuestro libro, no podemos darnos el lujo de perder.
*Matías Bailone es profesor de Derecho Penal y Criminología de la Universidad de Buenos Aires y codirector, con Guido I. Risso, de El Derecho frente a la Inteligencia Artificial (Hammurabi, 2026). www.matiasbailone.com
Si desea participar de nuestra «Sección Doctrina», contáctenos aquí >>
