ENTIDADES JURÍDICAS AUTÓNOMAS.
¿NECESITA LA INTELIGENCIA ARTIFICIAL UNA NUEVA ARQUITECTURA JURÍDICA?
Fuente: https://emilianokargieman.substack.com/p/autonomous-legal-entities-a-polycentric
La irrupción de la Inteligencia Artificial (IA) está obligando a revisar conceptos que durante mucho tiempo se graban en piedra dentro del derecho. Así como las diferentes revoluciones económico-sociales sucedidas a lo largo de la historia obligaron a dictar normas a raíz de los nuevos comportamientos, la aparición de sistemas capaces de ejecutar tareas complejas con niveles crecientes de autonomía plantea interrogantes que comienzan a desafiar las estructuras jurídicas existentes.
En este contexto, la Argentina se instaló en un lugar inesperado dentro de una discusión que hasta hace pocos meses parecía reservada a escenarios de ciencia ficción legislativa. A partir de una iniciativa impulsada desde el Poder Ejecutivo Nacional que introduce en el proyecto modificaciones en la Ley de Sociedades específicamente con la inclusión de la figura de la Sociedad Descentralizada Autónoma Operativa (DAO, por sus siglas en inglés) surgió la discusión sobre la creación de una figura destinada a regular organizaciones operadas mediante agentes de IA, una propuesta que despertó interés tanto dentro como fuera del país.
La conversación adquirió notoriedad internacional luego de que diversas figuras del ecosistema tecnológico señalaran que Argentina podría convertirse en una de las primeras jurisdicciones en explorar un marco legal específico para organizaciones automatizadas.
El debate resulta relevante porque la IA ya no se limita a responder preguntas, generar textos o asistir procesos. Los avances recientes permiten imaginar agentes capaces de negociar contratos, administrar activos, ejecutar operaciones comerciales, coordinar cadenas logísticas o interactuar con otros sistemas sin intervención humana. Cuanto mayor es el nivel de autonomía operativa, más difícil resulta encuadrar jurídicamente sus acciones utilizando categorías diseñadas para organizaciones dirigidas exclusivamente por personas.
Uno de los aportes recientes que generó conversación, sobre el tema en análisis, fue el trabajo desarrollado por Emiliano Kargieman en su paper Autonomous Legal Entities: A Polycentric Framework for Machine Agency. En el documento el autor propone la creación de las denominadas Autonomous Legal Entities (ALE), o Entidades Jurídicas Autónomas (EJA), concebidas como una estructura jurídica específicamente diseñada para operar en contextos donde los agentes de IA adquieren un rol central dentro de la toma de decisiones.
La propuesta parte de una observación, el derecho contemporáneo fue construido sobre una premisa fundamental, detrás de toda organización existe, en última instancia, un ser humano que decide, ordena o controla. Sin embargo, los sistemas de IA comienzan a introducir situaciones en las que determinadas acciones pueden producirse sin una intervención humana directa e inmediata, generando desafíos respecto de la atribución de responsabilidades y la gestión de riesgos.
Según Kargieman, el problema no consiste en determinar si una IA es consciente o merece derechos equivalentes a los de una persona. La cuestión central es mucho más pragmática. Se trata de construir mecanismos institucionales capaces de administrar sistemas que generan consecuencias reales en el mundo económico y social.
Este punto resulta interesante porque buena parte del debate público suele quedar atrapado en una falsa dicotomía: o las máquinas son simples herramientas o son personas en el marco estricto de la ley. La propuesta de las EJA intenta explorar una camino diferente. No busca equiparar una IA con un ser humano, sino crear una estructura legal capaz de contener, supervisar y responsabilizar actividades realizadas mediante agentes autónomos.
Desde esta perspectiva, la personalidad jurídica no aparece como un reconocimiento moral sino como una herramienta organizacional. Después de todo, las sociedades comerciales tampoco poseen conciencia, emociones ni voluntad biológica. Son construcciones jurídicas creadas para organizar patrimonios, responsabilidades y relaciones económicas. La pregunta que comienza a surgir es si los agentes autónomos justifican la creación de una nueva categoría institucional similar.
En este punto aparece uno de los aspectos más interesantes del debate. Históricamente, el derecho ha recurrido a ficciones jurídicas para resolver problemas prácticos. Las sociedades anónimas, las asociaciones civiles, las fundaciones e incluso el propio Estado son entidades artificiales creadas por normas jurídicas para facilitar determinadas actividades colectivas. Ninguna de ellas es una persona en sentido biológico, pero todas poseen personalidad jurídica.
Por ese motivo, la discusión no debería centrarse exclusivamente en si una IA puede ser considerada una persona. El interrogante más relevante consiste en determinar si las categorías actualmente disponibles continúan siendo suficientes para regular organizaciones donde la autonomía algorítmica desempeña un papel cada vez más importante.
Los defensores de estas nuevas estructuras sostienen que los modelos societarios tradicionales fueron diseñados bajo supuestos que podrían comenzar a mostrar limitaciones frente a sistemas altamente automatizados. La legislación corporativa moderna presupone que las decisiones empresariales son adoptadas por órganos humanos claramente identificables. A medida que los sistemas autónomos incrementan su capacidad operativa, la relación entre decisión, ejecución y responsabilidad podría volverse más compleja.
Desde esta perspectiva, algunas voces consideran que el problema no radica en la ausencia de herramientas jurídicas sino en la necesidad de adaptar y aplicar adecuadamente las existentes. Si una empresa puede incorporar IA dentro su funcionamiento sin alterar su naturaleza jurídica, la creación de una figura completamente nueva exigiría una justificación particularmente sólida.
Otra preocupación se vincula con la responsabilidad. Toda innovación regulatoria debe evitar generar espacios de impunidad o mecanismos que dificulten la identificación de los verdaderos responsables cuando se producen daños. En la medida en que las decisiones comienzan a ser ejecutadas por sistemas autónomos, surge la pregunta acerca de quién debe responder frente a terceros afectados.
El paper de Kargieman intenta abordar este planteo mediante una arquitectura de múltiples capas de gobernanza. Entre otras cuestiones, propone la existencia de activos propios, seguros obligatorios, registros auditables, órganos fiduciarios de supervisión y mecanismos de intervención humana capaces de suspender o limitar la actividad del sistema cuando resulte necesario.
La idea subyacente es que una organización basada en agentes autónomos no debería operar con menos controles que una corporación tradicional, sino con más controles. La autonomía tecnológica sería compensada mediante mayores niveles de transparencia, trazabilidad y supervisión institucional.
La inquietud por la gobernanza de los sistemas autónomos no se limita al ámbito regulatorio ni al debate académico. Un ejemplo de ello puede observarse en Anthropic, una de las compañías líderes en IA, que desarrolló reportes de transparencia y marcos específicos de evaluación de riesgos para modelos avanzados. Aunque estas iniciativas operan en un plano diferente al de las EJA, ambas reflejan una inquietud común: cómo diseñar mecanismo institucionales capaces de supervisar sistemas que adquieren niveles crecientes de autonomía.
En sus documentos públicos de seguridad y transparencia, Anthropic sostiene que los modelos más avanzados requieren mecanismos de evaluación, monitoreo y auditoría proporcionales a sus capacidades. La lógica detrás de estos esquemas parte de una premisa simple: cuanto mayor es la capacidad de actuación de un sistema, mayores deben ser los controles destinados a prevenir riesgos, garantizar la trazabilidad de sus decisiones y preservar instancias efectivas de supervisión humana.
Resulta particularmente interesante porque muestra que el debate no gira únicamente en torno a cuestiones jurídicas. En realidad, forma parte de una conversación global más amplia acerca de cómo construir estructuras de gobernanza capaces de acompañar el desarrollo de sistemas cada vez más sofisticados, preservando al mismo tiempo principios de responsabilidad, transparencia y control humano.
No obstante, incluso bajo ese esquema persisten interrogantes que están dando vuelta. ¿Cómo se verificará el cumplimiento efectivo de esas obligaciones?, ¿Cómo se garantizará la eficiencia de los mecanismos de supervisión?, ¿Qué ocurrirá cuando intervengan múltiples modelos de IA desarrollados por diferentes organizaciones en múltiples países?, y ¿Cómo se distribuirán las responsabilidades entre diseñadores, operadores, propietarios y usuarios?.
Estas preguntas demuestran que el debate trasciende ampliamente la cuestión planteada. A medida que los sistemas automatizados adquieren capacidad para producir efectos económicos, contractuales y administrativos cada vez más relevantes, resulta razonable preguntarse si las estructuras regulatorias actuales serán suficientes para gestionar esos riesgos. La respuesta todavía está lejos de ser concluyente, pero la discusión ya lo plantea.
Más allá del destino que tenga la propuesta argentina, el debate logró instalar una cuestión que probablemente acompañará a los sistemas jurídicos durante las próximas décadas. La pregunta, al menos por ahora, no es si las máquinas podrán convertirse en sujetos de derecho. La verdadera pregunta es si el derecho cuenta hoy con herramientas suficientes para garantizar responsabilidad, transparencia y control cuando las decisiones comiencen a ser adoptadas por agentes cada vez más autónomos.
Si desea participar de nuestra «Sección Opinión», contáctenos aquí >>
