# Acevedo y Artaza (2026) - Regular una IA impredecible > [!ficha] Ficha de la publicación > | | | > | --- | --- | > | **Autoría** | José Acevedo y Osvaldo Artaza | > | **Título** | Análisis crítico de los enfoques basados en el riesgo para regular la inteligencia artificial: lecciones para el legislador | > | **Publicación** | *Revista Chilena de Derecho*, vol. 53, Nº 3, 2026, pp. 27-58 | > | **Nivel de lectura** | Intermedio | > | **Acceso** | [Ver publicación original](https://revistachilenadederecho.uc.cl/index.php/Rchd/article/view/103552) | > | **Licencia** | [Creative Commons Atribución-NoComercial-CompartirIgual 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/). | > | **Temas tratados** | #Inteligencia_Artificial #Regulación_Basada_en_Riesgos #Reglamento_Europeo_AI #Datos_Personales #Protección_Datos_Personales #Técnica_Legislativa | ![[Template - Aviso de excención de responsabilidad]] > [!criterio] ¿Basta la regulación basada en el riesgo para regular la inteligencia artificial? > - La impredecibilidad técnica de la inteligencia artificial desafía los supuestos de la regulación basada en el riesgo, por lo que la gestión del riesgo debe complementarse con resiliencia institucional, incrementalismo legislativo y gobernanza colaborativa (pp. 49, 53). > [!quote] En palabras del autor >- "un espectro de riesgos que no sabemos que desconocemos" (p. 48) ## ❓ Preguntas y respuestas ### ¿Qué problema aborda el artículo? - La regulación comparada de la inteligencia artificial, con la ley europea como modelo y el proyecto de ley chileno (Boletín 16821-19) como uno de sus seguidores, ha optado por gestionar los riesgos de esta tecnología según categorías definidas por ley (pp. 29-30). - Esta estrategia supone conocer la probabilidad de un daño y su gravedad, algo que resulta imposible cuando un sistema de IA produce resultados que no pueden anticiparse (p. 30). - Los autores se preguntan, entonces, cómo regular y gestionar el riesgo de una tecnología cuyos resultados son impredecibles (p. 30). ### ¿Qué sostienen los autores? - Para Acevedo y Artaza, la impredecibilidad técnica de la IA supera la lógica central de la regulación basada en el riesgo, porque desafía tanto los supuestos normativos de las categorías legales de riesgo como los supuestos operativos necesarios para medirlos y gestionarlos (pp. 49, 53). - Proponen complementar la gestión del riesgo con tres estrategias, la resiliencia institucional, el incrementalismo legislativo y la gobernanza colaborativa (pp. 49-52). - La gestión del riesgo conserva su lugar en los ámbitos donde la literatura o la experiencia permiten prever razonablemente los daños, y el objetivo del conjunto pasa a ser la adaptación continua del derecho a una tecnología impredecible (pp. 52-53). ### ¿Cómo lo fundamentan? - Los autores realizan un análisis funcional de la regulación comparada del riesgo de la IA, toman la ley europea como ejemplo principal y apoyan su crítica en la literatura de las ciencias computacionales (pp. 30-31). 1. Los sistemas entrenados con aprendizaje automatizado son opacos, desarrollan comportamientos emergentes que nadie programó y, en el caso de la IA generativa, incorporan una dosis de azar en cada respuesta, de modo que su comportamiento no puede guiarse de forma determinística (pp. 40-43). 2. Los modelos de propósito general escapan a una clasificación basada en su finalidad, y la categoría europea de riesgos sistémicos (art. 51), que presume el riesgo a partir de la capacidad de cálculo usada en el entrenamiento, no resuelve el problema, porque la capacidad computacional no equivale a la capacidad de influir en el entorno (pp. 43-44). 3. Las categorías legales de riesgo son inestables, ya que el riesgo varía más según el grado de integración de la IA en una tarea que según el sector, cambia con el tiempo y puede aparecer en ámbitos calificados de bajo riesgo, como muestra el llamado riesgo en cascada (pp. 44-46). 4. La medición del riesgo exige conocer la probabilidad y la gravedad del daño, y la ley europea limita lo razonablemente previsible a los usos de los sistemas, sin alcanzar sus resultados (pp. 47-48). 5. Los sistemas probabilísticos no pueden auditarse con garantías ni controlarse modificando su código, y las líneas rojas solo funcionan para las prácticas prohibidas, puesto que en los sistemas de alto riesgo la ley europea exige apenas un funcionamiento consistente con su finalidad (pp. 48-49). ### ¿Qué objeciones enfrenta o deja abiertas? - El artículo discute la propuesta de Judge, Nitzberg y Russell, según la cual definir líneas rojas claras permitiría verificar que un sistema no las cruzará, y responde que esa vía solo sirve para los riesgos intolerables, que simplemente se prohíben, y resulta inaplicable a los sistemas de riesgo alto (pp. 48-49). - También descarta la responsabilidad civil como alternativa suficiente, por la dificultad de probar la relación causal entre el uso de IA y el daño (pp. 49-50). - Los autores reconocen que la impredecibilidad es solo uno de los problemas de estos modelos regulatorios y dejan para investigaciones futuras la traducción jurídica de conceptos como justicia algorítmica, accountability o la propia noción de inteligencia artificial (p. 52). - Excluyen además de su análisis los riesgos legales que la regulación no cataloga como tales (p. 47, nota 115). ### ¿Qué cambia en la práctica? - El artículo ofrece lecciones a quienes legislan y diseñan la regulación chilena de la IA, en especial a propósito del proyecto de ley en tramitación (pp. 29-30, 49). En materia de resiliencia, sugiere fortalecer las capacidades técnicas del Estado, exigir transparencia, crear sistemas de alerta temprana, distribuir la supervisión entre varias autoridades y establecer vías expeditas de reparación y protocolos para recibir alertas ciudadanas (p. 50). Como paso incremental, propone aprender de la aplicación del artículo 8 bis de la ley de protección de datos personales en el sector privado para luego extenderlo a los algoritmos públicos (p. 51). En gobernanza colaborativa, destaca la certificación de modelos de prevención por la Agencia de Protección de Datos Personales y propone sumar canales de denuncia y protección de informantes (pp. 51-52). Para las organizaciones obligadas a gestionar riesgos, el artículo recuerda que existe un límite a lo que el legislador y los privados pueden prever como efectos nocivos de la IA (p. 48). ### ¿Por qué los resultados de la IA son impredecibles? - Los autores distinguen dos tipos de sistemas. La IA predictiva es técnicamente determinística, ya que con los mismos datos y parámetros entrega siempre el mismo resultado, y se vuelve impredecible en la práctica porque opera con miles de variables, reacciona de forma poco intuitiva a pequeños cambios y no permite saber qué variables consideró ni con qué peso (pp. 41-42). - La IA generativa es probabilística, porque combina lo aprendido con una dosis de azar y aprende qué palabras suelen seguir a otras sin conocer hechos ni significados (p. 42). - Sus riesgos son además descentralizados, ya que está al alcance de cualquier persona con internet y depende de las intenciones de quien la usa (p. 43). ## 🗺️ Mapa del tema ```mermaid flowchart LR A["Impredecibilidad técnica de la IA"] -->|"genera"| C["Inestabilidad de las categorías de riesgo"] A -->|"genera"| D["Imposibilidad de medir y controlar riesgos"] C -->|"debilita"| B["Regulación basada en el riesgo"] D -->|"debilita"| B B -->|"se integra en"| E["Arquitectura regulatoria mixta"] F["Resiliencia institucional"] -->|"integra"| E G["Incrementalismo legislativo"] -->|"integra"| E H["Gobernanza colaborativa"] -->|"integra"| E I["Líneas rojas verificables de Judge y otros"] -.->|"se opone a"| D ``` ## ⚖️ Posturas en debate | Postura | Quién la sostiene | Cómo la evalúa el autor | | --- | --- | --- | | La IA es una tecnología normal, comparable a las de revoluciones industriales previas | Narayanan y Kapoor | La matiza. Comparte su crítica a la narrativa de la superinteligencia y se aparta al sostener que la impredecibilidad distingue a la IA de otras tecnologías (p. 32) | | La IA superará pronto a los humanos, con riesgos extremos para la especie | Kokotajlo y otros; Yudkowsky y Soares | No la adopta como perspectiva de análisis (p. 32) | | Los sistemas de propósito general requieren una categoría de riesgo propia | Helberger y Diakopoulos | Comparte el diagnóstico y critica la solución europea de los riesgos sistémicos (pp. 43-44) | | La categoría de alto riesgo no captura bien los riesgos reales de la IA | Narayanan y Kapoor; Martin y otros | La comparte (pp. 44-45) | | Las líneas rojas permiten verificar que un sistema no causará ciertos daños | Judge, Nitzberg y Russell | La critica, por servir solo para riesgos intolerables (pp. 48-49) | | La resiliencia es una herramienta distinta de la responsabilidad civil | Marchant y Stevens; Narayanan y Kapoor | La comparte y la desarrolla (pp. 49-50) | ## 📚 Conceptos clave | Concepto | Significado en el artículo | | --- | --- | | Riesgo | Combinación de un daño con su probabilidad de ocurrencia, entendida como algo que puede medirse, preverse y mitigarse (p. 31). | | Impredecibilidad técnica | Situación, distinta del riesgo y de la incertidumbre, en que existen daños posibles que aún no sabemos que pueden ocurrir y cuya probabilidad se desconoce (pp. 31-32). | | Comportamiento emergente | Propiedades de un sistema de IA que surgen de su entrenamiento automatizado sin haber sido decididas por sus programadores (p. 41). | | Riesgo en cascada | Daño grave que produce una aplicación considerada de bajo riesgo, debido a la imprevisibilidad del algoritmo (p. 46). | | Resiliencia | Capacidad de un sistema para lidiar con los daños antes y después de que ocurran, orientada a minimizarlos una vez producidos (p. 50). | | Incrementalismo legislativo | Regulación por pasos graduales que facilita el aprendizaje del regulador y de los regulados y abarata la corrección de errores (p. 50). | > [!comentario] Comentario del autor (opinión personal) >- El principal aporte del artículo es traducir al lenguaje jurídico las características técnicas que hacen impredecible a la IA y mostrar, con disposiciones concretas de la ley europea, dónde fallan sus categorías de riesgo. >- Su análisis del proyecto chileno es más breve, ya que se limita a describir su orientación general sin examinar sus disposiciones, lo que deja abierta la pregunta de cuáles de sus normas deberían ajustarse. >- Las tres estrategias complementarias se presentan en términos generales, y quedaría por precisar qué criterio permitiría al legislador distinguir los ámbitos con previsibilidad razonable, donde la gestión del riesgo seguiría operando, de aquellos que exigen resiliencia. >- El texto interesa también a la regulación sectorial chilena, considerando que la ley europea incluye el acceso a seguros de salud entre los ámbitos de alto riesgo (p. 38). ## 🔗 Relaciones ### Pronunciamientos que analiza %% DATAVIEW_PUBLISHER: start ```dataview TABLE WITHOUT ID file.link AS "Pronunciamiento", ratio AS "Criterio", dateformat(default(fecha_pronunciamiento, date), "yyyy") AS "Año" FROM "Jurisprudencia" WHERE codigo AND (contains(default(this.cita, []), codigo) OR contains(map(this.file.outlinks, (l) => meta(l).path), file.path)) SORT fecha_pronunciamiento DESC ``` %% %% DATAVIEW_PUBLISHER: end %% ### Pronunciamientos con temas en común %% DATAVIEW_PUBLISHER: start ```dataview TABLE WITHOUT ID file.link AS "Pronunciamiento", filter(file.tags, (t) => contains(this.file.tags, t) AND !contains(["#dataview-publisher"], t)) AS "Temas en común", dateformat(default(fecha_pronunciamiento, date), "yyyy") AS "Año" FROM "Jurisprudencia" WHERE publish = true AND length(filter(file.tags, (t) => contains(this.file.tags, t) AND !contains(["#dataview-publisher"], t))) >= 2 SORT length(filter(file.tags, (t) => contains(this.file.tags, t) AND !contains(["#dataview-publisher"], t))) DESC, fecha_pronunciamiento DESC LIMIT 6 ``` %% %% DATAVIEW_PUBLISHER: end %% ## 📝 Cómo citar la publicación original - Análisis crítico de los enfoques basados en el riesgo para regular la inteligencia artificial: lecciones para el legislador. (2026). _Revista Chilena De Derecho_, _53_(3), 27-58. [https://doi.org/10.7764/R.533.2](https://doi.org/10.7764/R.533.2)