En una votación transversal, la Sala de la Cámara de Diputadas y Diputados aprobó en general el proyecto de ley (boletín 17795) que busca regular la creación y difusión de contenidos generados mediante inteligencia artificial (IA) u otras tecnologías.
La iniciativa contó con un masivo respaldo de 128 votos a favor, 2 en contra y 5 abstenciones, por lo que el texto legal retornó a la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación para su debate en particular y el análisis de las indicaciones que se presenten.
Tras su aprobación, el investigador principal del Centro Nacional de Inteligencia Artificial (CENIA), Marcelo Mendoza, señaló la importancia de esta tramitación, enfatizando en el tiempo que fue esperada y su necesidad:
Es importante esta tramitación. Es una ley que esperábamos hace tiempo y la necesitamos debido al aumento de las estafas y distintos fenómenos que se están observando en plataformas digitales asociados al mal uso de la inteligencia artificial generativa.
Los deepfakes se basan en el uso de la inteligencia artificial para generar imágenes o videos hiperrealistas, de manera tal de que los humanos no seamos capaces de poder distinguir entre contenido real o contenido generado de manera sintética.
Los potenciales malos usos de esta tecnología abarcan distintos ámbitos, como por ejemplo, las estafas, la suplantación de personas y otros malos usos también como la desinformación. Entonces, realmente es una amplia gama de casos en los cuales la inteligencia artificial se podría mal usar para poder engañar a las personas.
Debate Parlamentario y Diversidad de Posturas
Durante la discusión en el hemiciclo, la moción fue informada por la diputada Gael Yeomans, autora del proyecto, e intervino una amplia nómina de parlamentarias y parlamentarios, entre ellos Daniel Lilayu, Luis Malla, Jaime Bassa, Luis Pardo, Ana María Gazmuri, Felipe Ross, Cristian Contreras, Hans Marowski, Hotuiti Teao, Irací Hassler, Lorena Fries, Priscilla Castillo, Constanza Schonhaut, Carolina Cucumides y Gonzalo Winter.
Durante sus intervenciones, las y los legisladores destacaron la urgencia de dotar al sistema jurídico de herramientas modernas ante tecnologías que pueden vulnerar la honra de las personas, alterar procesos democráticos o facilitar delitos.
Sin embargo, surgieron prevenciones respecto de la responsabilidad delegada en las plataformas para moderar o eliminar publicaciones, advirtiendo sobre posibles riesgos para la libertad de expresión, la afectación al desarrollo tecnológico legítimo y dudas sobre la implementación práctica de la norma.
Definición Legal de Deepfakes e Integridad Digital
El proyecto introduce un marco definitorio para abordar los riesgos derivados del avance de la tecnología sintética. En concreto, en la definición legal en el Proyecto de Ley, califica como:
"Representaciones digitales verosímiles pero falsas a todo contenido sintético de imagen, audio o video, generado o alterado mediante inteligencia artificial u otras tecnologías, que pueda inducir a error, confusión o engaño respecto de la identidad, acciones o declaraciones de una persona real".
Asimismo, la iniciativa consagra el derecho a la integridad digital, garantizando que la imagen, cuerpo o voz de ninguna persona sean utilizados sin su previo consentimiento para generar este tipo de materiales.
Para equilibrar el resguardo personal con la libertad de creación y opinión, la norma establece que:
"No se consideran deepfakes los contenidos que correspondan a una sátira, parodia, crítica o expresión artística, siempre que sean claramente identificables y no induzcan a error ni causen daño".
Exigencias, responsabilidades y sanciones
El ámbito de aplicación de la norma abarca a personas naturales, personas jurídicas y plataformas de redes sociales que operen dentro del territorio nacional, excluyendo expresamente a los servicios de mensajería instantánea de carácter privado. Para el caso de plataformas digitales extranjeras, la iniciativa establece una serie de obligaciones operativas:
- Representación legal: Obligación de designar un representante legal domiciliado en Chile.
- Etiquetado visible: Incorporación de marcas e identificadores claros que señalen de forma explícita cuando un contenido haya sido elaborado con IA.
- Canales de denuncia: Habilitación de mecanismos ágiles para que las personas afectadas soliciten el retiro o bloqueo inmediato de publicaciones no autorizadas.
En materia de responsabilidades, el texto legal determina que quienes generen o difundan este tipo de contenidos responderán civilmente por los daños causados. Además, faculta a los tribunales a dictar medidas cautelares urgentes, tales como la eliminación o bloqueo preventivo del material, para evitar perjuicios irreparables en las víctimas.
Respecto al régimen sancionatorio, la propuesta establece multas a beneficio fiscal que fluctúan entre las 5.000 y 10.000 Unidades Tributarias Mensuales (UTM), lo que representa montos entre $358 millones y $716 millones de pesos aproximadamente.
Mendoza destaca ambos aspectos como claves en la discusión de la ley: el ámbito persecutorio (con penas asociadas al mal uso de la IA) y las obligaciones para las plataformas, ya que estas son las que promueven la masificación de estos contenidos.
Debieran existir al menos dos aspectos que se discutan en la ley. Uno es el persecutorio, es decir, establecer penas asociadas al mal uso de inteligencia artificial; y otro también, ciertas obligaciones para las plataformas. Me parece que este segundo aspecto es sumamente importante. Las plataformas digitales son las que promueven la masificación de este tipo de contenidos, entonces tienen que haber algún tipo de sanciones que estén contempladas en la ley para que estos contenidos finalmente sean revisados por las plataformas y se evite la masificación de estos contenidos y que lleguen a las personas.
Una de las obligaciones que las plataformas digitales debieran asumir es la de dejar trazabilidad de los contenidos generados por inteligencia artificial, de manera tal de que los usuarios tengan claro de que el contenido al que están siendo expuestos fue generado por inteligencia artificial.
Hoy en día estos contenidos pueden ser declarados por los mismos autores, pero es importante que el contenido en sí tenga alguna marca, como por ejemplo, marcas de agua u otro tipo de marcas que puedan ser o facilitar la trazabilidad de estos contenidos y poder saber cuál es el origen o la fuente de estos contenidos que se usan en plataformas digitales."
Ver Video
