NUEVO PROYECTO DE LEY QUE REGULA LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL

NUEVO PROYECTO DE LEY

QUE REGULA LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL

Un nuevo Proyecto de Ley ha sido ingresado a la Cámara de Diputadas y Diputados por el Presidente de la República, este 07 de mayo, cuyo objetivo es “promover la creación, desarrollo, innovación e implementación de sistemas de inteligencia artificial (“IA”) al servicio del ser humano, que sean respetuosos de los principios democráticos, el Estado de Derecho y los derechos fundamentales de las personas frente a los efectos nocivos que determinados usos pudieran irrogar.”


El Proyecto de Ley, tiene en consideración en su mensaje la evolución de la IA, mencionando el impacto significativo en la sociedad, los beneficios potenciales en muchas áreas, como el descubrimiento científico, la optimización de recursos, la educación y en el goce de los derechos fundamentales, destacando que el uso de la IA puede contribuir a un futuro más justo y ecológico, facilitando resultados positivos en sectores, como el cambio climático, la salud y la agricultura.

Sin perjuicio de lo anterior, el Proyecto de Ley destaca la necesidad de utilizar la IA de manera ética y responsable, reconociendo de esta manera los riesgos que el mal uso de la IA puede acarrear. En base a esto, se plantea la necesidad de certezas regulatorias que permitan su investigación y desarrollo, respetando siempre los derechos de las personas.

I. Contexto Internacional y Nacional:

El Proyecto de Ley menciona varias iniciativas internacionales que han influido en la regulación de la IA:

1. Unión Europea: La Ley de Inteligencia Artificial clasifica las herramientas de IA según el nivel de riesgo y aplica regulaciones proporcionales.

2. Estados Unidos: Se promueve la autorregulación con compromisos voluntarios de las empresas tecnológicas.

3. China: Implementa regulaciones estrictas sobre algoritmos y contenido generado por IA.

Se hace mención que en el contexto nacional, Chile ha avanzado significativamente en el desarrollo de políticas de IA. En 2019, se presentó la Política Nacional de IA, el cual culminó el 2021; se crea el Centro Nacional de Inteligencia Artificial (CENIA) y el primer doctorado en IA en Chile y Latinoamérica, entre otros hitos, posicionando a Chile como un referente regional.

II. Ámbito de Aplicación:

El Proyecto de Ley se aplica a:

1. Las empresas proveedoras que introduzcan o pongan en funcionamiento sistemas de IA en el mercado chileno;

2. Las empresas domiciliadas en Chile que implementen sistemas de IA en sus operaciones;

3. Las empresas proveedoras o implementadoras extranjeras, si la información generada por sus sistemas de IA se va a utilizar en Chile; y

4. Los importadores, distribuidores y representantes autorizados de sistemas de IA que estén domiciliados en Chile.

III. Principios Mencionados en el Proyecto de Ley: El Proyecto de Ley establece una serie de principios que deben guiar el desarrollo, implementación y uso de estos sistemas. Estos principios aseguran que la IA se alinee con los valores éticos y legales, promoviendo el bienestar social y protegiendo los derechos fundamentales de las personas. Los principios destacados en el documento son los siguientes:

• Intervención y Supervisión Humana: Los sistemas de IA deben ser desarrollados y utilizados como herramientas al servicio del ser humano. Esto implica que deben respetar la dignidad humana y la autonomía personal, permitiendo que su funcionamiento sea controlado y vigilado adecuadamente por seres humanos.

• Solidez y Seguridad Técnica: Es crucial que los sistemas de IA sean técnicamente robustos y seguros, minimizando los daños previsibles y siendo resistentes tanto a fallos imprevistos como a intentos de manipulación o uso ilícito por parte de terceros.

• Privacidad y Gobernanza de Datos: Los sistemas de IA deben cumplir con las normas vigentes en materia de privacidad y protección de datos. Solo deben tratar datos que cumplan con los estándares de calidad e integridad, asegurando que los datos sean interoperables cuando sea necesario.

• Transparencia y Explicabilidad: Los sistemas de IA deben ser desarrollados y utilizados de manera que faciliten la trazabilidad y explicabilidad. Esto significa que los usuarios deben ser conscientes de que están interactuando con un sistema de IA y comprender cómo este sistema obtiene sus predicciones o resultados, así como sus capacidades y limitaciones.

• Diversidad, No Discriminación y Equidad: Es fundamental que los sistemas de IA sean desarrollados y utilizados respetando la diversidad y evitando cualquier forma de discriminación. Deben considerar la equidad en todas las etapas de su ciclo de vida, evitando sesgos que puedan generar efectos discriminatorios.

• Bienestar Social y Medioambiental: Los sistemas de IA deben ser sostenibles y respetuosos con el medio ambiente. Además, deben promover el bienestar social, revisando los efectos a largo plazo que su aplicación pueda tener en la sociedad, la democracia y el medio ambiente.

• Rendición de Cuentas y Responsabilidad: A lo largo de su ciclo de vida, los sistemas de IA deben funcionar correctamente y sus desarrolladores, operadores y usuarios deben ser responsables de su desempeño en relación con sus funciones. Esto incluye la obligación de rendir cuentas sobre el uso y las decisiones tomadas por los sistemas de IA.

• Protección de los Derechos de los Consumidores: Los sistemas de IA deben ser desarrollados y utilizados conforme a las normas de protección de los derechos de los consumidores. Esto implica asegurar el trato justo, la entrega de información veraz, oportuna y transparente, y la salvaguarda de la libertad de elección y la seguridad en el consumo.

IV. Clasificación de los Sistemas de IA: El Proyecto de Ley clasifica los sistemas de IA según el nivel de riesgo que presentan, con el objetivo de garantizar la seguridad, salud y los derechos de las personas. Las categorías de clasificación son las siguientes:

• Sistemas de IA de Riesgo Inaceptable: Estos sistemas son incompatibles con el respeto y garantía de los derechos fundamentales, por lo que su introducción en el mercado o puesta en servicio está prohibida. Incluyen, entre otros:

o Sistemas de Manipulación Subliminal: Utilizan técnicas imperceptibles para inducir acciones que causan daños a la salud física o mental.

o Sistemas que Explotan Vulnerabilidades: Aprovechan vulnerabilidades de personas o grupos específicos para generar comportamientos dañinos, especialmente aquellos que afectan a niños, niñas y adolescentes.

o Sistemas de Categorización Biométrica: Clasifican a personas basándose en datos personales sensibles de manera que provoquen un trato perjudicial o discriminatorio.


• Sistemas de IA de Alto Riesgo: Incluyen sistemas autónomos o componentes de seguridad de productos que pueden afectar negativamente la salud, la seguridad, los derechos fundamentales, el medio ambiente o los derechos de los consumidores, especialmente si fallan o se utilizan de manera inapropiada.

• Sistemas de IA de Riesgo Limitado: Estos sistemas presentan riesgos no significativos de manipulación, engaño o error en su interacción con personas naturales. Son considerados seguros en términos generales, pero requieren ciertas precauciones para asegurar su correcto funcionamiento.

• Sistemas de IA sin Riesgo Evidente: Agrupan todos los demás sistemas de IA que no entran en las categorías anteriores. Estos sistemas son considerados seguros y no representan riesgos significativos para los usuarios ni para el público en general.

V. Gobernanza:

I. Se crea el Consejo Asesor de IA, el cual tendrá las siguientes facultades:

a) Presentar al Ministro de Ciencia, Tecnología, Conocimiento e Innovación (“Ministro”) una propuesta de listado de sistemas de IA de alto riesgo y de riesgo limitado, basado en los criterios establecidos en la ley y actualizado al menos cada dos años.

b) Asesorar al Ministro sobre el alcance y modo de cumplimiento de las reglas que deben seguir los operadores de sistemas de IA de alto riesgo y de riesgo limitado.

c) Presentar al Ministro una propuesta para el establecimiento de lineamientos para el desarrollo de espacios controlados de prueba para los sistemas de IA, y para la fijación de estándares mínimos de cumplimiento y rendición de cuentas.

II. La fiscalización y cumplimiento queda a cargo de la Agencia encargada de la protección de datos personales, cuyas funciones serán:

a) Fiscalizar el cumplimiento de la ley y su reglamento, pudiendo solicitar a operadores la información que necesite.

b) Determinar las infracciones e incumplimientos.

c) Ejercer la potestad sancionadora pobre personas naturales o jurídicas.

d) Resolver solicitudes y reclamos de personas afectadas.

VI. Sanciones:

Llama la atención las altas sanciones establecidas en el Proyecto de Ley dirigidas a los sujetos que no cumplan con las obligaciones al implementar los sistemas señalados, categorizando las infracciones como leves, graves y gravísimas, aplicando multas que van desde 5.000 hasta 20.000 UTM.