Con el respaldo de todos los partidos en el Congreso capitalino, comisionados del Instituto de Transparencia de la Ciudad (InfoCDMX) presentaron una iniciativa de ley para regular el uso de la Inteligencia Artificial (IA) y el tratamiento de datos personales por parte de los sujetos obligados.
El artículo tercero de la iniciativa establece que ningún sistema de IA se desarrollará o utilizará en detrimento a los derechos de las personas, por lo que los sujetos obligados garantizarán que los grupos de atención prioritaria puedan ejercer, en igualdad de circunstancias, su derecho a la protección de sus datos personales y privacidad, observando en todo momento el principio pro persona.
Además, en el artículo quinto se precisa que los sindicatos y cualquier otra persona física o moral que reciba y ejerza recursos públicos o realice actos de autoridad en el ámbito federal, estatal y municipal serán responsables de los datos personales que se utilicen para el desarrollo o uso de un sistema de inteligencia artificial.
CONCEPTOS
La propuesta se llama “Ley para el uso de inteligencia artificial y el tratamiento de datos personales por sujetos obligados en la Ciudad de México”, y está compuesta por 72 artículos y cuatro transitorios.
En ella se plantea la creación de una Comité de inteligencia artificial, como un órgano colegiado de los sujetos obligados cuya función es determinar los impactos adversos al derecho a la privacidad de las personas que pueden surgir por el desarrollo o uso de modelos de inteligencia artificial.
Incluye conceptos como “Envenenamiento de datos”, entendido como los ataques que tratan de manipular al conjunto de datos que utiliza el modelo de inteligencia artificial o los componentes entrenados previamente.
Así como la generación de alucinaciones a través de la entrada de información diseñada para hacer que el modelo de inteligencia artificial comenta errores o salga de los parámetros establecidos.
DEFINICIONES
La propia Inteligencia Artificial es definida en la propuesta como el conjunto de tecnologías que funcionan a través de elementos interrelacionados que generan percepción, cognición, planificación, aprendizaje, comunicación o acción física similares a las humanas.
También son las tecnologías de software, a veces hardware, que pueden aprender, crear conocimiento y actuar de forma autónoma, ya sea en forma de agentes de software o robots incorporados.
También se agregó el concepto de “Transparencia algorítmica” y se refiere a los sistemas de IA que se desarrollan y utilizan de un modo que permita una trazabilidad y explicabilidad adecuadas a la persona o grupos de personas que se sientan afectados en sus derechos humanos, dignidad, democracia, estado de Derecho o medio ambiente.
Al mismo tiempo esa “Transparencia algorítmica” debe hacer que las personas sean conscientes de que se comunican o interactúan con un sistema de IA e informe debidamente a los responsables del despliegue sobre las capacidades y limitaciones de dicho sistema de IA y a las personas afectadas acerca de sus derechos.
PRESENTACIÓN
Este jueves los comisionados del InfoCDMX Arístides Guerrero y Julio César Bonilla acudieron al Congreso capitalino para dar a conocer el contenido de esta iniciativa de ley, junto con legisladores de todos los partidos.
Ahí destacaron las bondades de la propuesta que para su elaboración requirió un trabajo de cuatro meses y contó con la asesoría de la embajada británica.
En la iniciativa se señala que los sujetos obligados que desarrollen o utilicen modelos de inteligencia artificial deben ser capaces de rendir cuentas sobre las decisiones y resultados generados por estos sistemas.
Esto incluye la obligación de proporcionar explicaciones claras y comprensibles sobre el funcionamiento de los algoritmos y de sus decisiones.
Para ello deberán implementar un sistema de gestión de riesgos de privacidad y un plan de IA que periódicamente sea auditado con alguna metodología reconocida y cuyos resultados se plasmen en un informe hecho por un externo certificador.
SANCIONES
En el artículo 70 de la propuesta se enlistan las sanciones que podrá imponer el InfoCDMX para asegurar el cumplimiento de esta legislación.
Van de la amonestación pública; la multa, equivalente a ciento cincuenta hasta mil quinientas veces el valor diario de la Unidad de Medida; la suspensión temporal de las operaciones del sistema de IA hasta que se corrijan los problemas identificados; así como la revocación de permisos y licencias para operar el sistema de IA.
Serán causas de sanción actuar con negligencia, dolo o mala fe durante el desarrollo, mantenimiento y utilización de la inteligencia artificial, así como en el tratamiento de los datos personales durante todo su ciclo de vida.
También incumplir los plazos y obligaciones previstos en la presente Ley; además de usar, sustraer, divulgar, ocultar, alterar, mutilar, destruir o inutilizar, total o parcialmente y de manera indebida datos personales, que se encuentren bajo su custodia o a los cuales tengan acceso o conocimiento con motivo de su empleo, cargo o comisión.
Otra conducta punible será no recabar el consentimiento de la persona titular, lo que constituye que el tratamiento sea ilícito, o no contar con el aviso de privacidad, o bien tratar de manera dolosa o con engaños datos personales.
“Las responsabilidades que resulten derivados de la violación a lo dispuesto por esta ley son independientes de las del orden civil, penal o de cualquier otro tipo que se puedan derivar de los mismos hechos”, se señala en el artículo 71 de la propuesta.
