I. Antecedentes generales

El pasado 28 de febrero de 2024, se propuso a consideración del Senado la Iniciativa por la cual se expide la Ley Federal que regula la Inteligencia Artificial, con el fin de establecer un marco regulatorio para el uso de la inteligencia artificial (IA) en México.

Es importante señalar que la Iniciativa clasifica los sistemas de IA (Sistemas de IA) de acuerdo con su nivel de riesgo, establece obligaciones para proveedores y usuarios, propone la creación de una Comisión Nacional de Inteligencia Artificial, y establece medidas para asegurar la transparencia y la vigilancia de los Sistemas de IA para prevenir la discriminación y proteger los derechos de autor.

Dicha Ley sería obligatoria incluso para proveedores de Sistemas de IA que se encuentren ubicados en el extranjero y proporcionen servicios en México o cuya información generada se utilice en territorio nacional.

Dentro de los argumentos contenidos en la Exposición de Motivos de la Iniciativa en comento, destaca que la definición internacional generalmente aceptada de la IA implica el uso de tecnologías de la información que ejecutan operaciones comparables a las que ejecuta la mente humana. Los Sistemas de IA se encuentran en constante evolución y en muy poco tiempo han generado múltiples beneficios, tanto económicos como sociales, pero también enormes retos para las sociedades y los gobiernos.

Asimismo, se ha identificado que los elementos y técnicas utilizados por la IA pueden generar riesgos o consecuencias negativas para personas, grupos vulnerables o ciertos sectores de la población. Es por ello por lo que resulta indispensable establecer reglas claras que, por un lado, permitan su desarrollo e implementación, pero por el otro ayuden a mitigar los riesgos derivados de su aplicación.

Por otra parte, para la elaboración de la Iniciativa se contempló como base los precedentes normativos en materia de los Sistemas de IA, particularmente el Reglamento de la Unión Europea (UE) sobre la IA. Adicionalmente, por su similitud cultural con nuestro país, se tomó en consideración un proyecto de Ley que está en curso legislativo en Chile.

De igual manera, se tomó en cuenta la demanda de The New York Times en contra de OpenAI y Microsoft, en su calidad de socio capitalista de OpenAI. Señalando que el denominador común de la normatividad existente, o en proceso de aprobación, es la regulación del desarrollo, comercialización y uso de la IA, bajo una perspectiva de riesgos que considera los posibles efectos del uso de Sistemas de IA en la población.

II. Aspectos generales de la Iniciativa y sus problemáticas

La Iniciativa busca clasificar a los Sistemas de IA con base en los riesgos que representen, de manera similar como lo establece la normativa de la UE, considerando inaceptables a aquellos que mediante su uso generen perjuicios físicos y psicológicos graves a las personas y que se usen para fines de identificación biométrica, por ende, quedará estrictamente prohibida su enajenación, ya sea de manera onerosa como la venta, comercialización, distribución y uso, así como de manera gratuita, de aquellos que tengan como objetivo alterar el comportamiento de las personas, aprovecharse de la vulnerabilidad de diversos sectores, evaluar y clasificar a las personas durante un determinado tiempo conforme su conducta social, la identificación biométrica, y alterar de cualquier forma archivos de voz o de imagen de cualquier persona.

Por otro lado, los de alto riesgo, son aquellos que puedan causar un perjuicio a la salud o seguridad de las personas y que se usen para fines de identificación biométrica; gestión de suministro de agua, electricidad y gas, asignación de acceso a establecimientos educativos y estudiantes; selección y contratación de trabajadores; evaluación de personas para acceder a prestaciones, servicios y programas sociales; evaluación de solvencia económica de personas; definición de prioridades de atención de personas en situaciones de emergencia o desastre; la utilización para determinar el riesgo de que una o varias personas cometan delitos o reincidan en su comisión; la utilización en cualquier etapa de la investigación de hechos que puedan ser constitutivos de delito; la utilización para la gestión personalizada o individualizada de la migración, asilo, y el control fronterizo, e influir en las preferencias políticas-electorales de la ciudadanía suplantando la voz e imagen de candidatos.

Finalmente, se consideran de bajo riesgo los Sistemas de IA que durante su utilización no implican un peligro a la salud o la seguridad de las personas, o un daño o menoscabo de los derechos humanos. Los proveedores de este tipo de sistemas estarán obligados a cumplir con los parámetros de calidad y códigos de conducta previstos en la regulación de la Iniciativa de esta Ley.

Como toda Ley que busca regular la IA, la Iniciativa incluye la obligación de advertir que cierto contenido, ya sea de textos, imágenes o sonidos han sido creados por la IA generativa como una forma mínima de protección a los consumidores que, se espera, pueda repercutir en que los autores humanos sigan siendo preferidos por los destinatarios de los mensajes. Además, la Ley establecería que tal advertencia deberá también acompañar la petición de registro de la obra que corresponda, con el fin de que la autoridad pueda definir si existen aportaciones humanas de impacto para buscar su protección.

Asimismo, una disposición que resulta ser la más polémica de la Iniciativa, desde nuestro punto de vista, es la que determina que los desarrolladores y proveedores de Sistemas de IA que utilicen para entrenamiento bases de datos creadas por terceros sólo podrán utilizar esa información mediante acuerdo previo con los titulares de los derechos de propiedad intelectual correspondientes.

Esta disposición, de alcances inimaginables, se está adelantando a una disputa que en el mundo aún no se define (litigio NY Times vs. ChatGPT y Microsoft), que pondría en tela de juicio la viabilidad misma de la IA generativa. Será interesante analizar la resolución de dicho litigio más adelante para corroborar si efectivamente es inviable el uso de la IA generativa.

Para garantizar el cumplimiento de las regulaciones contempladas en la Iniciativa, se propone establecer multas por incumplimiento que serán impuestas por el Instituto Federal de Telecomunicaciones (IFT), autoridad reguladora encargada de autorizar a los proveedores de los Sistemas de la IA en México, incluso si se otorgan de manera gratuita. Además, se establece la obligación para los proveedores de informar cuando estén haciendo uso de esta tecnología, permitiendo su vigilancia por parte de la autoridad competente.

Cabe señalar que dichas multas pueden llegar a ascender hasta el 10% de los ingresos anuales de los proveedores de los servicios de los Sistemas de la IA. De igual manera, además de las multas, se podrán imponer sanciones como amonestaciones públicas, suspensión temporal o cancelación del registro de los proveedores de los Sistemas de la IA, y tratándose de servidores públicos la suspensión temporal o destitución del cargo.

Como parte de la Iniciativa, se propone también la creación de una Comisión Nacional de Inteligencia Artificial, compuesta por cinco científicos de reconocido prestigio en materia de desarrollo tecnológico y de tecnologías, que funcionará como un órgano consultivo para el IFT. Esta comisión tendrá como objetivo asesorar sobre el uso adecuado y ético de la IA en México.

Consideramos que dentro de las problemáticas que pueden surgir, derivado de la implementación de la regulación al uso de la IA son:

Implementación y Cumplimiento: Efectividad en la implementación y el cumplimiento de la Ley propuesta. Garantizar que las empresas y organizaciones cumplan con las disposiciones legales requerirá de mecanismos de supervisión y sanciones adecuadas, así como de recursos suficientes para las autoridades encargadas de hacer cumplir las disposiciones correspondientes.

Adaptabilidad: Dada la rápida evolución de la tecnología de la IA, la Ley debe ser lo suficientemente flexible como para adaptarse a las modificaciones en el panorama tecnológico y las nuevas preocupaciones éticas que puedan surgir. Esto podría requerir de revisiones periódicas y ajustes en la legislación para mantenerla relevante y efectiva.

Equilibrio entre Regulación e Innovación: Encontrar el equilibrio adecuado entre regular la IA para proteger los derechos y valores fundamentales, así como fomentar la innovación y la competitividad, será un desafío. Es importante evitar una regulación excesiva que pueda obstaculizar el desarrollo y la adopción de tecnologías de la IA, al tiempo que se protegen los intereses y la seguridad de la sociedad.

III. Comentarios finales

La Iniciativa para la expedición de la Ley Federal que regula la IA representa un paso crucial hacia la creación de un marco legal que promueva el desarrollo ético y responsable de la IA en México. Si se implementa de manera efectiva, esta Ley puede contribuir significativamente a la protección de los derechos de las personas, la promoción de la innovación y la competitividad, así como el fortalecimiento de la confianza en su uso. Sin embargo, su éxito dependerá en gran medida de la capacidad del gobierno para abordar las problemáticas identificadas y garantizar una aplicación coherente y equilibrada de la regulación.

En nuestra opinión, establecer una serie de requisitos y obligaciones para los desarrolladores de tecnología puede desincentivarlos para la creación y puesta en marcha de nuevos programas, puede significar un golpe a su capacidad innovadora, tomando en consideración que muchos de ellos no tienen recursos suficientes para cumplir con un marco normativo tan complejo o, bien, para pagar por servicios legales en la materia. Sin embargo, habrá que esperar a que se apruebe y entre en vigor la multicitada Ley en México.

Artículo escrito en colaboración con el C.P. Raúl Serrano Espinosa.