El 31 de diciembre de 2021, la Administración de Ciberseguridad de China (Cyberspace Administration of China, CAC), aprobó las Regulaciones de Gestión de Recomendaciones de algoritmos de servicios de información de Internet , que han entrado en vigor el 1 de marzo de 2022, y suponen un conjunto de regulaciones que pretenden controlar el uso, y el mal uso, de los llamados algoritmos de recomendación.
De entrada, esta nueva regulación aparece a los ojos de todos como el conjunto de reglas más extenso jamás aprobado en el mundo para la implementación de algoritmos de recomendación, exigiendo, por un lado, más transparencia sobre cómo funcionan los algoritmos y, por otro lado, ofreciendo a los usuarios más control sobre sus datos, limitando su uso por parte de las empresas con la finalidad de alimentar el algoritmo y conseguir un beneficio. Pero las regulaciones van más allá de la enumeración y definición de los derechos de los usuarios, ya que exigen que los operadores de algoritmos respeten un código ético para alentar el buen uso en línea y prevenir la difusión de información indeseable o ilícita, siendo necesarios los permisos para el uso de la inteligencia artificial (IA)
Las Regulaciones contienen en su art. 2 el ámbito de aplicación señalando que estas disposiciones se aplican al uso de tecnología de recomendación algorítmica para proporcionar servicios de información de Internet dentro del territorio continental de la República Popular China y establece una delimitación de la tecnología de recomendación algorítmica: “[…] se refiere al uso de tipo generativo o sintético, tipo de recomendación personalizada, tipo ranking y selección, tipo filtro de búsqueda, tipo despacho y toma de decisiones, y otros similares. tecnologías algorítmicas para proporcionar información a los usuarios”.
Los puntos más relevantes de la nueva regulación cuyo texto se puede encontrar traducido en DigiChina de Stanford University) son :
- Establecimiento de un sistema de gestión y normas del servicio que se ajusten a las exigencias de la nueva regulación. Así mismo, revisión periódica de este sistema para asegurar, verificar y evaluar periódicamente los mecanismos algorítmicos, los modelos, los datos y los resultados de las aplicaciones, etc., y no podrán establecer modelos algorítmicos que violen las leyes y reglamentos o la ética y la moral, como inducir a los usuarios a la adicción o al consumo excesivo (arts. 6 a 8).
- Obtención de permiso por parte de los proveedores de servicios de recomendación algorítmica que presten servicios de información de noticias en Internet, que autorice la prestación de servicio de información de noticias en Internet de acuerdo con la ley; y estandarizar su despliegue de servicios de recopilación, edición y difusión de información de noticias en Internet, servicios para compartir y servicios de plataforma de transmisión. No podrán generar ni sintetizar información noticiosa falsa, ni podrán difundir información noticiosa no publicada por las unidades de trabajo en el ámbito que determine el Estado (art. 13).
- Cuando los proveedores de servicios de recomendación algorítmica presten servicios a menores de edad, deberán cumplir con los deberes de protección de menores en línea conforme a la ley, y facilitar a los menores la obtención de información beneficiosa para su salud física y mental, mediante el desarrollo de modelos adecuados a las características específicas de los menores (art. 18).
- Cuando los proveedores de servicios de recomendación algorítmica brinden servicios a las personas mayores, deberán defender los derechos de que las personas mayores disfruten según la ley y facilitarles el uso seguro de los servicios de recomendación algorítmica evitando los fraudes y engaños (art. 19).
- Los proveedores de servicios de recomendación algorítmica deberán brindar a los usuarios la opción de no enfocarse en sus características individuales, o brindarles a los usuarios una opción conveniente para desactivar los servicios de recomendación algorítmica. Cuando los usuarios opten por desconectar los servicios de recomendación algorítmica, el proveedor del servicio de recomendación algorítmica dejará de prestar inmediatamente los servicios relacionados.
La interpretación de las regulaciones corresponde a las autoridades de la Administración del Ciberespacio de China, con la ayuda del Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Estatal de Regulación del Mercado (art. 23) . El artículo 31 establece, además, que las autoridades pueden emitir a los infractores, según la gravedad, “una advertencia”, un “informe de crítica” o una “orden de rectificación” . En caso de incumplimiento de estas disposiciones, se puede sancionar con suspensión de la actividad a los infractores y se pueden imponer multas de entre 10.000 y 100.000 yuanes.
Estas reglamentaciones son importantes, no sólo para las tecnológicas, ya sean plataformas comerciales online o redes sociales que utilicen estos algoritmos de recomendación de nacionalidad china, sino también para todas aquellas plataformas de servicios online de otra nacionalidad que operen en China.
Revierte especial importancia la creación del programa nacional de permisos para el uso de IA y como primera exigencia para obtenerlos, la necesaria inversión por parte de las empresas y plataformas para implementar sistemas que aseguren que los algoritmos de recomendación se utilicen para promover un uso ético y siempre respetuoso con la voluntad del usuario.
Suscríbete a nuestro newsletter aquí.
