La pasada semana se publicó la Algorithm Charter for Aotearoa New Zealand por iniciativa del Ministro de Estadística neozelandés James Shaw. El proyecto ha sido rubricado por 25 organismos públicos del país, lo cual demuestra el compromiso global del gobierno y sector público en un tema tan relevante para la seguridad y confianza de los ciudadanos: la protección de sus datos.
La toma de conciencia sobre la necesidad de hacer un buen uso de los datos de los ciudadanos y, además, encaminar el mismo a la consecución del mayor beneficio e interés común subyace en el fondo del proyecto. A través del mismo, las agencias gubernamentales conocedoras de las enormes posibilidades en la utilización de datos para mejorar los servicios públicos, dan un paso más, esencial e ineludible, hacia la asunción de responsabilidades en el tratamiento de esos datos a través de los algoritmos creados y entrenados para ello.
Se trata, por tanto, de un documento de compromiso encaminado a establecer los principios que deben regir la utilización de algoritmos en la prestación de servicios públicos, buscando la transparencia y no discriminación en el tratamiento de los datos de los ciudadanos. Transparencia y confianza, según palabras del propio Shaw al hacerse pública la Carta: «Hoy hemos dado un ejemplo de liderazgo mundial de cómo el gobierno puede trabajar con diversos grupos de personas, comunidades y organizaciones para mejorar la transparencia y la responsabilidad en el uso de los datos. Es un ejemplo que esperamos que otros sigan».
Nueva Zelanda venía trabajando desde hace años en el uso y tratamiento responsable de datos y, por tanto, este documento de compromiso se enmarca en una red más amplia de investigación y estudio sobre ética y responsabilidad algorítmica.
Los pilares sobre los que se fundamenta la Carta
- Evaluación del impacto de decisiones informadas por algoritmos.
- Incorporación de la clasificación del riesgo según impacto producido.
- Aplicación de los compromisos asumidos en la Carta de acuerdo con la clasificación del riesgo identificada.
- Protección de intereses en concreto, con aplicación de los compromisos de manera diferente e individual por cada firmante priorizando los clasificados como de alto riesgo.
- Transparencia mediante la publicación de información relativa a la recopilación, almacenamiento y procesos de datos (salvo en los casos de límite legal).
- Colaboración con personas y comunidades o grupos de interés en utilización algorítmica.
- Protección de la privacidad.
- Ética y protección de derechos humanos mediante la aplicación de algoritmos por pares que permitan detectar y evaluar consecuencias no deseadas.
- Garantizar la supervisión humana en el uso de los algoritmos y establecer puntos de contacto públicos de consultas sobre su uso.
- Respeto de la perspectiva Te Ao Māori de acuerdo con el Tratado de Waitangi.
Revisión de la Carta
En consonancia con el propio avance tecnológico la Carta será objeto de revisión periódica con la finalidad de comprobar que se están cumpliendo los objetivos de mejora en la prestación de los servicios públicos y los mayores índices de transparencia.
En definitiva, se muestra como un proyecto en continua evolución incorporando una previsión de revisión en un plazo de 12 meses. Esto permitirá que el sector público neozelandés no ponga freno a las posibilidades que el avance tecnológico le ofrece, al propio tiempo que evalúe su buena incorporación, adaptación y utilización -sin sesgos ni opacidades-.
Responsabilidad algorítmica por y para el bien de la sociedad.
Suscríbete a nuestro newsletter aquí.
