Entrevista a Juan Gustavo Corvalán: «Prometea es el primer sistema de inteligencia artificial diseñado y desarrollado por el Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires»

Pregunta: ¿La utilización exitosa de la IA por parte de las Administraciones Públicas implica un auténtico rediseño de sus estrategias actuales o una simple adaptación al cambio?

Respuesta: Desde la Fiscalía General del Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires y en el Laboratorio de Innovación e Inteligencia Artificial que se ha creado en el ámbito de la Facultad de Derecho de la Universidad de Buenos Aires, sostenemos que la incorporación de nuevas tecnologías debe enfocarse desde la óptica de las personas y sus derechos. El desafío es asegurar que la ciudadanía en su conjunto acceda a todos los servicios que proporcionan los gobiernos a través de la implementación de las TIC.

Que las organizaciones públicas utilicen las TIC más disruptivas, se presenta como un auténtico cambio de paradigma anclado en transformaciones sustanciales y no meramente instrumentales. Ya no alcanza solamente con “aplicar” las nuevas tecnologías a los problemas existentes, o de mejorar sistemas informáticos para “hacer lo mismo” pero con más tecnología. Por el contrario, se trata de repensar o redefinir nuevas estrategias y formas de entender la relación entre la sociedad y la tecnología; nuevos tipos de especializaciones en el ámbito social que se asocien a actividades de ciencia e innovación. Asimismo, se debe garantizar un desarrollo sostenible e inclusivo de la IA, que no cree brechas de desigualdad en la sociedad, sino que reduzca las ya existentes. Por lo tanto, dicha transformación debe gestionarse desde un enfoque de «tecnología social».

En este paradigma, la burocracia digital ahora se materializa a partir de numerosos clics, apertura de ventanas, completar formularios digitales, pegar y copiar datos, entre otras actividades. Y si bien esto es un gran avance, de cara al escenario anterior, creemos que se puede mejorar sustancialmente este paradigma digital mediante la incorporación de IA.

En el mundo digital, expandir la oferta de un servicio totalmente digital, depende esencialmente del diseño algorítmico, de la calidad de la conectividad, entre otros aspectos. Y si a eso le sumamos automatización o capas de innovación a través de IA, podríamos mejorar de manera exponencial, por ejemplo, el otorgamiento de turnos.

Estos ejemplos, dan cuenta de un cambio de enfoque que va más allá de algo que muchas veces nos resulta intuitivo: “hacer lo mismo” pero con más tecnología. Si miramos en retrospectiva, usualmente hemos reproducido la lógica de la burocracia imprenta en el mundo digital, lo que se traduce en una merma en las posibilidades para el objetivo de más derechos para más gente. La burocracia inteligente no se vincula con replicar los procedimientos y las formas de una burocracia digital.

Aprovechando los sistemas de IA, a la par que trabajamos para consolidar el gobierno digital y el acceso universal a las TIC, aspiramos a impulsar una segunda transición hacia un nuevo arquetipo de organizaciones públicas que las vuelva exponenciales. En palabras simples, la organización digital o algorítmica, no pasa por “abrir oficinas”, sino por expandir o ajustar diversos algoritmos.

En el Ministerio Público Fiscal de la Ciudad de Buenos Aires ya hemos concretado los primeros y sustanciales pasos de cara a una segunda transición: de una “burocracia imprenta y digital” a una “burocracia inteligente” en donde los sistemas de IA facilitan, simplifican y aceleran exponencialmente interacciones y tareas a partir de la automatización y de la actividad predictiva. Como estos cambios son mucho más profundos que “adaptar” el Estado y los organismos públicos al expediente digital, a la web o a las redes sociales, en esencia, hay que transformar la lógica de las organizaciones y sus procedimientos.

Hemos encarado este enfoque a través de Prometea, con la cual es posible reducir los tiempos de manera muy significativa. A partir de las mediciones realizadas, generar 1000 dictámenes relativos al derecho a la vivienda -en el paradigma de burocracia impresa más digital- requería de 174 días de trabajo, mientras que con Prometea se hacen en 45 días. Lo mismo ocurre con casos relativos al derecho al trabajo, en los que sin Prometea se necesitaban 83 días para realizar esa cantidad de dictámenes, mientras que con el sistema de IA se generan en 5 días. Asimismo, Prometea actúa para el control de requisitos formales de los expedientes y reduce el tiempo de 160 a 38 días de trabajo para 1000 expedientes.

¿Cuáles son las nuevas estrategias basadas en las nuevas tecnologías que debe utilizar el sector público?

Implementar IA en una organización pública implica por un lado, desaprender muchas técnicas, formatos y enfoques que hemos aprendido en el marco de un paradigma “industrial”, basado en una serie sucesiva de pasos lineales para llegar a un determinado resultado o decisión. Por otro, consiste en redefinir estrategias a partir del uso de nuevas TIC, para que las/os trabajadoras/es y la ciudadanía sean el centro de sistemas de IA que reducen exponencialmente la burocracia estatal.

En este proceso de desaprender y aprender nuevas lógicas debido a la incorporación de IA a la gestión pública, las Administraciones necesitan desarrollar una adecuada gobernanza de los datos a la vez que deben garantizar un desarrollo sostenible e inclusivo de la IA, que no cree brechas de desigualdad en la sociedad, sino que reduzca las ya existentes. Por lo tanto, dicha transformación debe gestionarse desde un enfoque de “tecnología social”.

El desarrollo y aplicación de sistemas de IA para optimizar las organizaciones presupone considerar dos grandes dimensiones que también podrán articularse. Por un lado, la aplicación de sistemas inteligentes para simplificar y facilitar, la relación ciudadanía-Estado (mundo front office). Por otro, hablamos de acelerar y optimizar las tareas internas de las organizaciones (mundo back office). El primer mundo abarca el grueso de las interacciones entre el Estado y los ciudadanos. Nos referimos a comentarios, consultas, denuncias, solicitudes o reclamos a partir de asistentes digitales a partir de la interacción por voz o por chat, para que el ciudadano no tenga que recorrer un sinfín de páginas web para intentar encontrar la información exacta que necesita, en un mundo digital que cada día crece de forma exponencial. Incluso, ciertos trámites podrán brindarse íntegramente a través de un asistente digital con reconocimiento de lenguaje natural, del modo en que funciona Siri de Apple, o a través de diversos agentes conversacionales.

¿Cree que la utilización de inteligencia artificial por parte del sector público acabará con puestos de trabajo o, al contrario, representa una gran oportunidad para conseguir funcionarios competentes y creativos?

Desde el momento que nos propusimos diseñar y aplicar IA en la Administración de Justicia, hemos puesto el foco en el impacto de este tipo de tecnología en el trabajo. La postura que sostiene que las máquinas vienen a quitarnos nuestros puestos de trabajo, suele emerger ante cada disrupción tecnológica y la Cuarta Revolución Industrial no es la excepción. Si bien es lógico que frente a innovaciones tan disruptivas la primera perspectiva suela ser desalentadora o pesimista, es importante analizar con mayor profundidad el fenómeno teniendo en cuenta que predecir el impacto de la automatización en el empleo es una tarea de gran complejidad. Adelantamos que nuestra postura toma distancia de algunas tendencias que predicen un futuro oscuro en donde los robots nos desemplearán. Entendemos que es demasiado pronto para sostener que los efectos netos de las tecnologías disruptivas en la creación de empleos serán negativos.

El hecho de que ciertas tareas se automaticen no significa indefectiblemente que el trabajo humano sea sustituido por máquinas inteligentes, sino que existirá una nueva configuración en la división de tareas entre ambos.

Durante el proceso de automatización y aplicación de sistemas de IA, principalmente se reemplazan las tareas más rutinarias, repetitivas o mecanizadas. En esos casos, las/os trabajadoras/es son reasignadas/os y se permite que se dediquen a labores más creativas y productivas. Y aunque esto no es nuevo (el ordenador y el procesador de texto reemplazaron tareas mecánicas y repetitivas frente a la máquina de escribir), lo cierto es que en la actualidad el fenómeno se presenta de manera exponencial.

Esta transición, donde sistemas de IA pasan a hacerse cargo de tareas simples, rutinarias y repetitivas, implica un cambio de paradigma, en el cual la promoción del aprendizaje permanente de la fuerza laboral tiene un rol central. Ya no basta con que una persona estudie una carrera y allí culmine su formación, tiene que desarrollar continuamente habilidades digitales, creativas y socioemocionales, para adaptarse a la naturaleza vertiginosa y acelerada de las disrupciones tecnológicas.

En este panorama de demanda constante de nuevas aptitudes laborales, las organizaciones públicas ocupan un papel importante, ya que deberán transformarse sustancialmente a fin de aumentar su eficiencia. Por un lado, deberán invertir en tecnología y por otro en capital humano. Esto último necesariamente implica alfabetizar y crear entornos adecuados para que las personas se adapten a trabajar con nuevas tecnologías y sistemas inteligentes, que insistimos, potencian la labor humana.

En definitiva, la implementación de IA, lejos de desemplear, jerarquiza la labor de las personas, simplifica la burocracia, optimiza el proceso, agiliza los tiempos de respuesta de la justicia, incorpora nuevos operadores y, además, permite desarrollar tareas postergadas o contar con más tiempo y recursos para otras que son mucho más complejas, al tiempo que humaniza el trabajo permitiendo a los seres humanos dedicarse a un trabajo más creativo y productivo. Es hora de crear una nueva generación de funcionarias/os calificadas/os y talentosas/os, y empoderar y recalificar a las/os existentes. Nadie debe quedarse atrás en la adopción de nuevas tecnologías para la prestación de servicios.

Háblenos del proyecto Prometea.

Prometea es una Inteligencia Artificial creada en Argentina, en el ámbito del Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires. El sistema, en un primer momento, fue ideado e implementado pensando en la optimización del servicio de justicia, con el fin de agilizar exponencialmente los procesos judiciales en beneficio del ciudadano. Luego, se advirtió que los beneficios que generaba podían ser aprovechados por cualquier organización pública.

A partir de diferentes capas de innovación, su desarrollo constituye un avance tecnológico altamente disruptivo, cuya implementación parte de la necesidad de que sea el propio Estado quien brinde medios eficaces e innovadores, que sean idóneos para generar un impacto en la sociedad en su conjunto.

Prometea tuvo sus inicios en agosto de 2017. A partir de esa fecha, hemos interactuado con más de 60 organizaciones e instituciones nacionales e internacionales (Organización de las Naciones Unidas, Organización de los Estados Americanos, Universidad de Oxford, Universidad Sorbona, Universidad de Milano, Corte Interamericana de Derechos Humanos, Corte Constitucional de Colombia, Tribunal Administrativo de Lombardía, entre muchas otras), y Prometea ha colaborado en la automatización de una serie de tareas de estas organizaciones.

Le doy algunos datos:

Esta innovación, ha traído inmensos beneficios en aplicaciones y en el desarrollo de diversas pruebas de concepto en la Justicia y en la Administración Pública:

• Predice la solución a un caso judicial en menos de 20 segundos, con una tasa de acierto del 96%. Permite que en solo 45 días se elaboren 1000 dictámenes jurídicos relacionados a expedientes del derecho a la vivienda; lo cual del modo tradicional, tardaríamos 174 días;
• En materia contravencional, permite que en 26 días se elaboren 1000 resoluciones de suspensión de juicio a prueba por conducir en estado de ebriedad, lo que manualmente tarda 110 días.
• En expedientes de ejecuciones fiscales, con el sistema de gestión utilizado en lote, se pueden realizar 255 sentencias de trance y remate en un mes. Con Prometea, se pueden realizar 1.440 en el mismo período.
• En la Corte Constitucional de Colombia, a la que llegan miles de expedientes por día, se logró reducir el tiempo destinado a la selección de casos urgentes de 96 días a 2 minutos, a partir de la técnica machine learning. Prometea lee, analiza, detecta y sugiere en pocos segundos los casos prioritarios en materia de salud. Todo ello bajo supervisión humana. Asimismo, la herramienta está diseñada para crear múltiples documentos de forma automatizada. Así, pueden crearse 14 documentos en 16 minutos, algo que a una persona le lleva hoy en día 2 horas 40 minutos de trabajo hacer. La eficiencia en este caso, se aumenta en un 937%.
• En la Corte Interamericana de Derechos Humanos, funciona como un asistente virtual para la creación de notificaciones, como una herramienta de búsqueda avanzada y como asistente virtual para la creación de una resolución.
• En el Registro Civil y Capacidad de las Personas de la Ciudad de Buenos Aires, las 6.000 rectificatorias de partidas administrativas que aproximadamente ingresan en un año, se realizan en 2 meses con Prometea, lo que antes demoraba 8 meses.
• En el ámbito de contrataciones públicas, permite realizar un pliego de bases y condiciones particulares en segundos e incorpora una herramienta de control de precios públicos y privados sobre los bienes a adquirir. El resultado, es que con Prometea podemos confeccionar un pliego en tan solo 1 minuto, mientras que manualmente la redacción del documento nos ocupa 2 horas.
• En relación a todas las implementaciones, se concluyó que Prometea reduce la cantidad de errores de tipeo en un 99%; y permite hacer un control exhaustivo de aspectos formales de los documentos involucrados.

¿Cree que la colaboración entre inteligencia artificial y las personas es un camino que no tiene vuelta atrás en al ámbito de las Administraciones Públicas? ¿Cuál es la situación en América Latina?

El presente del trabajo, en general, muestra a la automatización como un complemento que potencia y fortalece el trabajo humano. Aquí surge el concepto de “cobotización”, como una suerte de coworking o convergencia entre sistemas de IA, robots y trabajadoras/es, donde estos sistemas inteligentes trabajan junto a las personas, complementándolas. Como afirma Béliz, la idea central es crear una “fuerza laboral con inteligencia aumentada”, en donde la IA eleve los límites de las capacidades tradicionales^.

Sobre esta base, creemos que la inteligencia aumentada se basa en una cobotización inclusiva que presupone dirigir los esfuerzos para establecer cuatro grandes herramientas que se aplican a los grandes sectores de las actividades humanas: industrial, manufactura y servicios.

Prometea es el resultado evidente de combinar fuerza laboral humana e IA, bajo un enfoque inclusivo. Esto produce el fenómeno que hemos llamado “automatización que humaniza”. La reducción de sesgos, errores y tiempos que torna más eficiente las actividades, permite redirigir las capacidades cognitivas biológicas a tareas más sofisticadas, o que requieren empatía y creatividad. Por ejemplo, se estima que para el año 2030 las/os trabajadoras/es digitales dedicarán dos horas menos semanales a tareas rutinarias, automatizables, pudiendo enfocarse en actividades de mayor complejidad. También se pronostica que alrededor de tres cuartos del impacto de la automatización en el empleo, se producirá dentro de un mismo puesto de trabajo^.

Esto no significa que no haya desafíos y retos, principalmente en la adaptación, transformación y reubicación de las personas respecto de las tareas automatizadas y de las nuevas tareas o trabajos que se crean. Sin embargo, en el corto o mediano plazo, creemos que la IA se presentará como una tecnología exponencial que potenciará a la inteligencia humana.

La transición en el corto plazo hacia sistemas de IA que se ocupen de realizar tareas humanas simples, mecánicas y repetitivas no será rápida ni sencilla para contextos como el latinoamericano. Lamentablemente, nuestra región enfrenta numerosos obstáculos a la hora de adoptar tecnologías. Entre los diversos obstáculos que existen, hay dos factores clave para entender las razones por las cuales los sistemas de IA no avanzarán tan rápido sobre las tareas que integran trabajos con significativa carga burocrática. Nos referimos a la imposibilidad de que los datos y la información se encuentren organizados y disponibles digitalmente, en formatos abiertos e interoperables. Este es el primer paso para que los sistemas de IA puedan transformar la burocracia digital en burocracia inteligente.

A la falta de infraestructura adecuada y diversos problemas asociados a necesidades básicas en Latinoamérica, se suma el hecho de que la fuerza laboral no posee las habilidades ni la preparación que demanda el mundo digital. Por ello, en el sector privado se sostiene que a las empresas les reditúa más seguir pagando bajos salarios que invertir en innovación. Resulta crucial entonces, que se promueva la inclusión y capacitación de las/os trabajadoras/es que se encuentren en alguna situación de vulnerabilidad, para que la inevitable transición hacia ecosistemas de mayor automatización sea inclusiva.

Según el Instituto para la Integración de América Latina y el Caribe dependiente del Banco Interamericano de Desarrollo, el impacto de la IA será exponencial en la fuerza productiva latinoamericana si se tienen en cuenta algunos avances que ya se están implementando en esta región. Por ejemplo, el reconocimiento de imágenes empleado en agricultura de precisión para fumigación dirigida puede incrementar su rendimiento por hectárea en un 30%; los servicios de salud pueden brindar diagnósticos médicos con tasas de 96% de acierto; la agilización de la resolución de casos judiciales a partir de predicciones con una tasa de acierto, en promedio, de 96%. Respecto de este último ejemplo, cuando impulsamos el desarrollo de Prometea, pudimos comprobar un aumento de productividad y de eficiencia entre un 300% y 2.400% en la confección de opiniones legales en la Justicia, con un mejor aprovechamiento de los recursos humanos existentes.

Suscríbete a nuestro newsletter aquí.