Los algoritmos dirigen nuestras decisiones de consumo en línea porque están preparados para llevarnos hacia lo que el vendedor quiere, que es, vender sus productos por encima de los productos de la competencia. Efectivamente, los algoritmos juegan un papel cada día más relevante en el marketing.
Los sistemas algorítmicos están siendo decisivos estratégicamente para las empresas proporcionándoles enormes beneficios económicos puesto que están preparados para captar las preferencias del consumidor a toda costa, a veces de manera sutil, y otras veces de manera opaca. Es difícil imaginar en la actualidad un modelo de negocio que no incorpore el almacenamiento, análisis y procesamiento de datos.
Las estrategias modernas de marketing tienen como objetivo ofrecer campañas personalizadas dirigidas al individuo en específico. Ya no se limitan a segmentos de población. Y precisamente los algoritmos pueden conseguir este objetivo ayudando a obtener esas “personalizaciones”.
Se conoce el hecho de que mediante los sistemas algorítmicos es posible desplazar productos de la competencia, es posible personalizar las listas de precios en función del consumidor y sus circunstancias (conocidas por el procesamiento de datos) y, en consecuencia, un mismo producto puede exponerse de diferente manera al usuario. El llamado pricing algorithms que podría entenderse como una práctica conspiratoria realizada a través de un determinado algoritmo para la fijación de precios, plantea el problema de responsabilidad por colusión. Así, habría que preguntarse que pasaría si el algoritmo se entrena y evoluciona hacia la posibilidad de fijar precios en función de los cambios de mercado y análisis de la competencia sin acuerdo expreso entre las empresas (ilícita como colusión expresa). En estos casos, algunos (Harrington, Developing competition law for collusion by autonomous artificial agents) distinguen entre algoritmos capaces de coludirse porque “han sido programados” para conseguirlo, y algoritmos que “aprenden” a coludirse.
A medida que los algoritmos son más sofisticados, interactúan con otros algoritmos aumentando el nivel de automatización, lo cual es de manera escalable decisivo en los procesos de marketing. Es muy importante, por tanto, poder conocer cómo funcionan los sistemas algorítmicos que se están utilizando para así determinar si están violando la ley de competencia o los derechos del consumidor. Arbitrando sistemas de monitoreo que permitan la auditoría de los algoritmos se podría comprobar su potencial ilícito anticompetitivo.
La Autoridad de Competencia y Mercado de UK (Competition & Markets Authority-CMA)) ha hecho público un interesante informe (Algorithms: How they can reduce competition and harm consumersen), en el que analiza estos potenciales ilícitos y las diferentes formas de monitoreo del funcionamiento de los sistemas algorítmicos con la finalidad de afrontar un marco regulatorio de responsabilidad.
Del informe se desprende una preocupación por el posible aumento creciente de la llamada colusión tácita, es decir, aquellos supuestos en los que no hay acuerdo expreso entre los competidores, pero si confianza en que la competencia actuará de manera similar (por ejemplo, aumentando precios), a consecuencia de la sofisticación de los sistemas algorítmicos. Lo importante en estos casos es determinar la ilicitud del comportamiento subyacente, y por tanto comprobar la categoría de algoritmo (Harrington), si ha sido entrenado para ello (voluntad de la persona y consiguiente responsabilidad) o ha aprendido a hacerlo (ausencia de voluntad, pero necesidad de control).
El Informe plantea cuestiones tan interesantes como la utilización de la técnica del Regulatory Sandbox como espacio seguro que el regulador ofrece a las empresas para que puedan probar técnicamente sus algoritmos sin la presión de la responsabilidad ante su posible opacidad.
Pero esta propuesta no está exenta de dudas y cuestionamiento porque los algoritmos de una empresa interactúan en función de las decisiones de otras empresas (guiadas por algoritmos) y además los algoritmos aprenden y van evolucionando. Todo esto lleva a que la técnica del Sandbox deba quedar abierta permanentemente y los sistemas algorítmicos se sometan de manera periódica a ese monitoreo, pasando por la zona de pruebas en intervalos preestablecidos.
En el Informe de la CMA se destaca la importancia de este tema y si bien la colusión algorítmica en la actualidad puede no ser un problema importante, si podría llegar a serlo en un futuro inmediato. Alerta, además -en referencia global y en particular UK-, de la inexistencia de trabajos empíricos en este ámbito concreto y en particular la existencia de lagunas “en el trabajo relacionado con la operación y los efectos de la fijación de precios automatizada en la colusión, técnicas para identificar y evaluar de manera eficiente el impacto de la personalización, y lo mismo para la arquitectura de elección manipulativa en general”.
Por su parte el Grupo de expertos de alto nivel de la Comisión Europea sobre IA, sugiere que se puedan desarrollar enfoques de corregulación. Todo un reto para el legislador.
Suscríbete a nuestro newsletter aquí.
