Gran parte de los éxitos de Silicon Valley están construidos sobre la premisa del “fake it, till you make it” (algo así como fíngelo hasta que lo consigas de verdad). Y, aunque, en ciertas ocasiones puede tener algo de sentido empresarial, impulsando el optimismo y el trabajo duro de las personas que intentan levantar un proyecto innovador, utilizado a gran escala ha derrumbado imperios construidos sobre una ilusión, una ficción, un engaño.
¿Se puede empezar a comercializar una nueva tecnología, aunque siga en fase de desarrollo?
¿Dónde está el límite entre las proyecciones optimistas (o irrealizables) en forma de stick de hockey que ofrecen la mayoría de startups cuando buscan financiación y el “fraude” como concepto jurídico punible?
Uno de los ejemplos más sonados es el caso de Theranos, una historia fascinante de la que se ha hecho incluso un documental en HBO The Inventor: Out for Blood in Silicon Valley, (Desangrando a Silicon Valley, 2019). Elizabeth Holmes deja sus estudios en Stanford en 2003, para fundar con 19 años, una empresa que estaba destinada a revolucionar el mundo de los análisis de sangre. Prometía que con una sola gota de sangre se podrían realizar infinidad de análisis que ahora requieren numerosos viales. 700 millones de dólares después, en 2018, la SEC acusa de fraude masivo a Elizabeth Holmes y a Ramesh Balwani, el expresidente de la compañía. El 31 de agosto de 2018 Theranos deja de operar. La tecnología prometida nunca llegó a funcionar: se utilizaban metodologías de análisis tradicionales y cuando se utilizaba la nueva maquinaria desarrollado por Theranos, los errores de precisión en el diagnóstico eran escandalosos.
Escándalos en el ámbito de la inteligencia artificial
Ahora nos enfrentamos a los primeros escándalos en el ámbito de la inteligencia artificial. ¿Van a tambalearse los cimientos de la comunidad Legal Tech?
El caso de Hanzo es especialmente relevante. Hanzo es una empresa con sedes en Reino Unido y Nueva York que ofrece distintas soluciones tecnológicas con el objetivo de empoderar a equipos legales y equipos de compliance a través de la obtención de información y conclusiones por medio del análisis de datos. En particular, Hanzo Dynamic Investigator, tal como indica la web de la compañía, se centra en la identificación y análisis de información obtenida a través de internet (incluyendo paginas web, posts en redes sociales o intercambios en foros) mediante herramientas impulsadas por inteligencia artificial.
Como en el caso de Theranos, una antigua empleada de Hanzo es quien decide dar el paso y denunciar las prácticas de la compañía a las autoridades en julio de 2019, tras haber sido despedida por haberse quejado ante la dirección de la compañía de estas prácticas empresariales. En concreto, acusa a la compañía de promover y publicitar falsamente que uno de sus productos (el Dynamic Investigator) estaba impulsado por inteligencia artificial.
La denuncia explica cómo los empleados de la compañía tenían que realizar manualmente las búsquedas en internet para los clientes de Hanzo porque la plataforma de inteligencia artificial que anunciaba la empresa no funcionaba. Una vez identificados los resultados manualmente, las conclusiones se compartían en el portal del cliente dando la falsa apariencia de que estos habían sido generados con herramientas impulsadas por inteligencia artificial.
Según narra la denuncia, Hanzo explicaba a clientes y potenciales clientes que su plataforma utilizaba poderosos algoritmos de búsqueda y analizaba montañas de datos online, identificados en internet y redes sociales. El problema es que la plataforma empezó a comercializarse en noviembre de 2018 mucho antes de que fuera capaz de funcionar de la forma en la que se publicitaba. El caso sigue abierto y tendremos que esperar para ver cuales son las consecuencias legales.
Las consecuencias para el sector Legal Tech
No podemos olvidar que el Legal Tech es un sector en desarrollo, con mucho camino por recorrer. Casos como el de Hanzo refuerzan y alimentan el discurso de los escépticos que ven en el Legal Tech una industria con pocas posibilidades de generar un impacto tangible en el ámbito legal.
Se genera desconfianza en aquellos abogados que se atreven a apostar por innovar en sus prácticas y se enfrentan a la tarea de escoger un proveedor de servicios Legal Tech.
Empaña las ventajas que puede reportar la incorporación de tecnología a la prestación de servicios jurídicos.
La conclusión no es cerrar la puerta a la innovación y la tecnología, sino aumentar el escrutinio. Esforzarse por entender el funcionamiento tecnológico de las herramientas, solicitar más información, no conformarse con palabras y power points, y entender que donde hay oportunidades de crecimiento, también es necesario un ejercicio de cautela.
Suscríbete a nuestro newsletter aquí.
