El reciente caso de una legisladora mexicana que ha denunciado el uso de su imagen mediante la manipulación digital invita de nuevo a la reflexión profunda desde el punto de vista de la unión de las leyes y la tecnología. En efecto, el avance de la inteligencia artificial (IA) ha revolucionado múltiples campos, desde la medicina hasta la educación, pasando por los sectores del entretenimiento, el marketing y en este caso, la política, entre otros. Sin embargo, este progreso tecnológico también ha traído consigo desafíos éticos y legales que muchos sistemas jurídicos aún no han logrado abordar completamente y México no es la excepción. Uno de los desarrollos más preocupantes en los últimos años ha sido el uso de IA para clonar rostros y voces, lo que plantea serios riesgos para la privacidad, la seguridad, y los derechos de las personas.

Por no referirme a casos sólidos en nuestro país, abordaré uno, en el contexto de Buenos Aires, Argentina, un caso emblemático que ha comenzado a marcar precedentes: una demanda colectiva por el uso no autorizado de tecnologías de clonación de voz y rostro mediante IA. Esta demanda fue presentada en representación de un amplio grupo de personas que argumentan haber sido víctimas, o estar en riesgo de serlo, de prácticas abusivas por parte de plataformas digitales que utilizan la IA para recolectar y manipular datos biométricos sin su consentimiento. Marcela Monti, fiscal ante los Juzgados de Primera Instancia de la Ciudad Autónoma de Buenos Aires, lidera la acusación, solicitando que se bloqueen las páginas web involucradas y se establezcan campañas de concienciación pública para alertar sobre los peligros de estas tecnologías.

¿En qué consiste la clonación de voz y rostro mediante IA?

La clonación de rostro y voz es una tecnología que permite replicar de manera asombrosamente precisa las características físicas y vocales de una persona. Esto se logra alimentando a un algoritmo de IA con grandes volúmenes de datos visuales y auditivos, lo que permite recrear rostros y voces con detalles tan finos que, en muchos casos, es prácticamente imposible distinguirlos de los originales.

Lo que comenzó como una herramienta útil para la creación de efectos visuales en la industria del cine, o para la personalización en asistentes virtuales, ha evolucionado hasta convertirse en un campo de juego peligroso. La tecnología, cuando no está regulada adecuadamente, abre la puerta a la manipulación de identidades y el uso indebido de datos personales. Entre los mayores riesgos, encontramos su aplicación en fraudes financieros, ciberacoso, robo de identidad y la creación de contenidos falsos que pueden tener consecuencias devastadoras en la vida personal y profesional de las víctimas.

El caso de Buenos Aires: demanda colectiva por clonación biométrica

En el caso argentino, la demanda se centra en la falta de regulación clara que proteja a los consumidores frente al uso de sus datos biométricos. Las plataformas acusadas no ofrecen términos de uso transparentes ni solicitan un consentimiento explícito para la utilización de estos datos. Esto significa que cualquier persona que acceda a una de estas plataformas está, potencialmente, permitiendo la recopilación de datos sensibles como su rostro o su voz, los cuales pueden ser clonados y utilizados de manera no ética.

Marcela Monti, la fiscal a cargo del caso, ha subrayado que estas plataformas deben ser bloqueadas hasta que se adapten a las normativas de protección de datos. Además, ha solicitado que el gobierno de la ciudad de Buenos Aires implemente una serie de medidas de concienciación pública para que los usuarios sepan cómo proteger sus datos en línea y los riesgos asociados a la clonación de voz y rostro.

Impacto en los derechos del consumidor

Uno de los puntos más críticos de esta demanda es el derecho a la privacidad y al consentimiento informado. Según las leyes de protección de datos de Argentina, se debe garantizar que cualquier recopilación de información personal, incluidas las características biométricas, sea realizada con el consentimiento explícito de los individuos involucrados. Sin embargo, la tecnología de IA en estas plataformas parece haber creado una zona gris en la que las empresas no se ven obligadas a cumplir con estos estándares.

La recopilación de datos biométricos, como la clonación de voz y rostro, se considera un tipo de dato sensible, ya que puede ser utilizado no sólo para identificar a las personas, sino también para suplantar su identidad. Los riesgos asociados van desde fraudes bancarios hasta el uso indebido en contextos políticos o de desinformación. En este sentido, el caso en Buenos Aires plantea una discusión esencial sobre cómo las empresas deben ser responsables de los datos que manejan y cómo los gobiernos deben adaptarse a las nuevas realidades tecnológicas.

Casos similares a nivel internacional

El caso de Buenos Aires no es un incidente aislado. A nivel internacional, varios países ya han comenzado a experimentar problemas similares con el uso indebido de tecnologías de IA en el ámbito de los datos biométricos.

En Estados Unidos, por ejemplo, se han presentado múltiples demandas por el uso indebido de tecnologías de reconocimiento facial en plataformas como Facebook. En 2021, Facebook tuvo que pagar una compensación millonaria tras perder una demanda colectiva en el estado de Illinois, en la que se alegaba que la red social había utilizado tecnologías de reconocimiento facial para identificar y etiquetar a personas en fotografías sin su consentimiento.

En China, el uso del reconocimiento facial y la clonación de datos biométricos ha generado controversia en el contexto de la vigilancia estatal. Se ha denunciado que el gobierno chino utiliza estas tecnologías para rastrear a minorías étnicas, como los uigures, lo que ha suscitado preocupaciones sobre la violación de derechos humanos.

En Europa, con la implementación del Reglamento General de Protección de Datos (GDPR), se ha reforzado la protección de los datos biométricos. Sin embargo, aún se presentan desafíos a medida que la tecnología avanza más rápido que la legislación, lo que genera vacíos legales que las empresas pueden explotar.

¿Qué podemos esperar para el futuro?

El uso de IA en la clonación de datos biométricos no es una tendencia que vaya a desaparecer, por el contrario, es probable que continúe expandiéndose a medida que las tecnologías se perfeccionen y se vuelvan más accesibles. La demanda en Buenos Aires marca un hito en la protección de los derechos de los consumidores, pero es solo el comienzo de una lucha global para regular adecuadamente el uso de la IA en este campo.

La regulación proactiva será clave para evitar los peores escenarios. Entre las medidas que podrían adoptarse se incluyen la implementación de verificaciones más estrictas para el uso de datos biométricos, la obligación de consentimiento explícito, y la creación de mecanismos transparentes para que los consumidores sepan cómo y cuándo se utilizan sus datos.

Además, la educación del consumidor será esencial. Si bien las leyes y regulaciones pueden proporcionar una capa de protección, los usuarios también deben estar informados sobre los riesgos y aprender a identificar prácticas sospechosas en línea. En muchos casos, las personas no son conscientes de que sus datos están siendo recopilados hasta que es demasiado tarde.

El papel de las empresas tecnológicas

Es crucial que las empresas tecnológicas asuman su responsabilidad en este contexto. Deben ser transparentes con los consumidores sobre cómo utilizan sus datos biométricos y garantizar que están cumpliendo con las normativas locales e internacionales. Si bien es cierto que la IA ofrece una amplia gama de posibilidades en cuanto a personalización y mejora de servicios, también tiene el potencial de causar graves daños si se utiliza de manera irresponsable. Un ejemplo positivo lo encontramos en algunas plataformas de streaming que ya han comenzado a limitar el uso de datos biométricos de los usuarios, proporcionando opciones claras para rechazar la recopilación de datos o eliminar la información personal almacenada.

Reflexión final

La clonación de rostro y voz mediante inteligencia artificial es una herramienta que ha traído consigo un debate global sobre privacidad, ética y derechos del consumidor. El caso de Buenos Aires es un ejemplo de cómo la sociedad está comenzando a tomar conciencia de los riesgos asociados a esta tecnología, pero también subraya la urgencia de establecer normativas claras y efectivas para proteger a los usuarios. La educación pública, las acciones judiciales y la regulación gubernamental serán esenciales para evitar que los avances tecnológicos pongan en peligro la privacidad y seguridad de las personas. A medida que la IA siga evolucionando, es vital que los sistemas jurídicos se adapten a los nuevos desafíos y que se asegure un uso ético y responsable de estas tecnologías.

Nos leemos la próxima semana. Mientras tanto, te espero en X (antes Twitter) como @enrique_pons y si te interesa obtener una copia de la demanda que he mencionado, escríbeme, con gusto te la comparto.