La inteligencia artificial (IA) ha llegado para transformar múltiples áreas de nuestras vidas, y el ámbito político no es la excepción. En esta ocasión, te quiero contar la historia del "niño que nunca existió" y cómo su imagen generada por IA terminó en el centro de una polémica electoral.

Todo comienza con una denuncia presentada por el partido Morena contra el Partido Acción Nacional (PAN) durante el pasado proceso electoral. ¿El motivo? El uso de la imagen de un menor en propaganda electoral. Hasta aquí, nada nuevo bajo el sol, ¿verdad? Pero hay un giro interesante en este relato: el niño en cuestión no existe. Su imagen fue creada por IA, y esto abrió un debate legal y ético sin precedentes. 

Inicialmente, la Sala Regional Especializada del Tribunal Electoral del Poder Judicial de la Federación emitió una decisión que sancionaba al PAN con una multa, al considerar que la imagen utilizada en los promocionales vulneraba los derechos de los menores, incluso si fue generada mediante IA. Esta sanción se impuso bajo la premisa de que, al tratarse de una representación de un menor, el contenido podía tener un impacto manipulativo sobre el electorado.

Sin embargo, el PAN y Morena impugnaron esta resolución por distintos motivos, lo que llevó el caso ante la Sala Superior del Tribunal Electoral del Poder Judicial de la Federación. Esa Sala Superior, tras revisar los agravios, decidió revocar la sentencia de la Sala Regional Especializada. En su fallo, el Tribunal determinó que el uso de una imagen de un menor creada con IA no actualizaba de manera automática la vulneración al interés superior de la niñez, ya que la imagen no correspondía a un menor identificable. No obstante, se instruyó al Instituto Nacional Electoral (INE) para que ajustara sus lineamientos y estableciera mecanismos claros para regular el uso de imágenes de niños generadas por IA en la propaganda política.

¿Qué es la IA en la creación de imágenes?

Antes de continuar, debo decirte que la IA, en especial mediante herramientas avanzadas como los modelos generativos de imágenes, permite crear representaciones extremadamente realistas de personas que no existen, incluidas imágenes de niños. Estas imágenes pueden utilizarse en distintos contextos, desde comerciales hasta propaganda política, sin involucrar a un menor de edad real. Sin embargo, el hecho de que estas imágenes simulen la apariencia de menores plantea importantes interrogantes éticas y legales. Uno de los mayores riesgos es la manipulación emocional. Las imágenes de niños, sean reales o generadas por IA, tienen un impacto profundo en el público, y su uso indebido podría influir en las decisiones de las personas de manera poco transparente, como en campañas políticas.

Implicaciones legales del uso de IA en imágenes de menores

La decisión final del Tribunal establece un precedente importante para l utilización de IA en la creación de imágenes de niños en campañas políticas. Aunque en este caso no se consideró que la imagen violara los derechos de ningún menor, sí abrió la puerta para una mayor regulación de estas tecnologías.

El INE ahora tiene el mandato de ajustar sus lineamientos para proteger a los menores, incluso cuando no son directamente identificables. El empleo de imágenes generadas por IA en propaganda política debe estar sujeto a mecanismos que garanticen que no se utilicen de forma manipulativa o engañosa. Este desarrollo es un primer paso hacia la regulación del uso de IA en el ámbito electoral y su impacto en los derechos humanos, especialmente en lo que respecta a los derechos de la infancia.

A nivel legal, la principal preocupación es cómo proteger los derechos de los niños cuando sus imágenes, o versiones ficticias de ellos, son utilizadas para fines políticos o comerciales. La ley mexicana, hasta este punto, exige el consentimiento de los padres o tutores para el uso de imágenes de menores en medios como la televisión o la publicidad. Sin embargo, cuando estas imágenes son creadas por IA, no existen todavía directrices claras sobre cómo manejar este tipo de situaciones.

En este caso, el Tribunal subrayó la necesidad de proteger el derecho a la imagen de los menores, aunque la imagen utilizada no correspondiera a un niño real. Este es un avance en la forma en que el sistema judicial mexicano interpreta el principio del interés superior de la niñez en la era de la inteligencia artificial.

Implicaciones éticas

Más allá de las cuestiones legales, el uso de imágenes de niños generadas por IA plantea profundos dilemas éticos. La posibilidad de crear imágenes realistas que simulan a un menor abre la puerta a la manipulación emocional, especialmente en contextos sensibles como las campañas políticas. Los niños, aunque no sean reales, simbolizan la inocencia y la vulnerabilidad, lo que puede ser explotado para generar empatía o influir en el electorado.

Otro aspecto ético para considerar es el impacto potencial que podría tener la difusión de imágenes de menores creadas por IA si no se manejan con cuidado. Aunque no haya un niño real detrás de la imagen, la forma en que estas imágenes son presentadas y percibidas por el público puede generar situaciones problemáticas, como la difusión de contenido inapropiado o desinformación.

El futuro de la regulación de la IA y la protección de los menores

La sentencia del Tribunal Electoral pone de relieve la necesidad urgente de regulación en torno al uso de IA en imágenes de menores. En este sentido, el mandato dado al INE para actualizar los lineamientos sobre la protección de los derechos de la infancia en propaganda política es un primer paso importante.

Sin embargo, este no es un problema exclusivo de México. A nivel mundial, la velocidad con la que avanza la IA ha superado, en muchos casos, la capacidad de los sistemas legales para adaptarse. Será crucial que los países empiecen a desarrollar marcos legales que regulen de manera efectiva el uso de estas tecnologías, no solo para proteger a los niños reales, sino también para evitar que las imágenes generadas por IA sean utilizadas de manera perjudicial.

Conclusión

La inteligencia artificial ha traído enormes avances, pero también plantea desafíos éticos y legales sin precedentes. El Caso SUP-REP-893/2024 ha sentado un precedente importante en México sobre el uso de imágenes generadas por IA en campañas políticas y cómo estas pueden influir en el electorado. A medida que estas tecnologías continúan evolucionando, será fundamental que las instituciones, como el INE, desarrollen regulaciones claras para proteger a los sectores más vulnerables, especialmente a los niños. El futuro de la IA es prometedor, pero debemos asegurarnos de que su uso sea ético y respetuoso con los derechos humanos, especialmente en contextos tan sensibles como el de los menores de edad.

Así, en espera de qué acciones tomará el INE para el empleo de la IA, nos leemos la próxima semana. Mientras tanto, te espero en X (antes Twitter) como @enrique_pons y si te interesa obtener una copia de la sentencia, escríbeme, con gusto te la comparto.