La imagen IA de Mia Goth es una advertencia: la autenticidad está bajo ataque

En un panorama digital donde la línea entre la realidad y la fabricación se difumina a diario, ¿cómo podemos discernir lo que es real? La reciente controversia en torno a Mia Goth, una destacada actriz, ofrece una respuesta contundente: con creciente dificultad. Una imagen aparentemente inocua, supuestamente un selfi de Goth, se hizo viral rápidamente en redes sociales, llevando a su equipo a apresurarse para corregir el registro y exponiendo una troubling vulnerabilidad en nuestro espacio digital compartido.

La imagen, que mostraba a Goth con una camiseta con la frase "MY EX IS MY BIGGEST FAN" junto a "Single Ladies (Put a Ring on It)" de Beyoncé, fue ampliamente interpretada como una respuesta directa a su reciente solicitud de divorcio de Shia LaBeouf. Publicada por una cuenta de fans verificada, @miagoth_, con más de un millón de seguidores, fue inicialmente reportada como auténtica por varios medios internacionales. Sin embargo, como aclaró la representante de Goth, Christine Tripicchio, a The Verge, la actriz ni siquiera usa las redes sociales, y la imagen fue completamente fabricada por inteligencia artificial.

Cuando la verificación traiciona la autenticidad

El aspecto más inquietante de este incidente no es solo la existencia de la imagen generada por IA, sino su aceptación generalizada como genuina, en gran parte impulsada por el propio sistema de verificación de Instagram. La marca de verificación azul, destinada a señalar autenticidad y legitimidad, en cambio, dio credibilidad a una pieza de contenido falso. Tripicchio cuestionó abiertamente este sistema, afirmando que "el hecho de que esta cuenta de fans cumpla los criterios de Instagram para calificar para un 'tick azul' es desconcertante a un nivel fundamental", según informó Hugo Gloss. La empresa matriz de Instagram, Meta, finalmente eliminó la cuenta por "suplantar la identidad de una figura pública", pero no antes de que la imagen fabricada hubiera circulado, lo que ilustra una falla significativa en cómo las plataformas gestionan la integridad del contenido.

La política de Meta para el contenido generado por IA generalmente se inclina hacia el etiquetado en lugar de la eliminación total, esperando que los usuarios o los sistemas de detección marquen el contenido sintético. Sin embargo, como demuestra el caso de Mia Goth, estos sistemas de detección no son infalibles, y la ausencia de una etiqueta no garantiza la autenticidad. Cuando una insignia verificada legitima un deepfake, la propia plataforma se convierte en cómplice involuntaria en la difusión de desinformación, priorizando, como dijo Tripicchio, "la diseminación de imágenes falsificadas y manipuladas sobre la protección y la integridad de la imagen de una figura pública".

Las celebrities como el nuevo campo de batalla para los deepfakes

La experiencia de Mia Goth no es un incidente aislado, sino un síntoma de una amenaza mayor y creciente para las figuras públicas en la era de la IA. Los famosos, en virtud de su imagen pública, son objetivos particularmente vulnerables para los deepfakes y el contenido manipulado. Hemos visto a Scarlett Johansson expresar su preocupación por los vídeos de IA no consentidos, y a Cate Blanchett incluso cofundar la "Human Consent Foundation" para proteger identidades de tales abusos tecnológicos, como destaca Agora Litoral. El espectro de abuso abarca desde respaldos fabricados, como los que sufrió Taylor Swift con imágenes generadas por IA que sugerían apoyo político, hasta la violación profundamente personal de contenido sexualmente explícito no consentido, que Swift también experimentó en enero de 2024. Ni siquiera el legado de artistas fallecidos se salva, con la hija de Robin Williams, Zelda Williams, solicitando el fin de las recreaciones de IA de su padre, al encontrarlas profundamente perturbadoras, según Mashable.

Esta ola de manipulación subraya que el problema va más allá de la mera imagen pública; afecta a los derechos fundamentales a la identidad y el consentimiento. Cuando la IA puede generar momentos enteros en las redes sociales, con narrativas implícitas y respuestas emocionales, difumina la línea entre la percepción pública y la realidad fabricada, lo que hace cada vez más difícil para cualquiera, y mucho menos para el público, distinguir entre ambas.

La línea cada vez más difuminada entre lo real y lo sintético

La controversia de Mia Goth sirve como un claro recordatorio de que, colectivamente, estamos luchando por seguir el ritmo de los rápidos avances en la tecnología de IA. La facilidad con la que se pueden generar imágenes hiperrealistas nos hace a todos susceptibles al engaño. Recordad la imagen viral del Papa Francisco con una elegante chaqueta acolchada, que muchos creyeron que era real a pesar de haber sido completamente generada por IA. Este incidente, al igual que el de Goth, subraya la naturaleza omnipresente de la sofisticada manipulación por IA. Como señalan los expertos, la percepción humana a menudo no logra identificar contenido generado por IA sin una capacitación o herramientas específicas.

La responsabilidad de navegar por esta nueva realidad recae no solo en los individuos para desarrollar una mayor alfabetización digital, sino también, fundamentalmente, en las plataformas que alojan y difunden contenido. Si bien la política declarada de Meta es aplicar etiquetas de "información de IA" para proporcionar contexto, su efectividad es limitada cuando los sistemas no pueden detectar de manera fiable todo el uso de IA, o cuando actores maliciosos pueden eliminar los marcadores invisibles. Esto crea un entorno peligroso donde la suposición predeterminada de autenticidad en línea se socava constantemente, amenazando la integridad de las noticias, el discurso público y las reputaciones personales.

Este incidente es más que otro alboroto de famosos; es una clara señal de alarma para la era digital. El deepfake de Mia Goth subraya la necesidad urgente de que las plataformas de redes sociales reevalúen sus procesos de verificación y políticas de moderación de contenido frente a una IA cada vez más sofisticada. Sin salvaguardas más sólidas y una rendición de cuentas más clara, el ámbito digital corre el riesgo de convertirse en un laberinto impenetrable de realidades fabricadas, erosionando la confianza y alterando fundamentalmente cómo percibimos la información. Es hora de que las plataformas den un paso adelante, y de que los usuarios agudicen sus facultades críticas, porque en la era de la IA, la autenticidad ya no es un hecho, es un campo de batalla.