Los fanáticos del K-pop son conocidos como una fuerza a tener en cuenta en Internet, con algunos fanáticos que mantienen lealtades y pasiones feroces cuando se trata de artistas específicos. En las redes sociales, algunos fanáticos obsesivos están usando inteligencia artificial generativa para crear lo que es esencialmente fanfiction autoinsertado: videos espeluznantes e imágenes de ellos mismos besándose, abrazándose y teniendo varios tipos de amores con sus ídolos favoritos. El resultado es una mutación contemporánea, impulsada por la tecnología, de la cultura de los ídolos que lleva el fan art a nuevos extremos, y es comprensible que muchas personas en las comunidades de fans del K-pop estén bastante molestas por ello.
Los usuarios de Reddit y de varios foros de K-pop han expresado su indignación por estas fantasías deepfake y han pedido a otros fans que denuncien a quienes utilizan herramientas de inteligencia artificial para generar vídeos no consensuados de sus rompecorazones del K-Pop. En un hilo En el subreddit K-pop Uncensored, un usuario publicó capturas de pantalla redactadas de un video generado por IA de otro fan que muestra cómo Keonho del grupo masculino CORTIS, quien es menor de edad, lo abraza y lo besa en la mejilla. “Algunos fanáticos pueden pensar que es inofensivo, pero si lo toleras, estás abriendo puertas a cosas mucho peores en el futuro”, escribió el usuario de Reddit wbu_lizzie en el hilo. “Los ídolos no dieron su consentimiento a esto, son personas reales que viven sus vidas, no un grupo de personajes de Wattpad/ao3”.
“La gente ha estado cortando y pegando este tipo[s] de las cosas para siempre, pero cuanto más realistas se vuelven las imágenes, más peligroso se vuelve psicológicamente”, escribió el usuario Goldie_Prawn, en otro hilo en K-pop Uncensored denunciando el uso de IA. “Creo que incluso con el Photoshop tradicional, el trabajo y las habilidades requeridas le dan al creador un cierto nivel de amortiguación mental que no existe con la IA”.
La Dra. Sarah Keith, profesora de la Universidad MacQuarie en Australia que ha realizado una extensa investigación sobre el fandom del K-pop, dice que los videos deepfake de IA provienen de un largo legado de contenido creado por fanáticos que va mucho más allá del mundo del K-pop. La ficción y el arte de los fans siempre han sido un componente esencial de la cultura de los fans, y si bien estas creaciones a menudo eluden los límites de los derechos de autor, generalmente no se consideran espeluznantes ni explotadoras. Pero con la llegada de herramientas de inteligencia artificial generativa que pueden crear rápidamente imágenes y videos realistas de personas reales, Silicon Valley ha creado una solución técnica para la ley y las normas sociales de consentimiento.
“Los fanáticos del K-pop (como todos los fanáticos de la cultura pop) han sido durante mucho tiempo productores activos de materiales sobre sus ídolos preferidos. Sin embargo, hasta la fecha estos no han sido ‘convincentes’ como artefactos que podrían haber involucrado al ídolo en sí”, dijo Keith a 404 Media. “Es un problema paralelo que involucra tanto a los fanáticos como a las herramientas de inteligencia artificial. Debido a estos dos factores, ahora hay una mayor facilidad para que los fanáticos creen grandes volúmenes de contenido, que no respetan la integridad personal de los ídolos y que pueden distribuirse en línea de manera que socaven la reputación de los ídolos (por ejemplo, deepfakes sexualizados)”.
Si bien muchos fanáticos se pronunciaron en contra de estos comportamientos espeluznantes, otros culparon al modelo de negocio de la industria del K-pop que fomenta el fandom parasocial mientras explota a muchos artistas y fanáticos por igual.
“Este es un triste efecto secundario de una industria que durante años [has] impulsó relaciones parasociales en sus fans”, escribió Serious-Wish4868, en un hilo sobre pensamientos de r/kpop sobre la sexualización de los ídolos impulsada por la IA. “Cuando los ídolos y las compañías te presionan constantemente para que vivas tus fantasías románticas y sexuales con los ídolos en todo lo que hacen, desde publicaciones en las redes sociales hasta interacciones en vivo, ¿qué haces? [you] esperas que suceda?”
Pero algunas de las agencias de entretenimiento que gestionan artistas de K-pop (y los propios artistas) han expresado que tampoco están contentas con la situación. Miembros de grupos de K-pop muy populares como BTS y Mañana X Juntos se han pronunciado en contra del uso de IA generativa para crear simulacros digitales utilizando imágenes de artistas. En marzo, OA Entertainment, un sello fundado y que representa a Jennie, miembro de Blackpink, advirtió en un comunicado de prensa que comenzaría a tomar “acciones legales enérgicas, incluidos procedimientos civiles y penales, contra cualquier acto que infrinja la reputación, los derechos, los derechos de retrato y otros derechos de propiedad intelectual del artista”. La declaración surgió en respuesta a incidentes de acoso y acecho que involucraron a los artistas, e implicó en gran medida la cuestión del contenido generado por IA sin nombrarlo explícitamente.
Al mismo tiempo, muchas de estas empresas de talentos ídolos están adoptando herramientas de inteligencia artificial generativa como vehículo para reducir costos en toda la industria. Entretenimiento SMuno de los sellos más importantes de Corea que representa a grupos importantes como Girls Generation y Super Junior, ha descrito la integración de la IA generativa como una parte central de su estrategia comercial, y el año pasado lanzó un vídeo musical totalmente generado por IA para el grupo femenino Aespa. Y en diciembre pasado, el mundo del K-pop vio el lanzamiento de un grupo ídolo totalmente sintético llamado GLXE (pronunciado “galaxia”), que combina canciones generadas por IA con extraños avatares de IA.
“Automatizarían toda la industria si pudieran ganar dinero”, dijo Lindsey Knuth, fanática del K-pop y editora asociada de Noticias de enredodijo a 404 Media. “Los deepfakes pornográficos de ídolos menores son un problema, al igual que la (falta de) respuesta de la industria para mí”.
La tolerancia cultural hacia la decadencia de la IA generada por los fanáticos varía según la región y el contexto. Corea del Sur actualmente ocupa el primer lugar en consumo de contenido de IAa medida que la industria tecnológica del país impulsa la adopción y la aceptación cultural de la tecnología. En Estados Unidos, sin embargo, las encuestas muestran consistentemente que la mayoría de Los jóvenes tienen opiniones extremadamente negativas sobre las herramientas de IA. y contenido generado por IA, y se están volviendo cada vez más contrarios a la IA a medida que los empleos, las escuelas y las instituciones los presionan u obligan a utilizarla.
Keith señala que si bien los sellos discográficos y las compañías de talentos siempre han sido muy activos en la protección de los artistas y su reputación, sólo lo hacen desde la perspectiva de proteger una inversión. Los fanáticos, por otro lado, generalmente tienden a estar más involucrados emocionalmente y es probable que defiendan a los ídolos como seres humanos, tanto de los fanáticos espeluznantes como de las propias compañías.
Y al igual que ocurre con la IA y la tecnología en general, la falta de salvaguardias técnicas o legales contra los efectos de la tecnología muchos bien documentado daña ha hecho de la vergüenza social uno de los únicos elementos disuasorios eficaces contra el comportamiento abusivo en el mundo del K-pop.
“Es tranquilizador que muchos fans estén denunciando abiertamente los usos no consensuados de la IA y los deepfakes, porque en ausencia de barreras técnicas para este tipo de contenido, la aceptabilidad social es realmente lo que importa”, dijo Keith. “Así que sí, es reconfortante que muchos fans activos en línea estén construyendo una cultura de respeto en la que las imágenes de los ídolos no se utilizan de manera no consensuada”.