La mayoría de los usuarios sociales se habrán encontrado un influencer que se ve un poco … apagado.
Tal vez sus características faciales son demasiado simétricas, y sus poses son demasiado rígidas. Lo más probable es que no estés mirando a un humano en absoluto, sino una falsificación generada por IA.
En algunos casos, estos influenciadores de IA son razonablemente benignos, solo formas digitales de sus homólogos reales pero no tratan abiertamente de engañar o manipular.
Sin embargo, este no siempre es el caso. Inquietamente, hay una red de cuentas de Instagram que usa inteligencia artificial para crear influenciadores falsos con el síndrome de Down.
Estos malos actores roban contenido de creadores reales, luego aprovechan la IA para intercambiar caras generadas por computadora de personas con síndrome de Down. El objetivo? Para explotar una comunidad vulnerable por me gusta, acciones y, en última instancia, efectivo.
Pero el engaño no termina ahí. Muchas de estas cuentas se vinculan a sitios web de adultos sombreados, donde el contenido generado por IA está monetizado.
Lamentablemente, esta es solo la última evolución de la tendencia de “proxeneta AI”, donde los operadores sin escrúpulos usan el aprendizaje automático para crear influenciadores falsificados para obtener ganancias monetarias. No es solo el síndrome de Down, sino modelos de amputados falsos, las víctimas de quemaduras y otras formas de pornografía generada por IA.
Los modelos de imagen y video de IA ahora se acercan a un nivel de realismo que los hace sustitutos muy viables para humanos reales. Está afectando a la industria de la moda, donde los modelos reales enfrentan reemplazo a manos de los clones de IA.
Incluso los nombres familiares como H&M están entrando en estas aguas turbias. El gigante de la moda rápida recientemente anunció una campaña Con “gemelos digitales” generados por AI de modelos reales. En 2023, una compañía llamada Lalaland.ai lanzó herramientas para Creación de modelos de IA por una tarifa de suscripción.
Si bien H&M insiste en que los modelos mantienen el control sobre sus semejanzas digitales, muchos en la industria son escépticos. Después de todo, en una era de reducción de costos y consolidación, ¿por qué contratar talento humano cuando puede licenciar un avatar digital barato e infinitamente replicable?
El último giro más insidioso aquí se refiere a la dignidad fundamental y la humanidad de las comunidades marginadas.
Las personas con síndrome de Down, o cualquier discapacidad, no son accesorios para ser manipuladas para obtener ganancias.
Además, la proliferación del contenido generado por la IA amenaza con erosionar la confianza pública en los medios por completo. Si no podemos confiar en las imágenes que vemos en línea, la base del discurso digital comienza a erosionarse.
Entonces, la próxima vez que te desplaces por tu feed y un influencer parece demasiado bueno para ser verdad, confía en tu instinto.
