Civitai aprieta las reglas de Deepfake bajo la presión de MasterCard y Visa

Claramente operando bajo presión en un twitch en vivo en nombre de la compañía, el gerente de participación comunitaria de la compañía, Alasdair Nicoll, él mismo creador de modelos (SFW) en Civit, admitió que los cambios han sido forzados al sitio por las preocupaciones de sus procesadores de pago sobre el contenido de los adultos y la representación de personas reales. También admite la probabilidad de que las fuerzas principales detrás de estos procesadores, Visa y MasterCard, puedan exigir cambios aún mayores más tarde:

‘Estos no son cambios que queríamos hacer. Esto se reduce a una legislación nueva e inminente. Hay leyes de Deepfake por ahí, hay leyes porno de IA … procesadores de pagos, y en última instancia, las visas y Mastercard están asustadas; No quieren ser demandados y finalmente están impulsando estos cambios.

‘Algunas de las otras opciones que nos dieron estaban eliminando por completo el trabajo no seguro; Eliminar el contenido X y Triple-X de Civitai y en una plataforma completamente nueva, y luego Geo-Bloqueo de esa plataforma, porque más de la mitad de los estados de los Estados Unidos requieren alguna forma de bloqueo geográfico porno, (así como) muchos países asiáticos y el Reino Unido …

“La tercera opción era ir a criptomonedas, solo pagos criptográficos … así que literalmente no había buenas opciones para esto”.

El dominio Civit ha disminuido periódicamente para revisiones en los últimos días, aparentemente para efectuar los cambios. Aunque el sitio ya había prohibido el uso de temas NSFW en representaciones de Lora/Modelo de celebridades, ahora es imposible navegar por la sección modelo de Civit y ver las vistas previas de Lora de celebridades de lado a lado con la gran cantidad de modelos NSFW genéricos diseñados para producir contenido maduro.

El anuncio oficial establece:

“Contenido etiquetado con nombres de personas reales (como” Tom Cruise “) o marcado como recursos de POI (persona real) estarán ocultos de los feeds”.

En la sesión de Twitch, Nicoll reveló más detalles de las medidas diseñadas para proteger figuras famosas y personas reales. Civit siempre ha permitido que las personas reales soliciten que se elimine un modelo de IA alojado en Civit que represente, pero ahora Nicoll alude a un sistema que puede evitar que tales imágenes se vuelvan a cargar después del rechazo inicial, con la facilidad de identificar un personaje ‘protegido’ incluso en las imágenes que el sistema nunca ha visto antes.

Con este fin, el sitio ahora se está asociando con el sistema de moderación de AI Clavata, aunque la medida en que Clavata alimentará estas nuevas instalaciones aún no está clara.

Nicoll dijo:

‘Tom Hanks ha reclamado su semejanza de nosotros, por ejemplo. Muchas de las actrices adultas tienen; Muchos actores y actrices de la lista A tienen …

“Creo que el primero que tuvimos fue Barbara Eden, su patrimonio* – Ella fue una de las primeras en reclamar su semejanza, lo cual es algo divertido, porque es viejo”.

Protegido por defecto?

En los últimos años, la compañía AI VFX metafísica (divulgación completa: trabajé para metafísica. La compañía trabajó en la salida de Robert Zemeckis Aquí (2024)).

Lógicamente, la utilidad del sistema siempre dependería de la jurisprudencia eventual; Según las medidas, Civit ahora se ve obligado a tomar, el servicio basado en suscripción^† Propuesta por metafísica podría ser redundante frente al rápido crecimiento de las leyes de profundos y la cobertura potencial (libre) bajo el derecho consuetudinario. Actualmente no se sabe si la oferta Metafísica Pro se transferirá a la compañía VFX doble negativa, que adquirió los activos de Metafísica el año pasado.

En cualquier caso, parece cada vez más que la ley global y las presiones generales del mercado tienen más probabilidades de proporcionar protección y remedios, a diferencia de las soluciones comerciales de este tipo.

Hervir la rana

Un informe de 2023 de 404 Media llamó la atención sobre la propensión de los modelos de Celeb y AI porno en CIVIT, aunque el fundador del sitio, Justin Maier, minimizó la relación entre las semejanzas de celebridades que contienen usuarios y su uso en la generación de material pornográfico.

Aunque Civit gana dinero al facilitar el uso en el sitio de LORAS y otros modelos proporcionados por el usuario, Nicoll tiene claro que esta no es la principal preocupación que motiva a Visa y MasterCard para estipular los cambios en el sitio, para que pueda continuar siendo monetizado:

‘Algunas personas dicen que la razón por la que estamos en este desastre es porque permitimos la generación. Eso no entra en eso. El alojamiento de estos modelos, el alojamiento de este contenido, es suficiente para atraer la atención de Sauron.

Los hilos de comentarios de la comunidad se han maravillado en los últimos años de que Civit se le ha permitido organizar a las semejanzas de celebridades. Consciente de la posibilidad, quizás la inevitabilidad de una represión de una represión, se han propuesto o implementado una serie de iniciativas para preservar las loras eliminadas por civit o por sus cargadores, incluido el (hasta ahora) subreddit r/civitaiarchives.

Aunque muchos han sugerido que una iniciativa basada en torrent es la solución natural, parece que no ha surgido un dominio bien seguido, y en cualquier caso, esto parecería mover la actividad prohibida en Civit y en otro lugar a los márgenes más exteriores de Internet; a jardines amurallados; Y, muy probablemente, a la red oscura, ya que la mayoría de los marcos que podrían acomodar loras de semejanza prohibida (como Reddit y Discord) ya ya sea que ya provengan dicho contenido o parezca seguro de prohibirlo inminentemente.

Por el momento, las celebridades Loras todavía se pueden ver con algunas restricciones en Civit, aunque la mayor parte del contenido generado ha sido desestimado y se excluirá del descubrimiento casual. Lo que parece probable, un comentarista sugirió a Nicoll en la sesión de Twitch, es que la represión se profundizará (presumiblemente hasta el punto de prohibir todas las semejanzas de personas reales en modelos o representaciones cargadas).

Nicoll respondió:

“” No se detendrán aquí, seguirán exigiendo cada vez más “, ¡absolutamente! Sí, absolutamente. Ese es solo el mundo en el que vivimos. La única esperanza es que seamos lo suficientemente grandes y poderosos como para que tengamos un poco más de decir lo que nos está dictando (…)

Desesperación de las alternativas ofrecidas a Civit, agregó Nicoll:

‘(…) Nadie va a comprar bitcoin para (usar) el generador de Civitai. Así que hemos tratado de hacer que esto sea lo más aceptable posible, y esto es lo que hemos terminado. Entonces, mis disculpas si esto es algo que simplemente no puedes soportar, pero desafortunadamente es lo que es. Hicimos nuestro mejor esfuerzo, retrocedimos tanto como pudimos, pero en última instancia nos dijeron que esto es todo, tienes que hacer esto o va a ser el final (…) ‘

‘(…) Estas instituciones financieras, no entienden lo que la gente está haciendo aquí con él. Hemos tratado de decirles que hemos tratado de hablar con ellos, pero prácticamente somos el último bastión de contenido (NSFW).

Nicoll dijo que Civit se había comunicado con ‘todos los procesadores de pago imaginables:

‘Incluso los procesadores de pago de alto riesgo que usan los sitios pornográficos, y todos desconfían del contenido de IA. Ese es el problema: es contenido de IA. Si fuéramos un sitio porno tradicional, estaríamos bien, pero el contenido de IA es de lo que tienen miedo ”.

¿Dónde sigue?

Antes de este anuncio, se había observado que Civit estaba eliminando cargas cubiertas por algunas de las categorías y tipos de contenido que ahora están prohibidos. Al momento de escribir, un ‘repositorio de emergencia’ para WAN 2.1 Loras se ha establecido en el sitio web de Hugging Face. Aunque algunas de las Loras archivadas están diseñadas para facilitar las actividades sexuales generales que son capacitadas de manera escaso o ausentes en nuevos modelos de video como WAN 2.1, varios de ellos caen en la categoría de “desnudez” ahora estrictamente bandeada (es decir, “desnudos”), incluidos algunos modelos que podrían ser “extremos” o manifiestamente potencialmente ofensivos.

El Subreddit R/Datahoarders, que ha estado a la vanguardia de preservar la literatura en línea del gobierno de los Estados Unidos bajo la campaña de Deletion Mass-Deletion de Donald Trump, ha mostrado desprecio por la idea de salvar el contenido de Civitai perdido.

En la literatura, la facilitación fácil de Civitai de la generación NSFW AI no ha pasado desapercibida. Sin embargo, uno de los estudios más citados, el artículo 2024 Explorando el uso de modelos de IA generativos abusivos en Civitaiestá obstaculizado por el hecho de que Civit no ha permitido que las generaciones de IA de celebridades o ilegales hasta la fecha, y por la determinación de los investigadores de encontrar su evidencia en Civit.

Claramente, sin embargo, lo que se refiere a los procesadores de pago no es lo que se está produciendo con Loras en Civit, o lo que se está publicando allí, sino lo que se está haciendo con estos modelos en otro comunidades que están cerradas o generalmente menos reguladas.

The Mr. Deepfakes website, which was synonymous with the prevalent autoencoder-based method of NSFW deepfaking, until the advent of Stable Diffusion and diffusion-based models in 2022, has recently begun to post examples of celeb-based pornographic videos using the latest wave of text-to-video and image-to-video generators, including Hunyuan Video and Wan 2.1 – both very recent releases whose influence is nascent, but which seem Establecido para obtener titulares incendiarios a medida que sus respectivas comunidades se desarrollan en el transcurso de este año.

Metadatos obligatorios

Un cambio interesante aparentemente exigido por los procesadores de pago, según Nicoll, es que todas las imágenes en el sitio ahora deben contener metadatos. Cuando una imagen o video es producido por un modelo generativo en un flujo de trabajo típico en una plataforma como Comfyui, la salida generalmente contiene metadatos que enumera el modelo utilizado (su hash y su nombre, de modo que en caso de que el modelo sea renombrado por un usuario, su provenzo permanezca claro) y varias otras configuraciones.

Debido a estos puntos de datos ocultos sobre cómo se realizó la imagen, los usuarios pueden arrastrar un video o imagen realizada por otra persona en su propio flujo de trabajo Comfyui y recrear todo el flujo, y abordar cualquier dependencia faltante (como modelos o componentes que el creador original tenía, que el usuario tendrá que localizar y descargar).

Cualquier imagen o generación de video que carezca de estos datos, Civit ha anunciado, se eliminará dentro de los treinta días. Los usuarios pueden agregar dichos datos manualmente, escribiéndolos en el sitio web de Civit.

Dado que el valor de los metadatos es (presumiblemente) probable, esta estipulación parece bastante inútil; Es trivial copiar y pegar metadatos de un archivo a otro, y a esto La invención de metadatos a través de una forma web hace que esta nueva regla sea un poco desconcertante.

No obstante, varios usuarios (incluido uno en la sesión de Twitch) tienen muchos miles de imágenes cargadas en Civit. Su único recurso ahora es anotar manualmente cada uno de ellos, o eliminar y volver a cargar las versiones de las imágenes con metadatos agregados, lo que borrará cualquier ‘me gusta’ o ‘zumbido’ o conversaciones que las imágenes originales generaron.

Las nuevas reglas

Aquí están los cambios resumidos aplicables en Civit a partir de hoy:

• El contenido etiquetado con los nombres de las personas reales o identificados como recursos de personas reales ya no aparecerá en los feeds públicos.
• El contenido con temas menores/menores se filtrará fuera de los alimentos.
• El contenido clasificado X y XXX que carece de metadatos de generación se ocultará a la vista pública y se marcó con una advertencia, lo que permite que el cargador agregue los detalles faltantes. Dicho contenido no se eliminará, pero permanecerá visible solo para su creador hasta que se actualice.
• Las imágenes hechas con la función Traer su propia imagen (BYOI) ahora deben aplicar al menos un 50% de alteración de ruido durante la generación. Esto significa que la IA debe modificar significativamente la imagen cargada, reduciendo la posibilidad de generar réplicas casi exacto. Sin embargo, las imágenes creadas completamente en Civitai o remezcladas de otro contenido de Civitai no están sujetas a esta regla y aún pueden usar cualquier nivel de Denoise, desde ningún cambio (0.0) hasta transformación completa (1.0). Este cambio está destinado a reducir el abuso de la herramienta BYOI, que de otro modo podría usarse para producir profundos sutiles o indetectables al alterar las imágenes reales. Forzar un cambio mínimo del 50% asegura que la IA no sea solo editar a la ligera una foto existente de una persona real.
• Al navegar con contenido X o XXX habilitado, las búsquedas de nombres de celebridades no devolverán resultados. La combinación de nombres de celebridades con contenido maduro sigue siendo prohibido.
• Los anuncios no aparecerán en imágenes o recursos diseñados para replicar la apariencia de individuos reales.
• Las propinas (Buzz) se deshabilitarán para imágenes o recursos que representen individuos reales.
• Los modelos diseñados para replicar a las personas reales no serán elegibles para el acceso temprano, una característica de Civitai que permite a los creadores lanzar contenido primero a los partidarios de pago. Esto limita la monetización de las semejanzas de celebridades o personas reales.
• Se ha agregado una declaración de cumplimiento de 2257 para aclarar que la plataforma no permite ningún contenido no generado por AI. Esto ayuda a garantizar la protección legal al afirmar que todo el material explícito es sintético y no se basa en fotografía o video reales.
• Una nueva página de solicitud de eliminación de contenido permite a cualquier persona informar material abusivo o ilegal sin necesidad de iniciar sesión. Los usuarios registrados deben continuar utilizando las herramientas de informes incorporadas en cada publicación. Esto está separado del formulario existente para solicitar la eliminación de la imagen de la plataforma.
• Civitai ha introducido un nuevo sistema de moderación a través de una asociación con Clavata, cuyas herramientas de análisis de imágenes superaron a soluciones anteriores como Amazon Rekognition y Hive.

* A pesar de la mención de la ‘finca’ de Barbara Eden, la Sueño con Jeannie La actriz sigue viva, actualmente de 93 años.
^† Archivado: https://archive.ph/tsmb0

Publicado por primera vez el jueves 24 de abril de 202. Modificado el jueves 24 de abril de 2025 14:32:28: Fechas corregidas.