Hacking des generateurs d'images
Hacking des generateurs d'images
Nonsense words can trick Stable Diffusion and DALL-E 2 into producing pictures that show violence and nudity.
C'est marrant comme.concept, ça ouvre plein de portes
You're viewing a single thread.
All major generative AI models have safety filters to prevent users from prompting them to produce pornographic, violent, or otherwise inappropriate images. The models won’t generate images from prompts that contain sensitive terms like “naked,” “murder,” or “sexy.”
Ça me parrait osé comme prémice. Stable diffusion, je suis obligé de mettre nsfw en negative prompt sinon je récupère du nu. Je crois qu'il y a même des lora pour avoir de belles vulves photo-réalistes si jamais le monde était pas assez pourris
Ils parlent de "major generative AI models", pour ce genre de revues ça veut dire "des trucs gérés par des milliardaires". Les modèles utilisés par des millions de personnes gratuitement, c'est un truc de hippies, ça les intéresse pas.
En quoi ça rend le monde pourri de générer des vulves photoréalistes ?
Parce que avec 2-3 outils de bases genre inpainting. Je peux reprendre ta tete, prendre un corp en position chaudasse avec une vulve ultra réaliste et partager ça au monde en disant que tu m'as envoyé un nude. Il y a meme des app dediés pour générer du deep fake.
L'avantage c'est que dans 5 ans les nudes ne vaudront plus rien mais pour l'instant c'est le paradis pour harceleurs
Je ne.sais pas ce qui est le.plus pourri entre les différentes option de génération de vulves photo réalistes.
Je lisais l'article et j'ai copié cette citation pour la commenter :-)
Les IA en ligne ont des filtres. Les IA locales proposent des filtres, mais rien ne force à les activer. Comme toi, avec Stable Diffusion, je mets des prompts négatifs pour ne pas avoir de femmes sexy alors que je voulais juste un dessin de tracteur.
Par curiosité j'ai testé ce qu'on pouvait lui demander de générer en poussant le truc, et la pédopornographie arrive très facilement sans qu'on le lui demande spécifiquement. Il doit mélanger des dessins manga de jeunes filles et du porno photoréaliste.
Arrête d'utiliser des modèles types nsfw rofl (ils sont majoritaires sur civitai)