Comment utiliser LoRA avec FLUX AI : Un guide complet

FLUX AI a ouvert une nouvelle ère de génération d'images alimentée par l'IA. Il résonne avec un réalisme inégalé, surpassant souvent des homologues renommés. Lorsqu'il est associé aux modèles LoRA (Low-Rank Adaptation), il ouvre une vaste toile de créativité pour les artistes et les passionnés. Ce guide complet vous accompagnera

Build APIs Faster & Together in Apidog

Comment utiliser LoRA avec FLUX AI : Un guide complet

Start for free
Inhalte

FLUX AI a ouvert une nouvelle ère de génération d'images alimentée par l'IA. Il résonne avec un réalisme inégalé, surpassant souvent des homologues renommés. Lorsqu'il est associé aux modèles LoRA (Low-Rank Adaptation), il ouvre une vaste toile de créativité pour les artistes et les passionnés. Ce guide complet vous accompagnera dans l'utilisation de la puissance de LoRA avec FLUX AI. Il est rempli d'instructions détaillées, de liens vers des ressources essentielles et des meilleures pratiques de l'industrie. Plongeons dans le sujet. Charger plus

💡
Supposons que vous ne souhaitiez pas passer par tous ces processus et que vous souhaitiez utiliser FLUX AI immédiatement. Eh bien, il existe une solution alternative pour vous.Anakin AI propose FLUX AI gratuitement. Ils offrent tous les modèles FLUX, y compris FLUX Pro, FLUX Realism LoRA, et FLUX.1 Schnell. N'hésitez pas à les consulter.

Comprendre LoRA et FLUX

LoRA, qui signifie Low-Rank Adaptation, est une méthode ingénieuse qui affine d'immenses modèles de langage sans nécessiter un réentraînement complet du modèle. Lorsqu'elle est utilisée avec FLUX AI, un produit de Stability AI renommé pour créer des images incroyablement détaillées et réalistes, LoRA peut ajuster le point de contrôle fondamental de FLUX pour créer des styles, des personnages ou des effets artistiques spécifiques. Cette fusion parfaite permet aux utilisateurs d'amplifier les capacités de FLUX et de personnaliser sa sortie pour qu'elle soit en adéquation avec leurs besoins spécifiques. Charger plus

Configuration du logiciel

Pour utiliser LoRA avec FLUX AI, vous devrez configurer l'environnement logiciel approprié :

  1. Installer SD Forge WebUI, qui offre un excellent support pour les modèles FLUX AI et LoRAs.
    Télécharger : https://github.com/lllyasviel/stable-diffusion-webui-forge
  2. Télécharger le modèle FLUX AI :
    https://huggingface.co/lllyasviel/flux1-dev-bnb-nf4/tree/main
  3. Télécharger le FLUX VAE :
    https://huggingface.co/black-forest-labs/FLUX.1-schnell/tree/main
  4. Pour une gestion plus facile des installations de Stable Diffusion, envisagez d'utiliser StabilityMatrix :
    https://github.com/LykosAI/StabilityMatrix
  5. Vous aurez peut-être besoin de 7-Zip pour extraire des fichiers :
    https://www.7-zip.org/download.html

Assurez-vous d'avoir un GPU compatible avec au moins 8 Go de VRAM (16 Go ou plus est recommandé pour des performances optimales).

Étapes détaillées pour utiliser des modèles LoRA avec FLUX AI

Étape 1 : Obtention des modèles LoRA

  1. Visitez Civitai : https://civitai.com/
  2. Utilisez les filtres de recherche pour trouver des modèles LoRA compatibles avec FLUX.
  3. Cherchez des LoRAs étiquetées « FLUX » ou mentionnées dans la description comme étant compatibles avec FLUX AI.
  4. Téléchargez vos modèles LoRA sélectionnés. Ils se présentent généralement sous forme de fichiers .safetensors ou .pt.

Étape 2 : Installation des modèles LoRA

  1. Localiser le répertoire d'installation : Trouvez le répertoire où SD Forge WebUI est installé.
  2. Accéder au dossier LoRA : Ouvrez le chemin webui/models/Lora.
  3. Créer un sous-dossier pour l'organisation : Dans le dossier LoRA, créez un nouveau sous-dossier appelé "Flux" pour garder les choses organisées.
  4. Déplacer les fichiers LoRA : Placez les fichiers LoRA téléchargés dans le nouveau sous-dossier "Flux".

Étape 3 : Générer des images avec LoRA dans Forge WebUI

  1. Ouvrir SD Forge WebUI : Lancez le WebUI et dirigez-vous vers l'onglet "Stable Diffusion".
  2. Sélectionner un point de contrôle : Dans le menu déroulant "Checkpoint", choisissez le point de contrôle FLUX (recommandé : flux1-dev pour la meilleure qualité).
  3. Accéder à la section LoRA : Faites défiler vers le bas jusqu'à la section "LoRA" dans l'interface.
  4. Ajouter le modèle LoRA : Cliquez sur "Ajouter LoRA" et sélectionnez votre modèle LoRA souhaité dans la liste déroulante.
  5. Ajuster le poids de LoRA : Utilisez le curseur de poids pour définir l'effet LoRA (habituellement entre 0.5 et 1.0 pour des résultats optimaux).
  6. Entrer un prompt texte : Dans la zone de texte, écrivez le texte que vous souhaitez pour l'image. Si spécifié, incluez le mot déclencheur LoRA de la documentation du modèle.
  7. Définir les paramètres de l'image : Choisissez les dimensions de l'image, la méthode d'échantillonnage et le nombre d'étapes.
  8. Générer l'image : Une fois tout configuré, cliquez sur "Générer" pour créer l'image avec le LoRA appliqué.

Techniques d'utilisation avancées de LoRA

Combinaison de plusieurs LoRAs

  • Ajouter plusieurs LoRAs dans la section LoRA du WebUI.
  • Ajuster le poids de chaque LoRA pour équilibrer leurs effets.
  • Expérimenter avec différentes combinaisons pour des styles uniques.

Utilisation de LoRA avec des négatifs

  • Utiliser la boîte « Negative prompt » pour décrire les éléments que vous souhaitez exclure.
  • Les modèles LoRA peuvent être appliqués à des prompts négatifs en les définissant avec des poids négatifs.

Ajustement des effets LoRA

  • Ajuster les poids de LoRA pour contrôler l'intensité de l'effet.
  • Utiliser le curseur de « CFG Scale » pour affiner la manière dont l'image adhère à votre prompt.
  • Expérimenter avec différentes méthodes d'échantillonnage (par exemple, Euler a, DPM++ 2M Karras) pour voir laquelle fonctionne le mieux avec votre modèle LoRA.

LoRAs FLUX populaires et leurs utilisations

Vous pouvez trouver ces LoRAs compatibles FLUX et d'autres sur Civitai : https://civitai.com/

  1. Flux Disney : Idéal pour créer des personnages animés de style Disney.
  • Mot déclencheur : « flux_disney »
  • Poids recommandé : 0.7–0.9

2. Flux Realism : Améliore le réalisme déjà impressionnant de FLUX.

  • Mot déclencheur : « flux_realism »
  • Poids recommandé : 0.6–0.8

3. Flux Yarn Art : Crée un look texturé unique et fait main.

  • Mot déclencheur : « flux_yarn »
  • Poids recommandé : 0.8–1.0

4. Flux Aquarell Watercolor : Produit de magnifiques images de style aquarelle.

  • Mot déclencheur : « flux_watercolor »
  • Poids recommandé : 0.7–0.9

Techniques de suggestion pour FLUX et LoRA

  1. Commencez par une description claire du sujet.
  2. Ajoutez des détails sur le style, l'éclairage et la composition.
  3. Incluez le mot déclencheur LoRA si spécifié.
  4. Utilisez des termes artistiques pour guider le style (par exemple, « impressionniste », « photoréaliste »).

Exemple de prompt :
« Un portrait hyper-réaliste d'une jeune femme, flux_realism, portant une robe florale vintage, un sourire doux, se tenant dans un jardin ensoleillé, profondeur de champ, photographie professionnelle »

Résolution des problèmes courants

  1. LoRA n'affecte pas l'image :
  • Vérifiez si le LoRA est correctement chargé dans le WebUI.
  • Augmentez le poids de LoRA.
  • Assurez-vous d'utiliser le mot déclencheur correct.

2. Erreurs de mémoire insuffisante :

  • Réduisez la taille de l'image ou le nombre de lots.
  • Essayez d'utiliser le mode à demi-précision (fp16).
  • Fermez d'autres applications très gourmandes en mémoire.

3. Résultats inattendus :

  • Vérifiez les éléments conflictuels dans votre prompt.
  • Essayez d'ajuster l’échelle CFG.
  • Expérimentez avec différentes méthodes d'échantillonnage.

Formation de votre propre FLUX LoRA

Pour les utilisateurs avancés intéressés par la création de LoRAs personnalisés :

  1. Préparez un ensemble de données de 15 à 30 images de haute qualité représentant le style ou le sujet souhaité.
  2. Créez des fichiers texte correspondants avec des descriptions détaillées pour chaque image.
  3. Utilisez le dépôt GitHub kohya_ss pour les scripts d'entraînement LoRA :
    https://github.com/bmaltais/kohya_ss
  4. Modifiez le fichier de configuration pour spécifier votre dossier de données, le taux d'apprentissage et les étapes d'entraînement.
  5. Exécutez le script d'entraînement et surveillez les valeurs de perte pour éviter le surajustement.

Pour les utilisateurs de Mac configurant l'environnement d'entraînement :

Meilleures pratiques pour l'entraînement et l'utilisation de LoRA

  1. Utilisez un ensemble de données diversifié pour créer des LoRAs polyvalents
  2. Pour les LoRAs de personnages, incluez diverses poses, expressions et tenues.
  3. Commencez par un taux d'apprentissage plus bas (par exemple, 1e-4) et augmentez si nécessaire.
  4. Testez votre LoRA avec différents poids et prompts pour comprendre ses capacités complètes.
  5. Partagez votre LoRA avec la communauté et recueillez des retours pour des améliorations.

En maîtrisant l'utilisation des modèles LoRA avec FLUX AI, vous pouvez repousser les limites de l'art généré par IA. Que vous visiez un ultra-réalisme, des illustrations stylisées ou des effets artistiques uniques, la combinaison de FLUX et LoRA fournit une boîte à outils puissante pour donner vie à vos visions créatives. Expérimentez, explorez et profitez des possibilités infinies offertes par cette technologie. N'oubliez pas de toujours télécharger des logiciels à partir de sources officielles et soyez prudent lors de l'installation d'outils tiers. Assurez-vous également que votre système répond aux exigences minimales pour faire fonctionner ces applications, en particulier en termes de capacités GPU pour la génération d'images IA.