Aller au contenu

Text-to-Video

Le text-to-video est l’un des cas d’usage les plus avancés de ComfyUI, combinant plusieurs modèles pour créer une vidéo complète depuis une simple description.

Pipeline complet Text-to-Video

Un pipeline text-to-video typique enchaîne plusieurs étapes :

Texte → Génération image → Image-to-Video → Upscale → Audio/TTS → Vidéo finale

Approche 1 : génération vidéo directe

Certains modèles supportent le text-to-video directement :

  • Wan 2.1/2.2 T2V : le plus complet
  • CogVideoX : bonne qualité text-to-video
  • HunyuanVideo : professionnel
  • LTX Video / LTX-2 : le plus rapide, utile pour l’itération et les context windows

Approche 2 : pipeline multi-étapes (recommandé)

Pour un contrôle maximal :

  1. Text-to-Image : générez l’image de départ avec FLUX ou SDXL
  2. Image-to-Video : animez avec Wan, LTX ou HunyuanVideo
  3. Post-traitement : upscale, color correction
  4. Audio : ajoutez voix et son

Workflow Wan Text-to-Video

Nodes principaux

  1. Load Checkpoint : modèle Wan T2V
  2. CLIP Text Encode : description de la scène
  3. Wan Video Sampling : génération des frames
  4. VAE Decode : conversion en images
  5. Video Combine : assemblage en vidéo

Prompts efficaces pour la vidéo

La clé d’un bon résultat est un prompt qui décrit :

  • La scène : ce qui est visible
  • Le mouvement : ce qui bouge et comment
  • L’ambiance : éclairage, couleurs, atmosphère
  • Le style : cinématique, anime, documentaire…

Exemple :

A woman walking through a sunlit forest path, golden autumn leaves
falling gently, camera following from behind, cinematic look,
warm color palette, natural lighting, 4k quality

Exporter la vidéo : MP4 ou ProRes

Sources vérifiées le 4 novembre 2026. Les options ProRes et de sous-échantillonnage chromatique sont disponibles dans la release stable ComfyUI v0.44.0, publiée le 4 novembre 2026 (UTC).

Une fois les images générées et décodées, les nodes intégrés Create Video (CreateVideo) et Save Video (SaveVideo) permettent de créer le fichier final sans extension tierce. Ce raccordement ne dépend pas du modèle qui a produit les images :

Images décodées → Create Video → Save Video
Audio facultatif ↗

Choisir le format de sortie

  1. Relie tes images à l’entrée images de Create Video. Règle fps sur la cadence prévue par ton workflow : la valeur par défaut du node est 30, pas une recommandation universelle. Changer cette valeur ne crée pas d’images intermédiaires.
  2. Pour un premier export SDR, conserve color_space = sRGB, bit_depth = auto, chroma_subsampling = auto et codec = none. Ce dernier réglage conserve les images sous forme de tenseurs jusqu’à la sauvegarde ; il ne signifie pas « ne pas sauvegarder ».
  3. Relie la sortie VIDEO à Save Video. Pour un fichier de diffusion courant, choisis format = mp4, puis codec = h264. Si tu sélectionnes le mode re-encode, le CRF par défaut est 18 ; une valeur plus basse augmente la qualité et la taille du fichier.
  4. Pour un export destiné au montage avec ProRes, choisis format = mov : le node propose alors prores. En format auto, sélectionner explicitement le codec prores choisit également MOV. Le format MP4 de ce node ne propose pas ProRes.
  5. Conserve un préfixe de fichier identifiable dans filename_prefix. Save Video écrit dans le répertoire de sortie configuré de ComfyUI.

Ces réglages ne nécessitent aucun fichier de modèle supplémentaire. Si ton graphe fournit déjà un objet VIDEO, tu peux le relier directement à Save Video ; n’ajoute Create Video que pour assembler une séquence d’images, avec éventuellement de l’audio.

Sous-échantillonnage et pièges courants

Le champ chroma_subsampling de Create Video propose auto, 444, 422 et 420. Le mode 444 conserve la résolution couleur complète ; 422 la divise horizontalement par deux ; 420 la divise sur les deux axes. Cela ne change pas la résolution des images ni leur nombre. Un choix non pris en charge par le codec est remplacé par le mode compatible le plus proche, avec un avertissement dans la console : sélectionner 444 ne garantit donc pas une sortie 4:4:4 avec tous les codecs.

  • Option ProRes absente : vérifie d’abord que ton cœur ComfyUI est au moins en v0.44.0 et que tu utilises les nodes intégrés ci-dessus, pas un node de sauvegarde tiers portant un nom similaire.
  • Vidéo trop rapide ou trop lente : contrôle fps par rapport à la cadence du workflow source avant de modifier la génération.
  • HDR attendu mais rendu SDR : augmenter seulement bit_depth ne convertit pas le contenu en HDR. Le node distingue explicitement profondeur et espace couleur ; conserve sRGB pour des images SDR.
  • Export incompatible avec le lecteur : commence par MP4/H.264 et les valeurs auto plutôt que d’imposer un sous-échantillonnage inhabituel.

Limites

La release stable et le code des nodes vidéo figé en v0.44.0 ont été examinés ; ce raccordement n’a pas été exécuté. Aucun temps d’encodage, seuil de VRAM, profil ProRes précis ou compatibilité avec un logiciel de montage n’est validé ici. Le code ComfyUI est sous GPL-3.0 ; cela ne modifie pas les licences des modèles ni les droits sur les images et l’audio utilisés.

Création de contenu à grande échelle

Batch de scènes

Pour créer plusieurs scènes automatiquement :

  1. Préparez une liste de prompts dans un fichier texte
  2. Utilisez le node Load Text File ou Prompt from Line
  3. Bouclez avec Queue pour générer toutes les scènes
  4. Assemblez les clips avec un éditeur vidéo ou FFmpeg

Cohérence entre les scènes

  • Utilisez le même seed de base pour garder un style cohérent
  • Partagez les mêmes LoRA et embeddings entre les scènes
  • Gardez des paramètres CFG et sampling identiques
  • Utilisez IP-Adapter avec une image de référence de style
  • Pour LTX-2, utilisez les fenêtres de contexte quand le workflow doit garder une continuité sur plusieurs segments

MiniMax H3 : fenêtres de contexte natives

Ajout vérifié le 30 octobre 2026. La PR officielle #17425, fusionnée le 30 octobre à 00:08 UTC, ajoute MiniMax H3 Context Windows (MiniMaxH3ContextWindows). Ce node natif applique un traitement par fenêtres pendant l’échantillonnage d’un workflow H3 existant. Le code aligne les fenêtres vidéo sur les blocs temporels du modèle et découpe l’audio sur les frontières correspondantes ; ce n’est ni un assemblage de clips après génération, ni un upscale.

Raccordement dans un graphe H3 existant

Ce schéma est examiné dans le code, pas exécuté :

Modèle H3 chargé → MiniMax H3 Context Windows → entrée modèle de l'échantillonnage
  1. Insère le node sur la branche MODEL, avant l’échantillonnage, et conserve les autres branches de ton graphe H3.
  2. Les entrées context_length et context_overlap sont exprimées en frames réelles, pas en frames latentes. Le schéma impose la forme 17*n + 5, avec un minimum de 22 pour la longueur et de 5 pour le chevauchement.
  3. Les valeurs par défaut du code sont context_length = 124, context_overlap = 39, une fusion PYRAMID et freenoise = true. Ce sont des valeurs de schéma, pas un réglage validé pour ton GPU.
  4. Le node utilise un découpage statique et convertit lui-même ces valeurs dans l’espace latent. Il borne le chevauchement en interne : ne transpose pas directement les réglages des nodes Wan ou LTXV.

Compatibilité, dépendances et limites

  • Version : l’intégration est postérieure à la release v0.43.0, publiée le 27 octobre. Il faut un cœur contenant le commit 6651247a8b50cefd1436c834f704bdf7767722e9 ou une version ultérieure qui l’inclut ; cette release seule ne suffit pas.
  • Dépendances : ce node est fourni par le cœur, sans extension tierce ni poids supplémentaires propres au fenêtrage. Il ne remplace pas les modèles, encodeurs et décodeurs nécessaires au graphe H3. Le schéma parent le marque expérimental.
  • Mémoire et qualité : le code adapte l’estimation mémoire aux latents de la fenêtre. Cela ne garantit ni l’absence d’OOM, ni une durée illimitée, ni la continuité visuelle ou audio. Aucun seuil de VRAM ni gain mesuré n’est établi ici.
  • Licences : le code ComfyUI est sous GPL-3.0. Cette licence ne couvre pas automatiquement les poids H3 et les autres composants : conserve leurs conditions respectives avant toute exploitation.

État de vérification : schéma du node, sortie MODEL, paramètres et adaptation temporelle audio/vidéo relus dans les sources officielles. Aucun workflow exécuté, aucun modèle téléchargé, aucun node installé et aucun benchmark réalisé.

Intégration audio

Text-to-Speech

Ajoutez une narration IA à votre vidéo :

  1. Générez le texte de narration
  2. Utilisez Fish Speech, XTTS ou Bark pour la synthèse vocale
  3. Synchronisez avec la vidéo

Musique de fond

  • Générez de la musique avec des modèles comme MusicGen
  • Ou utilisez de la musique libre de droits
  • Mixez avec la narration

Exemples de pipelines complets

Vidéo explicative

Script → TTS narration → image par scène → animation I2V →
Assemblage vidéo + audio → Export final

Avatar parlant

Portrait → TTS du texte → Lip Sync (LivePortrait) →
Upscale → Export avec audio

Clip style anime

Prompt scène → FLUX (style anime LoRA) → Wan ou LTX I2V →
Interpolation frames → Export

Prochaines étapes