ジャコ Lab

プログラミング関連のメモ帳的ブログです

FreeInit って何じゃろ?

AnimateDiff のドキュメントの中に Using FreeInit という項目があります。

FreeInit is an effective method that improves temporal consistency and overall quality of videos generated using video-diffusion-models without any addition training. It can be applied to AnimateDiff, ModelScope, VideoCrafter and various other video generation models seamlessly at inference time, and works by iteratively refining the latent-initialization noise. More details can be found it the paper.

Google 先生によると FreeInit は、追加のトレーニングを行わずに、ビデオ拡散モデルを使用して生成されたビデオの時間的一貫性と全体的な品質を向上させる効果的な方法です。これは、AnimateDiff、ModelScope、VideoCrafter、およびその他のさまざまなビデオ生成モデルに推論時にシームレスに適用でき、潜在初期化ノイズを繰り返し調整することで機能します。詳細は紙面でご覧いただけます。

なるほど、わからん

とりあえず、動画生成に対して品質向上を期待できるようですので、使ってみようと思います。

続きを読む

AnimateDiff の モーション LoRA を複数組み合わせて使ってみる

モーション LoRA は複数を組み合わせて使うことが可能なようです。

例えばズームアウトスライドを組み合わせて使う感じ

この記事では、再び AnimateDiffPipeline を使い、モーション LoRA を組み合わせて使ってみます。

続きを読む

AnimateDiffVideoToVideoPipeline で Video-to-Video をする

AnimateDiffPipeline で Text-to-Video をしていましたが、 AnimateDiffVideoToVideoPipeline を使うと Video-to-Video ができるようになります。

huggingface.co

これは Hugging Face のドキュメントに使用方法が載っていましたので触ってみます。

続きを読む

AnimateDiff のリポジトリに居たマヌルネコが可愛すぎたのでいっぱい出力してみた

AnimateDiff をたくさん調べてて見つけた https://animatediff.github.io にいた猫が可愛すぎたので マヌルネコ LoRA を使ってみました。

この記事では AnimateDiff は触りません!
ぬこを触ります!!

使用したモデル等は以下になります。

・リアル系モデルから yayoi_mix
・イラスト系モデルから MeinaMix
・そして マヌルネコ LoRA

それでは、、、

猫まみれ~
続きを読む

diffusers の AnimateDiff で Scheduler を調整してみる (3) - 比較してみる

前回前々回beta_schedule="linear" を付与した状態出力しました。これは出力画像を鮮やかに出したかったからです。

今回は timestep_spacing="linspace" のパラメータを使ったり使わなかったり、
beta_schedule="linear" のパラメータを使ったり使わなかったりして比較してみようと思います。

パラメータのパターンは以下のように考えています。

テストケース番号 timestep_spacing beta_schedule 備考
1 未設定 未設定
2 linspace 未設定 リリースノートと同じ
3 未設定 linear 前回の記事と同じ
4 linspace linear

スケジューラは以下の2種類

Scheduler
DDIMScheduler
DPMSolverMultistepScheduler(use_karras_sigmas=True)

モデルは以下の2種類

Model
ToonYou Beta6
MeinaMix V11

では、進めていきます。

続きを読む

diffusers の AnimateDiff で Scheduler を調整してみる (2) - MeinaMix

zako-lab929.hatenablog.com

前回の記事では ToonYou のモデルを使用して、 AnimateDiff を実行する際のスケジューラーのパラメータを調整しました。

この記事では更に別のモデルも試してみます。

いつもの MeinaMix で!

続きを読む

diffusers の AnimateDiff で Scheduler を調整してみる

zako-lab929.hatenablog.com

前回の記事で以下のようなことを書きました。

でも、もうちょっとdiffusers v0.15.0 の Text-to-Video Zero を Google Colab で使ってみる - ジャコ Labの時みたいに、おぉーー!!っていう感じのが出てほしいな。スケジューラの問題?GitHub 版も試してみようかな?

理由としては、以下のように低画質な感じなところです。

前回出力した ToonYou の AnimateDiff
前回出力した ToonYou の AnimateDiff

これはこれで味があって良いと思いますが、ギャラリーにあるようなもっと彩度の高いものが出したいです。

こんな感じのやつ (公式ギャラリーから)
こんな感じのやつ (公式ギャラリーから)

この記事では、
GitHub 版の実行はエラーになってできなかったのですが、GitHub 版のコンフィグファイルを見るとスケジューラーの設定が少々異なっていることを発見しましたので、スケジューラーを調整してみます。また id:touch-sp さんからコメントをいただいた通り、狙い所はあっていそうです。

続きを読む