ただまぁ現状、画像生成なら #RTX4090 でも困ってないし、LLMには32GBでも少ない。学習は #GoogleColabPro の方が安上がり…と、猛烈に欲しいわけでもない(笑)

adafactorと #Phi3Vision を使った4.5k枚、再 #FineTune の結果。おでこにペイントがepochs 30。無いのが50。これに限らず前者は自然なのと、後者はハルシネーション出やすい感じ(多分過学習)。しかし50 epochsで約11時間。コスト1k円ちょいと #GoogleColabPro 最強！(笑) #AI美女 #AIグラビア #SDXL pic.twitter.com/8772nDIIVx

ってことで、#Phi3Vision 使って、caption付け直した4.5k datasetで再度 #FineTune 中。#GoogleColabPro #A100 にして、batch_size=24だと50 epochsたった12時間♪optimizerもLionからadafactorへ。さてどうなることやら！？ #AI美女 #AIグアビア #SDXL pic.twitter.com/N4iBjOk27b

ってことでw、#GoogleColabPro A100 40GBで #FineTune 、100 epochs記念版！(笑) 1枚目MyCkpt、2枚目sd_xl_base_1.0。随分違う♪ #AI美女 #AIグラビア #SDXL #自作Checkpoint pic.twitter.com/4cmOtUZyUs

#GoogleColabPro で #FineTune 、100 epochs完了。dataset 3.6k枚で17時間半。#RTX3090 + #GPUBox だと100時間wだったので激速い♪費用は204.02ユニット。100(約1k円)ユニット単位の購入なので3k円。リーズナブルじゃ！？ < 時間とコストは枚数に比例 #Notebook はこちら colab.research.google.com/drive/13DILDtJ… pic.twitter.com/D3TD3HQdCD

#GoogleColabPro で作って、#Checkpoint の保存先、#GoogleDrive にしておくと、外からでも状況確認できるから便利(笑) もう20 epochs pic.twitter.com/w6QdjjsdEJ

#GoogleColabPro A100 40GBでの #FineTune 、ごめんなさい。リンク先変えたので再投稿 and 情報更新w！batch_size=24, VRAM 約38GB使用, 3.6k枚, 1 epoch 10:25, 100 epochs 約17時間の爆速♪ #Notebook colab.research.google.com/drive/13DILDtJ… pic.twitter.com/mGxg7gOLpE

#GoogleColabPro で #FineTune 出来るか？試し中。依存エラーで時間食われた(笑) #Notebook 公開するのでよかったらどうぞ。ただProじゃないと無理だと思う(^^; 今 A100/3.6K枚/100 epochsの予想が20時間(batch_size=8)。ユニット数使い切るのが早いか終わるのが早いか微妙w colab.research.google.com/drive/1SdBgune… pic.twitter.com/xJyGlzuQOf