AI開發分享

AI Agent 手搓專屬 LoRA 訓練器:筆電端高效跑出 Flux.2 訓練

內容 AI



兩年前在家訓練 LoRA,整個 pipeline 還停在手動前處理、反覆裁切、提心吊膽看著 VRAM 隨時準備 OOM 的年代。

今天心血來潮,直接叫 AI Agent 幫我手搓了一套專屬的客製化訓練器。把人臉置中、角度分類分群、裁切、快取編碼全塞進同一個 workflow,甚至訓練前後還會自動呼叫 ComfyUI 卸載釋放顯存、練完自動打包 113 個 safetensors 權重歸位並給出測試 Prompt。

全新 AI Agent 自動化工作流

 

  • 人臉置中:精準定位,省去手動裁切的繁瑣
  • 分類與快取:自動化角度分類分群與高效快取編碼
  • 動態顯存釋放:訓練前後自動呼叫 ComfyUI 卸載釋放 VRAM
  • 自動化整理:練完自動打包 113 個 safetensors 權重歸位並產出測試 Prompt

極限效能實測數據

 

Flux.2 Klein 9B FP8(近百億參數大模型),設備僅為筆電端 GPU,且功耗鎖在 175W

  • ⏱️ 720 steps 只要 28 分鐘 搞定
  • ⚡ 平均每 step latency 壓到約 2.4 秒(衝刺段甚至 1 秒內
  • 📐 Rank/Alpha 維持 16/32
  • 🔒 全程不爆顯存,收斂穩健收工

進化與反思

兩年前在桌機上微調大模型需要研究員等級的耐心;現在用 AI 串起來的 Pipeline,筆電端就能跑出工作站級的效率。

從模型架構優化到 AI 工具化工程,這兩年的進化速度真的實打實的快!

討論交流

想要參與討論嗎?登入即可發表留言。

立即登入
尚無留言,快來留下第一則吧!
多功能面版