COMIXAI吉川 聡史
しくみ・技術ろーらLow-Rank Adaptation

LoRAとは?

DEFINITION — ひとことで言うと

巨大AIモデルの本体はそのままに、小さな「差分パーツ」だけを追加学習する軽量ファインチューニング手法。画像生成の絵柄カスタマイズで大人気。

DIAGRAM — 図解
LoRAの図解巨大モデル本体凍結(そのまま)LoRA小さなアダプタギター本体は改造せず、エフェクターを足す感覚数十MBで絵柄・キャラ・口調を後付けできる
本体は凍結、小さな差分パーツだけを追加学習

モデル全体を再学習すると膨大なGPUと時間がかかりますが、LoRAは本体を凍結して小さなアダプタだけを訓練します。ギターに例えるなら、本体を改造せずエフェクターを足す感覚。数十MB程度のファイルで「特定の絵柄」「特定のキャラ」「特定の口調」を後付けできます。

Stable Diffusion系の画像生成コミュニティでは「好きな画風のLoRAを重ねて使う」文化が定着し、配布サイトまで存在します。企業でも「自社用の軽いカスタマイズ」の現実解として定番。フルのファインチューニングとの違いは、賃貸の壁に穴を開けるか、突っ張り棒で済ませるかの違いです。

用語を覚えるより、ストーリーで体感するほうが早い。