COMIXAI吉川 聡史
GAME — 量子化体験

絞れ。ただし、壊すな。

量子化とは、AIモデルの数値の精度を落としてサイズを数分の1に圧縮する技術。 絞るほど軽く・速くなるけど、絞りすぎると答えが「おにぎり」になります。デカいままだと賢いけど、もっさり。5つの現場に、ちょうどいい圧縮を。

🐘➡️🐁

そのAI、どこまで絞れる?

巨大AIを現場のデバイスに載せる仕事です。量子化レベル(Q16〜Q2)を選んで圧縮してください。 絞るほど軽く・速くなるけど、答えが壊れます。デカいままだと賢いけど、もっさり。5つの現場の容量・品質・速度の要件を読んで、「ちょうどいい」を見極めろ。

※Q2まで絞ったAIは、何を聞いても「おにぎり」と答えがちです