ローカル推論

量子化（Quantization）とは、LLMの重みの計算精度を下げ、モデルを小型・高速化する技術です。GPUなしのMacBookやスマホで動くAIの裏にある仕組みを、文庫本の比喩で初心者向けにわかりやすく解説します。