生成AI・LLM — 21 / 30
AIモデルの数値精度を下げて(例:32ビット→8ビット)、モデルサイズと計算量を削減する技術。精度の低下を最小限に抑えつつ、より少ないメモリと計算資源でモデルを動作させることができる。エッジデバイスでのAI実行に重要。
中小企業での使い方や注意点をまとめた「くわしい解説」は準備中です。