AI 2ビット量子化の推論モデル — Qwen3-8Bが17%→74%に復元
arXiv論文がQwen3推論モデルを2ビット量子化した際の失敗パターンを分析し、FP16プランニングとループレスキューの2手法で精度を回復させました。Qwen3-8BのMATH-500スコアが17.2%から74.2%へ改善し、エッジデバイスや低コストGPU上での推論モデル実用化が現実味を帯びてきました。
AI
AI
AI
AI
AI
SQL
AI
AI
AI
AI