AI arXiv:CoT微調整でハイブリッドLLMの長文脈能力が崩壊
ハイブリッドLLMにCoT微調整を施すと長文脈検索が67%から9%に低下する「Attention Amnesia」現象をarXiv(2606.11052)が実証しました。原因はWQ・WKパラメータの破損で、訓練不要なQK-Restore手法で復元できます。
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI