研究・論文

線形アテンション系AIは長文で過去の詳細を忘れやすい課題があります。Wanyun Cui氏のHOLAは予測が外れた箇所だけ厳密に保存する仕組みを追加し、3.4億パラメータでWikitext困惑度を26.88から22.92へ改善しました。

ICML2026採択の論文が、LLMエージェントはベンチマークで高得点でも実運用の変化に弱いと実証しました。知覚・対話・推論・内部状態という4階層で評価し、摂動を加えた再訓練で大幅な改善も確認しています。

研究チームが83のLLMを分析し、人間の知能g因子に似た「創造性因子c」を発見しました。ばらつきの81.5%を単一因子が説明する結果です。

Amazon等の研究チームがLLMの「データ参照エラー」を初めて体系的に測定した論文をACL2026で発表しました。軽量な検証モデルの併用で正答率が最大12%改善しています。

新ベンチマーク「SWE-INTERACT」により、フロンティアモデルは要件が段階的に開示されるマルチターン設定で性能が約50%から25%に低下することが判明しました。AIコーディング支援の現実的な限界を明らかにした研究です。

InternScienceが公開したAgents-A1は、35BパラメータのMoEモデルでありながら、推論トークン長を4万5千まで拡張するエージェント設計と多段階蒸留によって兆パラメータ級モデルと同等の性能を達成しました。

マルチエージェントAIシステムの実行中の攻撃（メモリポイズニング・ツール改ざんなど）を動的に防ぐ「ANIS」フレームワークがarXivで公開されました。訓練時のアライメントを補完する6層の免疫タワー設計で、エージェント開発のセキュリティ設計に直接活用できます。

正解ラベルなしのスコアベースタスクでLLMを強化学習するRiVERフレームワークがarXivで公開されました。AtCoderで訓練したモデルがALE評価で8〜9%向上し、さらに正解が必要な他ベンチマークでも2〜3.5%の性能改善が転移しています。

複数LLMエージェントの反復ループで、埋め込みのコサイン距離を使い収束点を自動検出して早期停止する手法がarXivで公開されました。HotpotQAの実験でトークン消費を38%削減しており、オープンソース実装でRAGやコード生成パイプラインへの応用が可能です。

視覚トークンの77.8%を削除しながらMLLM性能を100%維持するTOPS手法が公開されました。訓練不要・モデル非依存の設計で7モデル14ベンチマークで検証されており、マルチモーダルAIの推論コスト削減に直接活用できます。