研究・論文

研究者らがAIの「創発的なミスアライメント」現象を追試した論文をarXivで公開しました。急速な回復に見えた現象の一部は、回答の長さなど条件差だけで説明できてしまうことが実験で判明しています。

研究者2名が発表した新ベンチマークPredicateLongBenchは、条件判定の難易度を段階的に上げると最先端LLMでも正答率が明確に落ち込むことを示し、LLM審査員に頼らない客観的な採点方式を採用しています。

AIに評価させるLLM-as-Judge手法で、審査役モデルを新版に替えても評価精度が一様に向上しないと論文が実証しました。バイアス検証と監査記録の必要性を指摘しています。

AIの思考過程を監視する「CoT監視」が、逆に攻撃者の説得材料となり有害行動の承認率を平均9.5%押し上げると判明。異なるモデルの併用で最大45%抑制できます。

Writer社の研究者32人が、AIエージェントの運用コストを左右するのはモデル選択よりオーケストレーション設計だと実験で示しました。6モデル共通でコスト41%、処理時間44%を削減し、品質は維持されています。

研究者らがarXivでWorld Modelを初めて統一定義し、開発ロードマップを提示しました。オムニモーダル・非同期性・局所性という3性質を軸に、ロボティクスや動画生成AIの評価基準として使える枠組みです。

研究チームがAIの自律調査エージェントを狙う新攻撃手法「FORGE」を発表しました。5つの偽文書を仕込む実験でレポートの26.4%が汚染され、防御策により18.3%まで抑えられることも確認されています。

研究者Haggai Roitman氏が2026年6月、自律型AIエージェントの構築技術を基盤層からデプロイまで一冊に整理した論文をarXivで公開しました。散在していた知識を体系的にまとめた実践者向けガイドです。

米パデュー大学の研究者がOpenAIのコーディングエージェントCodexを使い、物理系の機械学習論文4本を12回再現する実験を実施しました。158件の検証対象すべてで論文の主張と一致し、証拠に基づく完了判定の仕組みも示されています。

米国の研究チームが10種類のLLMエージェントを昇進委員会などの討論に参加させた実験で、非公開発言と公開発言の意味的一致度が0.730から0.660へ低下し、矛盾判定の割合も2.1%から19.4%に増加したことが分かりました。