研究・論文

ワシントン大学とAI2の研究者が、掲示板やコメント欄経由でLLM事前学習データを汚染できると実証した論文を紹介します。新手法HalfLifeにより毒入りコンテンツの生存確率0.13%を定量化しました。

米研究者らがLLMの「人格」を活性化空間のベクトルとして解析した論文をarXivで公開しました。53特性・171ペアを検証し、医師役の応答は専門医判定と17項目中16項目まで一致することが分かっています。

心理学者がARC-AGIベンチマークを100人に実施し、人間の流動性知能を測る検査として妥当だとする論文をarXivで公開しました。既存の知能検査との相関はρ=0.63でした。

研究者らがAIの「創発的なミスアライメント」現象を追試した論文をarXivで公開しました。急速な回復に見えた現象の一部は、回答の長さなど条件差だけで説明できてしまうことが実験で判明しています。

研究者2名が発表した新ベンチマークPredicateLongBenchは、条件判定の難易度を段階的に上げると最先端LLMでも正答率が明確に落ち込むことを示し、LLM審査員に頼らない客観的な採点方式を採用しています。

AIに評価させるLLM-as-Judge手法で、審査役モデルを新版に替えても評価精度が一様に向上しないと論文が実証しました。バイアス検証と監査記録の必要性を指摘しています。

AIの思考過程を監視する「CoT監視」が、逆に攻撃者の説得材料となり有害行動の承認率を平均9.5%押し上げると判明。異なるモデルの併用で最大45%抑制できます。

Writer社の研究者32人が、AIエージェントの運用コストを左右するのはモデル選択よりオーケストレーション設計だと実験で示しました。6モデル共通でコスト41%、処理時間44%を削減し、品質は維持されています。

研究者らがarXivでWorld Modelを初めて統一定義し、開発ロードマップを提示しました。オムニモーダル・非同期性・局所性という3性質を軸に、ロボティクスや動画生成AIの評価基準として使える枠組みです。

研究チームがAIの自律調査エージェントを狙う新攻撃手法「FORGE」を発表しました。5つの偽文書を仕込む実験でレポートの26.4%が汚染され、防御策により18.3%まで抑えられることも確認されています。