研究・論文

研究チームがAIエージェントの「スキル」を狙う条件付きバックドア手法ElasticBackを発表しました。150個のスキルと4つのLLMで検証し、攻撃成功率89%を誤検知率6%に抑えて達成、既存の防御手法もすり抜けています。

研究チームがAI推論の消費電力を最大2.5倍削減する新手法を発表しました。時系列データをグラフ画像化してVLMに入力する方式で、入力トークン数を最大10倍以上削減しつつ、異常検知の精度もあわせて高めています。

研究チームがAIエージェントの新訓練手法EnvACEを発表しました。エージェントが行動役と環境役を自ら演じる「世界リハーサル」により、外部環境構築コストを抑えつつ4種のベンチマークで既存手法を上回りました。

13人の研究チームがAIエージェントの長時間タスク失敗を自動特定するTrajDebugを発表しました。SWE-Bench Proなどから集めた486件の失敗事例で検証し、既存手法より高い精度で原因を特定できると報告しています。

Stanford大とArc Instituteの研究チームが、AIモデルEvo-2で302種のファージ候補を設計し16種が実際に大腸菌を殺す機能を確認しました。AI設計ウイルスの機能実証は初めてで、Science誌に掲載されています。

研究チームが150種のペルソナと12個のLLMを使いMirageBenchで検証したところ、平均41.6%のユーザー属性推測が根拠のない捏造と判明しました。モデルの自信度は誤りの多さと逆相関しており、自己申告への過信の危うさを示しています。

論文「SFT Conflicts, RL Coexists」は、SFTがマルチタスク学習でタスク衝突を起こす一方、RLは勾配がほぼ直交し性能劣化が起きにくいと解明し、新手法Parallel-RLを提案しています。

OpenAIの推論モデルが80年前のErdős予想の一つを反証し、DeepMindも9問の未解決問題をAIとLeanの組み合わせで解読しました。証明が急増する中、数学者テレンス・タオ氏は検証体制の整備を訴えています。

AIによるCOBOL→Java移行の検証手法「Locksmith Loop」を研究チームが発表。分岐網羅率91.90%を達成し、生成コードの信頼性を数値で裏付けました。

研究者Mirzaei氏の論文は、Self-RefineやReflexionなど自己添削型のAI手法7種を同コストの反復サンプリングと36通り比較し、有意に上回る手法はゼロという結果を示しました。