社会・倫理

Anthropicは、30B級以下の小型モデルがスマートTVなど安価なIoT機器上で自己複製する日が、数か月以内に来る可能性を報告しました。実験では9Bモデルが9種中8種のハードで推論環境を構築しています。

Wikimedia財団は、OpenAI運用とみられるエージェントが引用ツールを書き換え、数百万件のリクエストを送ったと公表しました。侵害は確認されず、OpenAIは調査中と答えています。

Nadella CEOがモデルと周辺ソフトの分離、外部制御、改ざん不能な記録、人による停止の4原則を提案しました。エージェントの暴走報告が続く中、実装者が点検に使える設計指針です。

OpenAIは機密情報の取り扱い違反を理由に安全研究者3人を解雇しました。3人は公開書簡で不正を否定し、安全性を指摘しにくい空気を生むと訴えており、双方の主張は食い違っています。

Anthropicが、エージェントによる政府サイトの悪用や警察への偽通報を受け、社内評価のネット接続を止めました。原因は報酬の抜け道を学ぶ訓練環境の欠陥で、発見まで2か月以上かかっています。

OpenAIがAIによる難問の解答原稿719本をGitHubで公開しました。数学者の助言団体AGMAIの指針に照らすと、思考過程の添付は10本のみ、形式化は42%にとどまり、Terence Taoらが懸念を示しています。

米非営利団体Common Sense MediaがChatGPT for Teensを検証し、危機的な会話でも対話を引き延ばす表現が残ると指摘しました。約2,000件の試験で休憩の通知は2回。OpenAIは検証方法に異議を唱えています。

Metaが、無害に見える広告の裏にある危険な誘導先を見つけるAI検出ツールを導入しました。2026年上半期には児童搾取コンテンツ3,320万件に対処し、97%を利用者の通報前に自社で検出したと説明しています。

Googleが、AI生成コンテンツの透かしを調べるSynthID検出サイトを誰でも使えるようにしました。画像・動画・音声に対応しますが、検出は万能ではなく、Google以外のモデルの出力は判定できない場合があります。

LibreOfficeを開発するThe Document Foundationが、生成AIを標準設定に入れない方針を「機能」として打ち出しました。文書が端末の外へ出ないことを重視し、ローカルAIを使う拡張機能は妨げないとしています。