AI 米政府、Gemini活用のAI窓口America.govを発表
トランプ大統領が、数万の政府サイトを一つに束ねるAIチャットボットAmerica.govを発表しました。Googleが提携しGeminiが関わりますが、誤答が給付や納税に影響するリスクも指摘されています。
AI
AI 
AI Nvidia、AIエージェントの暴走を防ぐ安全基盤を発表
NvidiaがOpenShellと別チップ上の監視役Sentryを組み合わせた安全基盤を公開しました。エージェントの外側で暴走を止める設計で、Anthropicなど数十社が参加し、OpenAIは含まれていません。
AI Shopify、AIエージェントの購入完了に対応 WebMCPで
ShopifyがWebMCPのチェックアウト対応を全加盟店に展開します。3つの新ツールで、ブラウザ型AIエージェントが画面を読まずに注文を確定でき、代理購入を遮る大手小売とは逆の戦略です。
AI AMD、Fei-Fei LiのWorld Labsを82億ドルで買収
AMDがワールドモデル開発のWorld Labsを82億ドルで買収します。創業者のリー氏はAMDの最高科学責任者に就任し、ロボット向けの合成データとAIチップを一体で開発してNvidiaを追います。
AI arXiv論文：ドキュメントはコーディングAIに効果薄と判明
研究チームがarXivで、コード説明文書がコーディングAIエージェントのバグ修正に役立つかを検証した論文を発表しました。10リポジトリでの実験の結果、issue文だけの場合と比べて精度に差は出ませんでした。
AI arXiv論文：自己改善AIの安全リスクを6つに分類し提示
研究チームが、AIが自らを繰り返し改善する過程での安全性を評価する枠組み「Evolutionary Safety」をarXivで発表しました。意図のずれや誤りの蓄積など6つの典型的な失敗パターンを整理しています。
AI DetectifAI創業、音声ディープフェイク詐欺の検知SDKを開発
祖父が音声ディープフェイクの誘拐詐欺で送金した経験から、創業者Tarini Padmanabhuni氏がDetectifAIを設立しました。端末上で通話中に偽音声を検知するSDKを開発し、金融機関で月10万件超を処理しています。
AI AIエージェントInstinct、10億ドル調達し評価額100億ドルに
AIエージェント「Instinct」がシリーズCで10億ドルを調達し、評価額は100億ドルに達しました。1カ月前の前回調達時から4倍に急騰し、創業者はNoah Shinn氏、投資家にはSequoia Capitalも名を連ねています。
AI Meta、企業向けAI新事業を始動 MongoDBの前CEOが陣頭指揮
Metaが法人向けAI新事業「Meta Enterprise Platform」を発表しました。MongoDB前CEOのCJ・デサイ氏を最高責任者に迎え、Muse API・Muse Codeなど複数のAIツールを企業に提供します。
AI 米中首脳、AI事故通報ホットラインと「SI対話」新設に合意
米国のトランプ大統領と中国の習近平国家主席は、AIリスクを話し合う「SI対話」と国家安全保障級のAI事故を通報するホットライン新設に合意しました。冷戦期の直通回線になぞらえられ、次回対話は11月までに開催予定です。