Anthropic、AI安全法案を提示介入基準は死者50人超

Anthropicが、最先端AIモデルの安全規制を定める法案の草案を米議会の議員に非公式に示しました。政府がモデルを止められるのは、50人超の死傷か10億ドル超の損害が差し迫った場合に限られます。停止を命じられるのはワシントンDCの連邦地裁だけで、商務省以外の省庁は単独で止められません。AI企業が自ら規制の枠組みを書いた形で、その基準の高さに批判が集まっています。

背景と文脈
技術/ビジネス面
これからどうなるか
まとめ
参考リンク

背景と文脈

この草案は、米メディアPoliticoが10月16日に関係者3人の話として報じました。Politicoの報道を伝えたInvesting.comの記事によると、Anthropicの担当者が議会関係者に草案を個別に説明したとされます。法案の名称や提出議員はまだ明らかになっていません。

Anthropicは以前から、規制に前向きなAI企業として知られてきました。2025年にはカリフォルニア州の最先端AI透明化法SB 53を支持しています。同社の広報担当者は今回の草案について、6月から連邦と州の議員に説明してきた「Advanced AI Framework」の内容をまとめたものだと述べました。

米国では、連邦レベルの包括的なAI法がまだありません。各州が独自のルールを作り始め、業界には「州ごとに規制がばらばらになる」という不満があります。2025年には州のAI法を10年間凍結する条項が連邦法案に入りかけ、上院で削除されました。連邦法で一本化するか、州に任せるかという綱引きは今も続いています。今回の草案は、その議論に企業側から具体的な条文案を持ち込んだ形になります。

技術/ビジネス面

person writing on white paper — Photo by Cytonn Photography on Unsplash

草案の柱は、外部の評価機関による定期的なチェックです。評価機関は商務省に登録し、AI開発企業とその最先端モデルを定期的に評価します。費用はAI企業が払えますが、支払いを評価結果に結びつけることは禁じられます。

評価機関が差し迫った危険を見つけた場合、評価の完了から72時間以内に商務省へ知らせる義務があります。商務省は必要と判断すれば、裁判所にモデルの公開や利用の停止を求めます。停止を命じられるのは、ワシントンDCの連邦地方裁判所の判事だけです。

介入の条件はかなり絞られています。モデルが「予見でき、かつ差し迫った」危険をもたらす場合に限られ、その中身は10億ドル超の損害か、50人超の死亡・重傷です。さらに、危険の原因は次の3つに限定されます。

生物兵器の作成や放出
サイバー攻撃
モデルが開発元の安全管理をすり抜けること

もう一つの特徴は、ほかの連邦機関の権限を抑える点です。商務省以外の省庁や当局者は、この枠組みでモデルの開発・提供・社内利用を単独で止められません。規制の窓口を一つにまとめる設計になっています。

企業から見ると、何をすれば止められるかが事前に読みやすくなる利点があります。一方で、条件に当てはまらない害には、この枠組みでは手が出せません。

これからどうなるか

批判の中心は基準の高さです。Mother Jonesの記事は、AIを使った詐欺のような被害は対象に入らないと指摘しました。数人が重傷を負う程度の危険も、政府は止められないことになります。州のより厳しい法律を連邦法が上書きする可能性も懸念されています。

ロビー活動の規模にも目が向いています。同記事によると、Anthropicが2026年上半期に議会へのロビー活動に使った額は、2025年の通年を上回りました。規制を求める企業が、規制の範囲も自ら決めようとしている構図です。

開発者にとって気になるのは、利用中のモデルが裁判所の命令で突然止まる可能性です。めったに起きない事態ですが、1社のAPIに依存したプロダクトは影響を受けます。モデルの切り替えやフォールバック（代替先への自動切り替え）を用意しておくと、規制がどう転んでも備えになります。法案が実際に提出されるか、議員がどこまで修正するかが次の注目点でしょう。