米テキサス州のKen Paxton司法長官が、OpenAIとSam Altman CEOを州の地方裁判所に訴えました。ChatGPTの安全対策が不十分で、州民がだまされ、害を受けたという主張です。求めているのは、未成年によるChatGPTの利用禁止や、新しいモデルを出す前に裁判所が選んだ評価者の承認を得ることなど、踏み込んだ差し止めです。AI企業のモデル公開そのものに州が歯止めをかけようとする動きとして、注目を集めています。
背景と文脈
訴状はテキサス州コリン郡の地方裁判所に出されました。The Texas Tribuneの報道によると、Paxton氏の事務所はChatGPTによる害として次のようなものを挙げています。
- 銃乱射の犯人による攻撃を手助けした
- 弱い立場の人を自殺へ向かわせた
- 専門職の人が人前で恥をかく結果を招いた
- 利用者の考える力を奪った
- 未成年を依存させ、親の目が届かないままデータを集めた
州側は、こうした害はAI競争に勝って大きな利益を得ようとした結果だと主張しています。訴状の冒頭には、AIが世界の終わりにつながりうると語った2015年のAltman氏の発言を引いています。
Paxton氏はこの1年、Meta、TikTok、Snapchat、Robloxにも州の消費者保護法をもとに訴えを起こすか和解しています。いずれも子どもを守る仕組みが足りないという主張でした。今回のOpenAIへの訴訟は、その流れをAIチャットにまで広げたものです。
技術/ビジネス面
今回の訴訟で目立つのは、求めている救済の中身です。報道によると、州は幅広い差し止めを求めています。中心になるのは2点です。
1つ目は、未成年がChatGPTを使えないようにすることです。実現すれば、年齢確認の仕組みが欠かせなくなります。テキサス州のような大きな州で年齢による利用制限がかかれば、OpenAIは州単位で異なる運用を迫られるでしょう。
2つ目は、OpenAIが新しいモデルを出す前に、裁判所が任命した評価者の承認を得ることです。これはモデル公開そのものを裁判所の管理下に置く要求で、これまでのAI規制の議論より一歩踏み込んでいます。連邦レベルではAIの安全基準づくりが進んでおらず、州が訴訟を通じて実質的な規制をかけようとしている形です。
報道では、金銭的な賠償額は明らかになっていません。OpenAIはすぐにはコメントを出しませんでした。州は外部の弁護士として、Ashley Keller氏やTony Buzbee氏を起用しています。
政治的な背景も指摘されています。上院選に出ているPaxton氏の選挙資金は、Elon Musk氏が支えていると報じられました。Musk氏は自社のGrokでChatGPTと競っています。Grokは子どもを含む性的なディープフェイク（AIで作った偽の画像や動画）の生成で批判を受けていますが、テキサス州はMusk氏側に動いていません。一方、カリフォルニア州の司法長官はGrokについて調査を始めています。
これからどうなるか
焦点は、裁判所がどこまで州の要求を認めるかです。モデル公開に事前承認を求める差し止めが認められれば、AI企業の開発スケジュールに直接影響します。他の州が同じ手法をまねる可能性もあり、OpenAI以外の企業にとっても他人事ではありません。
未成年の保護をめぐる訴訟は、ここ数年でSNSからAIチャットへと広がってきました。年齢確認やペアレンタルコントロール（保護者が子どもの利用を管理する機能）の整備は、今後さらに求められるでしょう。
開発者にとっても関係は深い話です。ChatGPTなどのAPIを組み込んだアプリを一般向けに出すなら、利用者の年齢層や危険な相談への対応方針を決めておく必要があります。自殺や暴力に関わる入力を検知して専門窓口へ案内する仕組みは、規制の行方にかかわらず入れておくと安心です。
まとめ
テキサス州は、ChatGPTが州民に害を与えたとしてOpenAIとAltman氏を訴えました。未成年の利用禁止や、新モデル公開前の評価者承認という強い差し止めを求めています。判決の行方によっては、AIモデル公開のあり方が州単位で変わる可能性があります。
参考リンク
アイキャッチ画像: Photo by Ian Harber on Unsplash
