OpenAIは2025年10月17日、同社のAI動画生成モデル「Sora」について、故マーティン・ルーサー・キング・ジュニア氏など著名人の肖像を模した動画の生成を停止したと発表しました。キング牧師の遺族からの要請を受け、一部ユーザーによる不適切なAI生成動画の横行が問題視されたためです。生成AI技術の進化に伴うAI倫理や肖像権、フェイク動画への懸念が高まる中、OpenAIはSora規制を強化し、その危険性対策に取り組む姿勢を示しています。
OpenAI Sora、著名人AI動画生成を停止
OpenAIは2025年10月17日、AI動画生成モデル「Sora」における著名人の肖像模倣動画の生成を一時停止しました。故マーティン・ルーサー・キング・ジュニア氏の遺族からの要請がきっかけです。一部ユーザーが同氏のイメージを「不適切に描写」した動画を生成したと報じられています。
OpenAIは公式Xアカウントで「歴史上の人物を描写する表現の自由は重要だが、最終的には著名人やその家族が自身の肖像の使用方法を管理すべき」との見解を示しました[1]。今後は、公認の代理人や遺産管理者が、Soraでの肖像利用停止を要請できるようになります。このSora規制強化は、AI生成動画の利用規約に対するOpenAIの積極的な対応を物語っています。
Soraは数週間前の2025年9月下旬にサービスを開始したばかりです。リアルなAI生成動画を手軽に作成できることから、歴史上の人物だけでなく、友人や自身の肖像を模したコンテンツも生成可能でした。しかし、その手軽さがAI生成動画の危険性と共に、倫理的な課題や規制の必要性に関する議論を加速させていました。
不適切なAI生成動画の横行と肖像権問題
OpenAIがSoraによる著名人AI動画生成の停止に踏み切った背景には、不適切なコンテンツの横行があります。ワシントン・ポスト紙は2025年10月上旬、Soraユーザーがキング牧師に「猿の鳴き声」をさせたり、公民権運動の指導者マルコムXとレスリングする動画を生成したりしたと報じました。
キング牧師の娘、バーニス・キング氏は2025年10月上旬にInstagramで、父親を模したAI動画の送信停止を求める投稿をしました。故ロビン・ウィリアムズ氏の娘も同様の要請をSoraユーザーに送っています。Soraアプリ内では、画家ボブ・ロス氏や歌手ホイットニー・ヒューストン氏、ジョン・F・ケネディ元大統領など、他の歴史上の著名人を模した粗悪なフェイク動画が容易に見つかる状況でした。
これらの事例は、AI生成動画が引き起こす肖像権侵害や名誉毀損といった深刻な法的・倫理的課題を浮き彫りにしています。個人の尊厳保護やパブリシティ権の観点から、AI生成動画の危険性は社会的な対策が急務となっています。また、スポンジ・ボブやサウスパーク、ポケモンといった著作物に関するAI動画も多数存在し、著作権侵害の懸念も広がっています。
OpenAIのSora規制強化とAI倫理への取り組み
OpenAIはSoraのローンチ以来、数々のSora規制を強化してきました。2025年10月上旬には、著作権所有者に対し、自身の肖像を用いたAI動画生成についてより詳細な制御権を与える計画を発表しています。これは、ハリウッド業界からのSoraへの当初の反応が芳しくなかったことへの対応と見られます[2]。
一方で、OpenAIはコンテンツモデレーションに関して異なるアプローチも示しています。同社は2025年10月中旬に、成人ユーザーがChatGPTで「エロティックな」チャットを今後数ヶ月で許可する方針を明らかにしました。これは、AIツールの種類に応じて異なるAI倫理基準が適用される可能性を示唆しています。
Soraに関して、OpenAIはAI動画生成がもたらす懸念に直面しています。OpenAIの研究者の中には、同社の初のAI搭載ソーシャルメディアプラットフォームが非営利団体としてのミッションにどう適合するかを巡り、内部で議論が交わされていたとされます[3]。CEOのサム・アルトマン氏も、Soraのローンチ時に「不安」を感じていたことを認めています。同社はChatGPTで得た経験をSoraにも応用し、技術の普及と同時に倫理的な課題への対策を模索しているようです。
生成AIの進化と規制のバランス、今後の課題
生成AI技術は目覚ましい進化を遂げており、Soraのような高度なAI動画生成モデルは新たな表現の可能性を広げます。しかし、その一方で、今回のようなフェイク動画や肖像権侵害の問題は、AI倫理と規制のバランスの重要性を改めて提示しています。技術開発と社会的な許容範囲の間でいかに適切な「ガードレール」を設けるかが、今後の主要な課題となります[4]。
特に、日本国内においても生成AIの社会実装が進む中で、法的枠組みの整備やプラットフォーム事業者の責任、そしてユーザーのリテラシー向上が求められます。安易な生成AI利用が思わぬリスクを招くことを国民に広く周知し、適切な利用ガイドラインを策定する必要があるでしょう。AI生成動画の危険性対策には、技術的な対応だけでなく、教育と法制度の両面からのアプローチが不可欠です。
OpenAIは「世界に新しいテクノロジーを広める最善の方法は、実際に世に出すことだ」という哲学に基づき、Soraからも多くを学んでいるようです。今後のSora規制の動向や、AI倫理に関するOpenAIの更なる取り組みは、生成AI業界全体の方向性を左右する重要な指標となるでしょう。
