【重要】Character.AIが18歳未満のAIチャットを制限：安全性強化と業界への影響

AIチャットボット「Character.AI」は、18歳未満のユーザーによるAIとのオープンエンドチャットを禁止すると発表した。これは、青少年がチャットボットとのやり取り後に自死に至ったとされる事例や、高まる社会的批判、そしてAI規制の動きに対応するものだ。同社は、会話中心から、物語作成やビジュアル生成といった創造性中心のプラットフォームへの転換を進めている。この決定は、チャットボットの安全性と子供向けAIの利用における業界の新たな基準となる可能性がある。

Character.AI、子供向けAIチャット禁止の背景
段階的なチャット制限と厳格な年齢認証の導入
「会話」から「創作」へ：プラットフォームの転換戦略
高まるAI規制の波とチャットボットの安全性
参考リンク

Character.AI、子供向けAIチャット禁止の背景

AIチャットボット「Character.AI」が、18歳未満のユーザーに対するAIチャット機能の制限を発表した。この背景には、青少年が同社のAIチャットボットとの長期間にわたる会話後に自死したとされる複数の事例があり、これにより同社は訴訟や世論の強い批判に直面していたと報じられている。ニューヨーク・タイムズやCBSニュースなどがこの問題を詳細に伝えている。

Character.AIのカラディープ・アナンドCEOは、18歳未満ユーザーがAIと自由な対話を行う「オープンエンドチャット」を禁止する決定を下したと説明した。これは、AIチャットボット子供の安全性に対する高まる懸念と、企業としての社会的責任を重視した結果である。このような動きは、国内のAIサービス提供企業にも大きな影響を与え、青少年保護のためのガイドライン策定や、技術的な安全対策の見直しを促す可能性がある。

段階的なチャット制限と厳格な年齢認証の導入

Character.AIは、2025年11月25日までに18歳未満のユーザーのチャット利用を段階的に制限し、最終的にはゼロにする計画だ。まず1日2時間までと設定し、その後徐々に利用時間を短縮していく。このCharacter.AI 子供向けサービス終了措置を確実にするため、同社は自社開発の年齢認証ツールに加え、外部のPersonaといったツールを導入する。これらのツールで年齢確認が困難な場合は、顔認識技術やIDチェックも検討するという。

同社は既に、親が子どものAI利用状況を把握できるツール、不適切なキャラクターを排除するフィルター、恋愛的な会話の制限、利用時間通知といった安全対策を講じてきた。公式ブログによると、これらの変更により18歳未満のユーザーベースの一部を失ったとされており、今回のさらなる制限でユーザー離れが進むことも想定している。国内のチャットボット事業者にとっても、このような厳格な年齢認証システムは、コンプライアンス強化とユーザー信頼獲得のための重要な検討事項となるだろう。

「会話」から「創作」へ：プラットフォームの転換戦略

Character.AIは、今回のチャット制限を機に、プラットフォームの根本的な転換を図る。「AIコンパニオン」としての役割から、「ロールプレイングプラットフォーム」へと軸足を移し、ユーザーに「会話」ではなく「創造」を促すことを目指す。具体的には、プロンプトを使って共同で物語を作り出したり、ビジュアルを生成したりする機能が強化される。これにより、ユーザーはAIを創造的なツールとして活用できるようになる。

既に同社は、画像から動画を生成するAvatarFX、インタラクティブな物語体験ができるScenes、キャラクター同士の動的なやり取りを可能にするStreamsといった新機能を提供している。Character.AIはコミュニティフィードも立ち上げ、ユーザーが作成したキャラクターやコンテンツを共有できる場も提供している。アナンドCEOは、18歳未満のユーザーがこれらの新しい体験に移行し、AIゲームやAIショートビデオ、AIストーリーテリングといった分野でプラットフォームを成長させることを期待している。日本国内でもAIを創造性支援ツールとして位置づけ、教育やエンターテイメント分野での活用を模索する動きが活発化する可能性を秘めている。

高まるAI規制の波とチャットボットの安全性

Character.AIの今回の決定は、高まるAI規制の圧力も背景にある。アメリカでは、2025年10月にカリフォルニア州がAIコンパニオンチャットボットを規制する初の州となり、企業に安全性基準の順守を義務付けた。テッククランチが報じたように、これはAIチャットボットの安全性に対する社会的な関心の高まりを示すものだ。さらに、2025年11月には上院議員が未成年者向けAIチャットボットコンパニオンの禁止法案を提出する意向を示しているとNBCニュースが伝えている。

OpenAIのChatGPTも、2025年8月に利用者の自死との関連で訴訟を受けており、テッククランチがその詳細を報じている。このような状況を受け、Character.AIは、娯楽目的のAIにおける安全対策革新のため、独立した非営利組織「AI Safety Lab」を設立し資金提供することを発表した。アナンドCEOは、18歳未満に対するオープンエンドチャットが業界標準として提供すべき製品ではないとの考えを示しており、これはAI 規制の議論が活発化する中で、業界全体のAIチャットボットの安全性基準を向上させる重要な一歩となるだろう。