トランプ米大統領は9月29日、政府サービスの案内用AIチャットボット「America.gov」の立ち上げを発表しました。数万にのぼる政府サイトを一つの窓口にまとめる構想です。Googleが提携先で、同社のAIモデルGeminiが関わっています。便利さの裏で、AIの誤答が生活に響くリスクも指摘されています。
背景と文脈
米国の行政情報は、省庁ごとに分かれたサイトに散らばっています。ビザの更新、税の申告、食料支援の申請など、手続きごとに探す場所が違います。トランプ氏はX（旧Twitter）で、「数万の政府サイトと規則の迷路をたどる代わりに、あらゆる質問に答える一つの入口ができる」と述べました。
行政サービスの案内をAIに任せる動きは、各国で進んでいます。問い合わせの多い定型質問を自動化すれば、窓口の負担が減ります。市民にとっても、専門用語だらけの制度説明を対話形式で読める利点があります。
一方、米国政府のAI利用には、慎重論も根強く残っています。米CNNは最近、米軍が中国船を核兵器の部品を運ぶ船と見て、武力行使の直前まで進んだと報じました。実際は、AIが作り出した誤情報（ハルシネーション）が原因で、作戦は土壇場で中止されたといいます。
技術/ビジネス面
技術面で問題になるのは、LLM（Large Language Model、大規模言語モデル）の誤答です。LLMは、もっともらしい文章を作る能力に優れています。しかし事実確認が得意とは限りません。存在しない制度や、古い期限をそれらしく答えてしまうことがあります。
行政の案内では、この誤りが直接の損害につながります。食料支援の申請条件、ビザ更新の期限、税の申告方法などです。間違いに気づかず行動すれば、期限切れや給付の否認、追徴金といった結果を招きかねません。America.govが核戦争を引き起こすことはないとしても、個人には深刻な影響が出ます。
現時点で公表されているのは、Googleが提携先でGeminiが関わるという点だけです。ほかのAI企業が参加しているかどうかは、はっきりしていません。回答の根拠をどう示すのか、誤りをどこに報告するのかといった運用の詳細も、まだ見えません。
公共分野のチャットボットで見ておきたいのは、責任の所在です。民間のサービスなら、誤答は利用規約で免責されることが多くあります。しかし政府の窓口では、誤った案内による不利益を、誰がどう補償するのかが曖昧になりがちです。制度の設計段階で、案内に従った市民が不利にならない救済策を用意する必要があります。
プライバシーも論点です。税や福祉の相談には、収入や家族構成といった機微な情報が含まれます。入力内容を、モデルの学習に使うのか、どこに保存するのかは、利用者が最も気にする点でしょう。発表時点では、これらの扱いは明らかになっていません。
これからどうなるか
成否を分けるのは、回答の出典表示と誤り対応の仕組みです。一次情報の公式ページへのリンクを必ず添える設計なら、利用者は確認できます。逆に、答えだけを断定的に返す設計だと、誤りに気づく機会が失われます。公開後の誤答率の報告と、訂正の速さが評価の軸になるでしょう。
開発者にとっては、RAG（Retrieval-Augmented Generation、検索拡張生成：外部の文書を検索して回答の根拠にする手法）の実務に直結する話です。社内ヘルプボットや顧客サポートを作るなら、回答に出典を付ける、確信が低いときは人間に引き継ぐ、といった安全設計が欠かせません。公共サービス規模の事例は、その設計の良い教材になります。
日本の読者にとっても、他人事ではありません。自治体や官公庁が、生成AIによる問い合わせ対応を試す例は増えています。America.govの運用で見つかる課題は、そのまま国内の設計にも当てはまります。出典の表示、更新日の明示、担当窓口への引き継ぎ導線といった基本を、最初から組み込めるかが問われます。
加えて、利用者側の心構えも大切です。チャットボットの回答は、あくまで案内の出発点として扱うのが安全です。期限や金額に関わる情報は、リンク先の公式ページで必ず確認するようにします。周囲の高齢者や、行政手続きに不慣れな人にも、その習慣を伝えておくとよいでしょう。
まとめ
米政府はGoogleと組み、政府サービスの総合窓口となるAIチャットボットを始めます。使いやすさが増す反面、誤答が申請や納税に影響するリスクがあります。出典の提示と誤り対応の設計が、信頼を左右します。公開後の運用実績が次の注目点です。
参考リンク
アイキャッチ画像: Photo by Jeriden Villegas on Unsplash
