監視カメラ企業Flock Safetyの共同創業者であるGarrett Langley氏は、10月14日のTechCrunch Disruptで、同社の音声検知製品は「銃声だけ」を検知すると述べました。しかしTechCrunchの報道によると、同社の公式サイトは、暴走行為や重大事故、花火の検知にも言及しています。登壇の場には抗議する人々も集まりました。AIによる街頭の音声監視を巡り、企業の説明と実際の機能の差が問われています。
背景と文脈
Flockは、街に設置したカメラや車のナンバー読み取り装置で知られる監視企業です。問題の製品は「Gunshot Detection」で、近隣の環境音を聞き取り、銃声を検知して公共の安全に関わる事態の「早期の把握」につなげるとされています。昨年発表され、すぐに反発を受けました。
発表時、Flockはこの技術が「悲鳴」も聞き取ると説明していました。プライバシー団体は、人の声を聞き取る点を強く批判しています。その後、同社は表現を「人が助けを求める音」に改めました。さらに、助けを求める音の検知機能は利用者から取り下げたと、Flockは説明しています。
背景には、監視技術に対する世論の変化があります。ナンバープレートを読み取る企業などへの不安が広がり、サンフランシスコの会場前にも抗議者が集まりました。顧客の自治体にとって、導入判断の材料となる情報の正確さは、これまで以上に重要になっています。
技術/ビジネス面
Langley氏は、銃声を聞いて911に通報する人は多くないため、この製品を作ったと説明しました。駐車場に設置した一部の顧客から、誘拐や暴行も検知できないかという要望が出たそうです。論理的に思えたので試作し、少数の顧客に提供したところ、多くの懸念が寄せられたと述べています。
同氏は誤りを認めつつ、現在は銃声のみに絞っていると主張しました。「銃が鳴れば通知し、それ以外は聞かない」という説明です。公式サイトとの食い違いを問われても、「銃声だけだ」と繰り返しました。
一方、公式サイトは、銃声を即座に特定できるとしています。加えて、暴走行為の兆候を早期に検知する用途や、重大事故をリアルタイムで見つける用途を挙げています。車の衝突や花火、サイドショー（車で行う違法な集会走行）に対する通知も、サイトに記載されています。
Flockの広報担当者は取材に対し、技術は主に銃声の検知に使うが、花火やサイドショー、車の事故の可能性も検知できると回答しました。会話の監視や発話の分析のために設計されたものではないとも述べています。CEOの発言は、会話を聞かないという点を強調する意図だったという説明です。
これからどうなるか
焦点は、機能の範囲を誰が確認できるかです。銃声検知は、音の特徴から分類するAIモデルが担います。モデルは「銃声か、そうでないか」だけを出力する設計にできますが、複数の音を分類できる製品なら、技術的には検知対象を広げられます。範囲を決めるのは、設定と運用のルールです。
開発者の視点では、センサーやAIを組み込んだ製品を作るとき、機能の説明を一貫させる重要性を示す事例です。営業資料、公式サイト、経営者の発言が食い違うと、技術の中身より先に信頼が損なわれます。音声や映像を扱うなら、取得するデータと検知対象を仕様に明記し、変更の履歴を残す設計が求められます。
導入側の自治体にも、確認の責任が生まれます。契約時に検知対象の一覧、録音データの保存期間、第三者による検証の可否を確認することが、住民への説明責任につながります。
過去の経緯も重要です。悲鳴の検知から「助けを求める音」への言い換え、さらに機能の取り下げと、説明は何度も変わってきました。説明が変わるたびに、利用者は何が実際に動いているのかを確かめ直す必要があります。第三者による監査や、検知対象を固定する契約条項といった仕組みがなければ、信頼を取り戻すのは難しいでしょう。
日本でも、防犯カメラや音声センサーの活用は広がっています。個人情報保護の観点から、取得する音声の範囲をどう定めるかは、国内の自治体や事業者にとっても他人事ではありません。海外の事例から、説明すべき項目を学べます。
まとめ
FlockのCEOは「銃声だけ」と述べましたが、公式サイトは事故や花火の検知も掲げています。同社は広報を通じて機能の幅を認めました。AI監視では、何を検知するかの明確な説明が、技術そのものと同じくらい重要です。
参考リンク
アイキャッチ画像: Photo by Kalei de Leon on Unsplash
