サンフランシスコのスタートアップ「DetectifAI」は、通話中の音声がAIで生成された偽物かどうかをその場で見抜く技術を開発しています。創業者のTarini Padmanabhuni氏は、祖父が「誘拐された」と偽った電話にだまされ、身代金を送金してしまった経験がきっかけで起業しました。声は本物の弟そっくりに合成されており、祖父には見抜く手立てがなかったといいます。DetectifAIの技術はすでにインドの金融機関で月10万件超の通話分析に使われており、10月のTechCrunch Disruptへの登壇も決まっています。
背景と文脈
Padmanabhuni氏は12歳からAI開発に携わり、インドのマニパル工科大学でサイバーフィジカルシステムを学んだ経歴を持ちます。祖父が受けた電話は、本物の弟をかたる人物からのもので、「誘拐した、身代金を払わなければ危害を加える」という内容でした。祖父は疑うことなく送金し、後になって弟が無事だったこと、そして電話の声がAIによる合成音声だったことが判明します。
Padmanabhuni氏は当時を振り返り「私の心に残ったのは、お金のことではありません。祖父には、その声を見抜く手立てが何もなかったということです」と語っています。この出来事から約2年後、同氏はDetectifAIを立ち上げました。背景には、音声詐欺の被害が急拡大している現実があります。米国内だけでも、AIを使った詐欺による被害額は直近1年間で約9億ドルに達し、前年から24%増えました。60代以上の高齢者の被害額は50代の2倍にのぼり、家族の声を装った詐欺の標的になりやすい実態が浮かび上がります。電話越しの声だけでは本人確認ができないという、これまで意識されてこなかった弱点が、AI音声合成の進歩によって一気に表面化した格好です。
技術/ビジネス面
DetectifAIが選んだ技術的なアプローチは、クラウドではなく端末そのものにAIモデルを組み込む方式です。通話や音声メッセージの音声データを外部サーバーに送らず、スマートフォンのOS内で完結する小型のAIモデルが、リアルタイムで声の真偽を判定します。音声データが端末の外に出ないため、通信の遅延を気にせず、プライバシーの懸念も抑えられる設計です。
主力製品は、スマートフォンメーカー向けにライセンス提供するSDK（Software Development Kit、他社のアプリやOSに機能を組み込むための開発キット）で、端末メーカー側が自社製品に検知機能を標準搭載できるようにしています。すでにインドの金融機関向けには月10万件を超える通話の分析実績があり、実運用に耐える精度とスピードを確認済みです。クラウド型の検知サービスに比べ、通信環境が不安定な地域でも安定して動く点も、金融機関に評価されている理由のひとつだといいます。資金面では、元TechCrunch編集者のJosh Constine氏や、Manohar Kamath氏からシード資金を調達しています。10月13日から15日に開催されるTechCrunch Disruptのスタートアップ・バトルフィールドにも出場が決まっており、より広い投資家層への露出を狙う段階に入っています。
これからどうなるか
音声詐欺は、家族の声を模倣できるAI音声合成技術の精度が上がるほど、被害が拡大しやすい構造を持っています。DetectifAIのような検知技術が普及するかどうかは、スマートフォンメーカーがSDKを標準搭載するかにかかっており、業界全体での採用が進むまでは、個人ごとの警戒に頼らざるを得ない状況が続くでしょう。
開発者にとっても、この分野は無関係ではありません。音声インターフェースを使う自社サービスやコールセンターの自動応答システムを開発する際には、なりすまし音声への対策を設計段階から組み込む発想が求められるようになりそうです。端末上で完結する軽量なAIモデルという設計は、通信コストを抑えつつリアルタイム性を確保したいエッジAI（クラウドを介さず端末側で処理を行うAI）開発の参考例にもなります。今後は、DetectifAIが実際にどのスマートフォンメーカーと提携するか、そして精度がどこまで一般公開されるかが焦点です。
まとめ
DetectifAIは、音声ディープフェイク詐欺の被害を防ぐ端末内蔵型の検知SDKを開発しています。創業のきっかけは、創業者自身の祖父が被害に遭った経験です。AI詐欺による被害額が急増するなか、検知技術の実装がどこまで広がるかが今後の課題になります。
参考リンク
アイキャッチ画像: Photo by Elena Mozhvilo on Unsplash
