Google DeepMindとシンガポール政府、オンデバイスAIで会話型詐欺を検出する軽量モデルを共同開発

Google DeepMindとシンガポール政府が詐欺検出AIを共同開発

Google DeepMindとシンガポール政府技術庁（GovTech Singapore）が、プライベートチャット上で発生する「会話型詐欺」をリアルタイムに検出するAIモデルを共同開発したと報告されている。公式ブログによれば、同プロジェクトはシンガポールのデジタル・情報通信省（MDDI）との連携のもとで進められた。

クラウドにデータを送らないオンデバイス処理

今回の取り組みで特筆すべき点は、クラウドへのデータ送信をゼロに抑えるオンデバイス処理を採用していることだ。プライベートチャットの内容は極めて機微な個人情報を含むため、外部サーバーへの送信はプライバシー上のリスクを伴う。同モデルでは、Googleが開発した軽量オープンモデルファミリーであるGemmaをベースとしたモデルをデバイス上で直接動作させることで、ユーザーの会話内容を端末の外に出すことなく詐欺の兆候を検出できると説明されている。

「会話型詐欺」への対応

ブログの概要によれば、同システムが標的とするのはチャットアプリ上で展開される「会話型詐欺（conversational scams）」だ。これは、攻撃者が人間を装ってターゲットと継続的にメッセージをやり取りし、信頼関係を構築しながら金銭や個人情報を詐取する手口を指す。従来のキーワードフィルタリングや既存の詐欺検知システムでは捕捉しにくい文脈依存型の詐欺を、LLMベースのモデルが会話の流れごと解析することで検出精度の向上を図るアプローチと報じられている。

軽量モデルで実用性を確保

スマートフォンなどのコンシューマーデバイス上でリアルタイムに推論を実行するには、モデルのサイズや計算量を大幅に抑える必要がある。GemmaはGoogleが公開している軽量モデルシリーズであり、オンデバイスでの利用を想定した設計が特徴だ。今回はシンガポールの詐欺検出ユースケースに向けてファインチューニングが施されたモデルが用いられたと報告されている。詳細な性能指標やモデルサイズなどについては、現時点で公開されている抜粋情報からは確認できない。

政府とAI企業の協業モデルとして注目

本プロジェクトは、国家レベルのサイバーセキュリティ対策にAI企業が深く関与する事例として注目される。シンガポールはデジタル行政の先進国として知られており、GovTechはデジタルサービスの安全性向上に積極的に取り組んでいる。プライバシーを損なわずに詐欺被害を防ぐオンデバイスAIの活用は、今後他国や他プラットフォームへの展開可能性も示唆しており、業界全体の動向を左右するモデルケースとなりうると見られている。

---

出典: Google DeepMind and Singapore Government collaborate to build fine-tuned AI model for scam detection