
スマホの中で詐欺に気づくAI|Gemmaを使ったシンガポールの取り組み

Google DeepMindとシンガポール政府のデジタル庁にあたるGovTech Singaporeは、2026年10月14日、スマートフォンの中で動く詐欺検知のAIモデルを開発したと発表しました。
Googleの軽量なAIモデル「Gemma」を、シンガポールの詐欺の会話で学習させたもので、怪しい会話に気づくと、お金や個人情報を渡す前に一度立ち止まるよう警告します。
この記事の要点
AIがスマホの中だけで動き、会話の内容を外部に送らない
軽いチェック → 詳しいチェック、の 2段構え で、電池の消費と誤った警告を抑える
精度の数値はまだ公表されていない。Android向けの試験版アプリが公開され、モデルの組み込みはこれから試す段階
専門的な用語の補足は、記事の最後の「もう少し詳しく」にまとめています。
なぜ「スマホの中」で動かすの?
シンガポールでは、詐欺が届け出のある犯罪の半分以上を占め、2019年以降の被害額は40億シンガポールドルを超えるとされています。損失の最大80%は、相手をだまして信じ込ませる「ソーシャルエンジニアリング」型の詐欺によるものです。
詐欺のメッセージを見つけるには、会話の中身を読む必要があります。でも、メッセージをインターネットの向こうのサーバーに送って調べると、プライバシーが心配です。
そこで今回のモデルは、スマホの中だけで動く ように作られました。発表によると、この仕組みではシンガポール政府もGoogleも、利用者の会話を見ることはできません。利用者が同意し、組み込むアプリの規約の範囲内でだけ動きます。

2段構えで、電池にも正確さにもやさしく
スマホの中でAIを動かすときの悩みは、電池と計算の力に限りがあることです。そこで、チェックを2段に分けています。
第1段(見張り役):とても軽い分類のAIが、届いたメッセージをざっと確認します。電池をほとんど使いません。
第2段(確認役):怪しいと判断されたときだけ、学習させたGemmaが会話の流れを広めに読み、本当に詐欺なのか、誤った警報なのかを判断します。
詐欺だと確認できたら、スマホの中で警告を出し、「お金や大切な情報を渡す前に、一度立ち止まりましょう」と知らせます。


どうやって“地元の詐欺”に詳しくなったの?
詐欺の手口は、国や地域ごとに違います。そこでGemmaを、シンガポールの詐欺の会話で追加学習(ファインチューニング)させました。
対象は、投資詐欺、偽の求人、公的機関になりすます詐欺など
公的機関や銀行、地元の有名人をかたる手口も学習
学習データは詐欺の通報や情報提供から集め、匿名化したもの。個人を特定できる情報は除いた
学習は、GovTechが管理するクラウド環境の中で行われた
その後、合成した会話や地元の会話データを使って、さまざまな手口で試したとしています。
発表の時点では、アプリへの導入は段階的に進めるとされていました。その後、DeepMindのブログに追記があり、GovTechが次の段階として、シンガポールのAndroid利用者向けに試験版(オープンベータ)のアプリ「Anti-Scam Pango」を公開したとされています。このアプリは共同研究の知見を使い、会話を端末の中にとどめたまま怪しいメッセージを知らせます。今回の軽量モデルの組み込みは、試験版の期間中に両者で試していくと説明されています。

まとめ
Google DeepMindとシンガポール政府は、スマホの中だけで動く詐欺検知AIを開発した
軽い見張り役と、Gemmaによる確認役の2段構えで、電池の消費と誤った警告を抑える
地元の詐欺の会話を匿名化して学習し、会話の内容は端末の外に出さない
精度の数値は未公表。Android向けの試験版アプリが公開され、モデルの組み込みはこれから試す段階
もう少し詳しく
【Tips】オンデバイスAIとは
AIを動かす場所には、大きく分けて「クラウド(インターネットの向こうのサーバー)」と「オンデバイス(手元の端末)」があります。
クラウドは大きなAIを使える一方、データを送る必要があります。オンデバイスはデータを手元に残せますが、使える計算の力や電池に限りがあります。今回のように、軽いAIで常に見張り、必要なときだけ少し大きなAIを動かす作り方は、この制約の中でバランスを取る工夫です。
【Tips】ファインチューニングとは
すでに一般的な文章を学んだAIモデルに、特定の目的のデータを追加で学ばせることです。今回は、言葉を幅広く理解できるGemmaに、シンガポールの詐欺の会話を学ばせることで、地元の手口に気づけるようにしています。
「ミナとリカのAI論文解説」では、AIのニュースや研究を、図と会話で「何ができて、どこまで分かったか」に分けて紹介しています。次の記事も読みたい方は、フォローしていただけるとうれしいです。
ほかの解説は、マガジン「AI論文とAIニュースをやさしく解説」にまとめています(https://note.com/mina_rika_papers/m/m159a63e7896c)。
出典
Google DeepMind ブログ(2026年10月14日公開、11月5日更新。11月6日確認)「Google DeepMind and Singapore Government collaborate to build fine-tuned AI model for scam detection」 https://deepmind.google/blog/on-device-ai-scam-detection-mddi/
数値・内容はいずれも発表者の報告で、制作側が検証したものではありません。記事中の図は制作側の説明図です。