メインコンテンツへスキップ
見出し画像

スマホの中で詐欺に気づくAI|Gemmaを使ったシンガポールの取り組み

    ミナ「先生、スマホの中で詐欺のメッセージを見抜くAIができたんだって! でも、メッセージをどこかに送って調べるの?」 リカ「いい質問だね。今回のAIは、会話をスマホの外に出さずに、スマホの中だけで判断するのがポイントなんだ。」

    Google DeepMindとシンガポール政府のデジタル庁にあたるGovTech Singaporeは、2026年10月14日、スマートフォンの中で動く詐欺検知のAIモデルを開発したと発表しました。

    Googleの軽量なAIモデル「Gemma」を、シンガポールの詐欺の会話で学習させたもので、怪しい会話に気づくと、お金や個人情報を渡す前に一度立ち止まるよう警告します。

    この記事の要点

    • AIがスマホの中だけで動き、会話の内容を外部に送らない

    • 軽いチェック → 詳しいチェック、の 2段構え で、電池の消費と誤った警告を抑える

    • 精度の数値はまだ公表されていない。Android向けの試験版アプリが公開され、モデルの組み込みはこれから試す段階

    専門的な用語の補足は、記事の最後の「もう少し詳しく」にまとめています。


    なぜ「スマホの中」で動かすの?

    シンガポールでは、詐欺が届け出のある犯罪の半分以上を占め、2019年以降の被害額は40億シンガポールドルを超えるとされています。損失の最大80%は、相手をだまして信じ込ませる「ソーシャルエンジニアリング」型の詐欺によるものです。

    詐欺のメッセージを見つけるには、会話の中身を読む必要があります。でも、メッセージをインターネットの向こうのサーバーに送って調べると、プライバシーが心配です。

    そこで今回のモデルは、スマホの中だけで動く ように作られました。発表によると、この仕組みではシンガポール政府もGoogleも、利用者の会話を見ることはできません。利用者が同意し、組み込むアプリの規約の範囲内でだけ動きます。

    クラウドで調べる方法と、スマホの中で調べる方法の比較
    制作側の説明図です。

    2段構えで、電池にも正確さにもやさしく

    スマホの中でAIを動かすときの悩みは、電池と計算の力に限りがあることです。そこで、チェックを2段に分けています。

    1. 第1段(見張り役):とても軽い分類のAIが、届いたメッセージをざっと確認します。電池をほとんど使いません。

    2. 第2段(確認役):怪しいと判断されたときだけ、学習させたGemmaが会話の流れを広めに読み、本当に詐欺なのか、誤った警報なのかを判断します。

    詐欺だと確認できたら、スマホの中で警告を出し、「お金や大切な情報を渡す前に、一度立ち止まりましょう」と知らせます。

    見張り役→確認役→警告、の2段構え
    制作側の説明図です。
    ミナ「いつも全力で調べるんじゃなくて、怪しいときだけ詳しく見るんだね!」 リカ「そうなんだ。そうすると電池を節約できるし、普通の会話に何度も警告が出るのも防ぎやすくなるよ。」

    どうやって“地元の詐欺”に詳しくなったの?

    詐欺の手口は、国や地域ごとに違います。そこでGemmaを、シンガポールの詐欺の会話で追加学習(ファインチューニング)させました。

    • 対象は、投資詐欺、偽の求人、公的機関になりすます詐欺など

    • 公的機関や銀行、地元の有名人をかたる手口も学習

    • 学習データは詐欺の通報や情報提供から集め、匿名化したもの。個人を特定できる情報は除いた

    • 学習は、GovTechが管理するクラウド環境の中で行われた

    その後、合成した会話や地元の会話データを使って、さまざまな手口で試したとしています。

    発表の時点では、アプリへの導入は段階的に進めるとされていました。その後、DeepMindのブログに追記があり、GovTechが次の段階として、シンガポールのAndroid利用者向けに試験版(オープンベータ)のアプリ「Anti-Scam Pango」を公開したとされています。このアプリは共同研究の知見を使い、会話を端末の中にとどめたまま怪しいメッセージを知らせます。今回の軽量モデルの組み込みは、試験版の期間中に両者で試していくと説明されています。

    ミナ「じゃあ、もうシンガポールのみんなのスマホで使えるの?」 リカ「まだ試験の段階だよ。Android向けに試験版アプリが公開されて、今回のモデルの組み込みはこれから試すよ。どのくらい正確に見抜けるかの数値も、まだ公表されていないよ。」

    まとめ

    • Google DeepMindとシンガポール政府は、スマホの中だけで動く詐欺検知AIを開発した

    • 軽い見張り役と、Gemmaによる確認役の2段構えで、電池の消費と誤った警告を抑える

    • 地元の詐欺の会話を匿名化して学習し、会話の内容は端末の外に出さない

    • 精度の数値は未公表。Android向けの試験版アプリが公開され、モデルの組み込みはこれから試す段階


    もう少し詳しく

    【Tips】オンデバイスAIとは

    AIを動かす場所には、大きく分けて「クラウド(インターネットの向こうのサーバー)」と「オンデバイス(手元の端末)」があります。

    クラウドは大きなAIを使える一方、データを送る必要があります。オンデバイスはデータを手元に残せますが、使える計算の力や電池に限りがあります。今回のように、軽いAIで常に見張り、必要なときだけ少し大きなAIを動かす作り方は、この制約の中でバランスを取る工夫です。

    【Tips】ファインチューニングとは

    すでに一般的な文章を学んだAIモデルに、特定の目的のデータを追加で学ばせることです。今回は、言葉を幅広く理解できるGemmaに、シンガポールの詐欺の会話を学ばせることで、地元の手口に気づけるようにしています。


    「ミナとリカのAI論文解説」では、AIのニュースや研究を、図と会話で「何ができて、どこまで分かったか」に分けて紹介しています。次の記事も読みたい方は、フォローしていただけるとうれしいです。

    ほかの解説は、マガジン「AI論文とAIニュースをやさしく解説」にまとめています(https://note.com/mina_rika_papers/m/m159a63e7896c)。


    出典

    数値・内容はいずれも発表者の報告で、制作側が検証したものではありません。記事中の図は制作側の説明図です。

     
     
    論文から読み解く、AIのいま。AI論文を中心に、注目のAIニュースもミナとリカがやさしく解説。図解と会話で、仕組み・実験結果・できることと限界を整理します。原論文などの出典も紹介。YouTubeでは動画解説を発信しています。

    あなたへのおすすめ