ビデオ通話で著名人が話しているように見せかける手口も

田代　生成AI（人工知能）が当たり前の世の中になってきて、詐欺に悪用する例も出てきました。

テスタ　まだ画像レベルが多いですが、動画で僕や森永さんが本当にしゃべって勧誘しているように見えるものが出てきたら、今までだまされなかった人もだまされる恐れがあります。詐欺の手口は巧妙化して進化していくから、自分が今のまま止まっていたら付いていけなくなる。詐欺の最新手口を常に意識しておかないと被害に遭う可能性はありますね。

テスタさん

田代　今のところ有名人や著名人をかたった詐欺がメインですが、証券会社の名前をかたった詐欺も出てきていますよね。

森永　詐欺被害を防止する方法として、僕は相手方から名刺を渡されたら会社名を金融庁のホームページで（金融商品取引業者など）登録業者かどうか検索するよう伝えています。だけど、実際の詐欺では、登録業者の名前を勝手に使って詐称している例があり、僕の伝えた通りに金融庁のHPで調べると社名が載っているのでかえってだまされるパターンもありました。

　生成AIはすでに動画生成にも使われるレベルになっています。詐欺グループが（AIで偽の映像や音声を作ることができる）ディープフェイクを使ってLINEのビデオ通話で僕がリアルタイムで話をしているように見せかけてだます例も出てきています。

　詐欺グループのLINEチャットにあえて登録してやり取りをしたことがありますが、昨年ぐらいまではグループチャットで「本当に森永さんなんですか？　ビデオ通話をしてください」と送ると、グループから追い出されてしまいました。だけど、今年からは「いいですよ」と返事が来て、「僕」とビデオ通話ができるんです。

　僕やテスタさんはYouTubeでいくらでもしゃべっているので、動画や音声のデータはたくさんあります。受け答えはAIが相手側の言葉を聞いて、チャットボットが自動的に文章を作って、それを僕の声で読ませているだけのようです。

　まだクオリティが高くなくてちょっとレスポンスに遅れがあるのですが、LINEのビデオ通話は電波状況によってはちょっとがたつくじゃないですか。その応答ラグがリアルに見えて逆に引っかかってしまったと被害者の方から聞きました。その技術力を詐欺以外に使えよと思います。

田代　そこまでいくと、どう対応したらいいか分からなくなりそうですね。

有名人は投資スクールをしていない

森永　僕もテスタさんも堀江さんもそうでしょうが、基本的に投資スクールをしていません。まずは前提を知ってもらいたいです。

テスタ　僕もX（旧ツイッター）のプロフィールにそういうものはしてないと書いているから、ちょっと調べれば分かると思います。

「このLINEは本物ですか」という問い合わせをいただくのですが、僕は知らない方と個別に LINEすることや、見知らぬLINEグループに入ることはありません。新しく投資を始める人が市場に入ってきているから、これからも定期的にそういう情報を発信していかないといけないと思います。