GoogleのAI検索要約機能「AI Overviews」に詐欺の電話番号が表示される問題が発生。AIが不正な情報を収集し、正規の企業情報として提示。利用者は公式サイトで情報を確認する必要があります。

GoogleのAI検索要約に詐欺電話番号が混入、利用者保護が課題に

2024年、Googleの検索結果に表示される「AI Overviews」という機能で、詐欺師による偽の電話番号が表示される問題が報告されています。AI Overviewsとは、検索クエリに対してウェブ上の情報を収集し、AIが要約して提示する機能のことです。従来のリンク一覧ではなく、質問への答えを直接表示します。この機能は便利な一方で、ウェブ上に意図的に配置された不正な情報も収集してしまうという弱点があります。ワシントン・ポスト紙やDigital Trendsなどの報道機関が、FacebookやRedditで報告された事例を確認しました。信用組合や銀行も顧客に注意を呼びかけています。この問題は、AIが情報の真偽を十分に検証せずに提示することで、利用者が詐欺の被害に遭いやすくなることを示しています。

AI Overviewsでの詐欺の仕組み

詐欺の手口は次のように進行します。利用者が企業名を検索して連絡先を探すと、AI Overviewsが電話番号を表示します。しかし、この番号は正規の企業ではなく、詐欺師につながるものです。電話をかけた利用者は、正規の企業だと信じて個人情報や支払い情報を伝えてしまいます。

詐欺師がこれらの偽の電話番号を仕込む方法は完全には解明されていませんが、専門家の推測では、複数の目立たないウェブサイトに大手企業名と偽の番号を掲載していると考えられています。AI Overviewsはこれらの情報を収集する際、十分な検証を行わずに「事実」として提示してしまうのです。

ウェブ上の誤情報自体は新しい問題ではありません。しかし、AI Overviewsの設計が問題を深刻化させています。この機能は利用者に自分で調査することを促すのではなく、情報を「事実」として提示するため、利用者は疑うことなく信じてしまいやすいのです。

背景と経緯

GoogleはAI Overviewsを導入することで、検索体験をより便利にしようとしています。質問に対する答えを直接提示することで、複数のウェブサイトを訪問する手間を省けるという利点があります。しかし、この機能にはこれまでも問題が指摘されてきました。

過去には、AI Overviewsが明らかに間違った情報やナンセンスな内容を表示する事例が報告されています。また、人間のライターが書いた記事の内容を無断で使用しているという批判もあります。今回の詐欺電話番号の問題は、これらに加えて、利用者の安全を直接脅かす新たな課題として浮上しました。

Googleは声明で、スパム検出システムの強化を継続的に行っており、AI Overviewsから詐欺を排除し、可能な限り公式のカスタマーサポート番号を表示するよう努めていると述べています。しかし、問題の報告は続いており、対策が十分に機能しているとは言えない状況です。

他のAIサービスでも同様の問題

この問題はGoogle検索だけに限りません。セキュリティ研究者は、メールや文書に悪意のあるテキストを隠し込むことができることを示しています。AIがこれらを読み取って要約すると、利用者は不正な情報を正確で本物だと受け取ってしまいます。

他のAI検索エンジンでも同様の問題が報告されています。生成AIの性質上、単に情報を繰り返すだけでなく、内容を加工したり補足したりするため、誤った情報が混入しやすいのです。これはAI技術全般に共通する課題と言えます。

できること・できないこと

現在のAI Overviewsは、一般的な質問に対する概要を素早く提示することができます。例えば、休暇のアイデアを探したり、一般的な知識を得たりする用途には便利です。会話的なインターフェースで自然に情報を得られるという利点もあります。

一方で、電話番号や住所などの具体的で正確性が求められる情報については、まだ信頼性に問題があります。AIは情報源の信頼性を完全には判断できず、古い情報や不正な情報を拾ってしまうことがあります。また、現時点ではAI Overviewsを完全にオフにする機能はありません。Googleが表示すると決めた場合、利用者はスクロールして飛ばすか、別の検索エンジンを使うしかありません。

Googleは最近、AI Overviewsの詐欺対策を改善するアップデートを複数展開したと発表していますが、完全な解決には至っていません。同社も利用者に対して、電話番号を追加の検索で二重確認することを推奨しています。

私たちへの影響

このニュースは、Google検索を日常的に使用するすべての人に影響を与えます。特に、企業のカスタマーサポートに連絡する必要がある場合、注意が必要です。

短期的には、AI Overviewsに表示される電話番号や連絡先情報を鵜呑みにせず、必ず企業の公式ウェブサイトで確認する習慣をつけることが重要です。検索結果からAI Overviewsをスクロールして飛ばし、実際の企業ウェブサイトのリンクをクリックして情報を確認しましょう。手間は増えますが、詐欺被害を防ぐためには必要な対策です。

中長期的には、AI検索技術の信頼性向上が課題となります。Googleや他のAI企業が情報検証の仕組みを強化し、不正な情報の混入を防ぐ技術開発を進めることが期待されます。しかし、生成AIの性質上、完全な解決は難しいかもしれません。

ただし、過度に恐れる必要はありません。カスタマーサービスとやり取りする際は、支払い情報や個人情報を伝える前に、相手が本当に正規の企業であることを確認する習慣をつければ、多くの詐欺は防げます。理想的には、電話番号を二度目の検索で確認することをお勧めします。AI技術は便利ですが、重要な情報については従来の方法で確認することが、今のところ最も安全な選択肢です。