●AI検索が「公式窓口」を偽造する時代へ。「LLM電話番号汚染」が生む、新しい詐欺の入り口
(INTERNET Watch)
●〔解説 by ChatGPT〕
生成AIを悪用した新たな詐欺手口「LLM電話番号汚染」が報告されました。詐欺師がウェブ上の公開コンテンツを改ざんし、AI検索やチャットが公式問い合わせ先と誤認する偽の電話番号を多数設置。これにより、AIが利用者に偽の「公式窓口」を提示し、偽コールセンターへ誘導する危険があります。対策として、AIが示した連絡先は公式サイトや正規ルートで必ず確認することが重要です。
(以上、ChatGPTによる要約)
●〔ひとこと by 消費生活アドバイザー〕
AIの詐欺です。嘘の電話番号を案内して消費者を困惑させます。詐欺師はウェブ上の公開コンテンツを改ざんして、AIが「公式の問い合わせ先」と誤認するよう誘導します。生成AIの特徴の一つであるハルシネーション(生成AIが事実に基づかない情報や、存在しない内容をもっともらしく生成してしまう現象のことです)と言われるものもあります。AIが示した情報を鵜呑みにせず、公式サイトなどで正確な情報を改めて確認しましょう。
トラブルに遭ってしまった場合には、消費者ホットライン「188(いやや!)」に相談しましょう。
●〔参考リンク〕
「生成AI」の検索結果
(ケースでわかる 消費者トラブル!)