タイサイバー警察、AIでAI深層偽造詐欺と戦う

タイでは、AIを駆使した深層偽造（ディープフェイク）技術が悪用され、詐欺の手法が巧妙化しています。偽の動画、クローンされた音声、改変された画像などが、人物のなりすまし、詐欺の促進、偽情報の拡散に用いられています。見慣れたメッセージや電話の声が、説得力のある視覚的・聴覚的証拠を伴って現れる可能性があります。

これに対し、タイのサイバー警察は、AI検出ツールを導入し、不審なメディアの調査や改ざんの兆候特定を支援しています。しかし、ディープフェイクの作成者はファイルを改変し、デジタル痕跡を消去し、合成コンテンツを迅速に改善できるため、偽造の証明は依然として困難です。

AIによるディープフェイクは、AIを用いて動画、音声、画像を本物らしく作成または改変します。改変された動画は、公人が実際には言っていないことを発言しているように見せかけることができます。合成音声は個人の声を模倣し、AI生成画像は実在の人物を偽の場面に配置することが可能です。

タイにおけるリスクは、これらの偽造が既存の犯罪を強化する形で現れていることです。例えば、家族の声そっくりの音声で緊急の送金を要求する詐欺や、政府関係者を装った偽の公式発表で混乱を引き起こすケースなどが報告されています。タイ国民は、見慣れた顔、タイ語、現地のアクセント、認識できる機関が関わる偽情報に信頼を置いてしまう傾向があります。

政治的な偽情報も危険であり、特に選挙や危機的状況下で拡散される可能性があります。ディープフェイクは、なりすまし、詐欺、嫌がらせ、虚偽情報の拡散といった既存の犯罪を、より説得力のあるものに変えています。

サイバー警察は、AI検出ツールを用いて、不審な動画、音声、画像を人間単独よりも迅速に分析しています。これらのシステムは、改ざんの兆候を大規模なデータからスキャンし、どのファイルが詳細な検査を必要とするかを判断するのに役立ちます。しかし、検出は第一歩に過ぎず、コンピューター生成のリスクスコアが直ちに犯罪の発生や作成者の特定を証明するわけではありません。

AI検出ツールは、顔の動き、リップシンク、画質、通常の視聴では明らかにならないパターンを調べます。音声分析でも同様のプロセスが行われ、AIは声のパターン、ピッチ、タイミング、発音などを検証済みの録音と比較します。しかし、最新の生成ツールは多くの視覚的な手がかりを減らしたり隠したりすることができ、検出ソフトウェアは通常、自動的な法的証拠ではなく、確率またはリスク評価を生成します。

タイのサイバー警察は、証拠保全のため、オリジナルファイルやメッセージの保存、アカウント名の記録、投稿リンクのコピー、取引明細の保持といった、被害者による早期の報告と証拠保全を強く求めています。

情報源: Chiang Rai Times