AIによる偽の領収書生成がもたらす詐欺の新たなリスクとその影響

Contents

概要

今月、ChatGPTは新しい画像生成機能を発表し、テキストを含む画像生成能力を大幅に向上させました。

この技術は、詐欺師によるAIディープフェイクのツールとして悪用され、偽のレストラン領収書を生成するために使われ始めています。

プロのソーシャルメディア投稿者であるDeedy DasがXに投稿したのは、シリコンバレーのステーキハウスの偽の領収書の画像で、これは4oモデルで作成されたと述べています。

他のユーザーも同様の結果を再現し、一部は食べ物や飲み物のシミを加えてよりリアルに見せる試みをしています。

TechCrunchが見つけた中で最もリアルに見える例はフランスからのもので、LinkedInユーザーが地方のレストランチェーンのしわくちゃのAI生成領収書を投稿しました。

TechCrunchも4oを試し、サンフランシスコのApplebee’sの偽の領収書を生成しましたが、いくつかの明らかな偽物の証拠がありました。

たとえば、合計にコンマが使われていることや、計算が合わないことです。

基本的な数学を処理するのが苦手なため、これらの問題が発生するのは驚くことではありません。

しかし、詐欺師が数値を迅速に修正することは容易です。

偽の領収書を生成することは、詐欺の機会を大幅に提供することが明らかです。

このような技術が悪用され、偽の経費を「還付」される状況が想像できます。

OpenAIの広報担当者は、すべての画像には生成元のメタデータが含まれ、ユーザーが利用規則に違反した場合には対処する旨を述べました。

ユーザーにクリエイティブな自由をできる限り与えることがOpenAIの目標であり、偽のAI領収書は、金融リテラシーの教育やオリジナルアートの制作にも使える可能性があると説明しています。