ここ数年AIによるリアルタイム音声ディープフェイクの潜在的な危険性について警鐘がならされてきました。
その警告が現実のものとなり、香港で衝撃的なディープフェイク詐欺事件が発生しました。一企業の会計担当者が、偽のCFOおよび同僚を装った犯罪者による精巧なビデオ会議を介して、約38億円もの巨額の資金を送金してしまったのです。
事件は、担当者が英国に拠点を置くとされるCFOからのメッセージで始まりました。メッセージは送金を促す内容で、当初は担当者も疑問を抱いていましたが、その後のビデオ会議で「同僚」の見た目と声が現実と一致していたため、初期の疑念は払拭されてしまいました。この信頼が詐欺師たちに利用され、巨額の資金が彼らの手に渡る結果となったのです。
会社の調査と警察の追跡によって、ビデオ会議に登場したCFOや同僚の姿が実はディープフェイクによって作られた偽物であることが明らかになりました。この事実は、AI技術の進化がもたらす新たな脅威を我々に突きつけています。香港警察によれば、ディープフェイクを用いた詐欺は増加傾向にあり、過去数ヶ月の間に複数の逮捕が行われています。
この事件は、ディープフェイク技術が、単にソーシャルメディアの遊びから、組織的な犯罪に利用される段階にまで進化していることを示しています。特に身分証明書が不正に使用され、AIが顔写真を模倣して顔認識システムを騙す事例も増加しています。これはビジネスコミュニケーションにおける信頼性の危機を意味し、企業はこれまで以上に警戒を強める必要に迫られています。
この種の詐欺を防ぐためには、ビデオ会議のセキュリティを強化し、疑わしい取引に対しては二重三重の確認プロセスを設けるべきでしょう。
技術の進歩は私たちの生活を豊かにする一方で、新たなリスクも生み出しています。組織がどのように対処するかが、今後のビジネス環境を大きく左右することになります。