その動画、本物？偽物？ディープフェイクの脅威

　「ディープフェイク」とは「ディープラーニング（Deep-Learning、深層学習）」と「フェイク（Fake、偽物）」を合わせた造語で、AI技術を使って、人物の動画や音声を人工的に合成する技術のことです。人物の顔や動き、声のトーンや言葉遣いをAIに学習させることで、まるでその人が映像に出演しているように演出することができます。

　ディープフェイクは、もともとは映画やドラマなどエンターテインメント分野において、CG制作や撮影の負担を減らすために生まれた映像加工技術です。動画サイトでは“ジョーク（冗談）”の一環として利用されるケースも見られ、たとえば2021年には、ハリウッド俳優のトム・クルーズ氏のディープフェイク動画がTik-Tokにアップされ、世界中で大きな話題となりました。

　この動画は、トム・クルーズ氏のものまね芸人であるマイルズ・フィッシャー氏と、映像作家のクリス・ウメ氏がタッグを組んで制作したもので、内容はトム・クルーズ（の偽物）が踊るだけというシンプルなものです。ウメ氏は動画について「騙そうとしたわけではない」と、動画には悪意がないことを主張しています。

　しかし、この動画が生まれてからすぐ、ディープフェイクは犯罪の手段のひとつとして悪用されています。

　代表的な悪用の手口のひとつが、有名人になりすまし、実際には本人が発言していないことを発言したように見せかけて、世間を混乱させようとするものです。2022年3月には、ウクライナのゼレンスキー大統領が、同国の兵士や住民にロシア側への投降を呼びかけるニセ動画が、Facebookに投稿されました。

　続く2023年11月には、ウクライナ軍の総司令官がゼレンスキー大統領を批判し、軍事蜂起を呼びかける動画が拡散されましたが、これもディープフェイクによるニセ動画であることが判明しました。

　アメリカでもディープフェイクによる混乱が起きています。2023年5月には、バージニア州の国防総省（ペンタゴン）の付近で爆発が発生したとされる動画がSNSで拡散されました。同省はその情報を否定したものの、ニューヨーク株式市場では、一部の株価が急落するなど、企業に大きな損害を与えました。

　ディープフェイクは、国家を対象とした攻撃だけではありません。企業も企業が被害に遭うケースが発生しています。

　たとえば香港では2024年2月、多国籍企業に勤務する会計担当者が、ビデオ会議で最高財務責任者を装った相手にだまされ、計2億香港ドル（約38億円）を詐欺グループに送金する事件が発生しました。

　この事件では、会議の出席者全員が動画や写真が加工され、まるで本人のように見せかけるという手口が採用されていました。会見担当者は、当初ビデオ会議の案内メールについて不審に思っていたものの、会議の参加メンバーの顔と声が同僚と同じだったため、信用してしまったといます。

　米Tripwire社の調査によると、ディープフェイクを活用し、画面上は本人そっくりの顔になりすまして顔認証を突破する「フェイススワップ」（顔交換）のサイバー攻撃が急増しているといいます。

　ディープフェイクにより、顔や音声が勝手に作られてしまう現在、その真贋を見極めるためには、どうすれば良いのでしょうか？ その対策のひとつに、企業が開発しているディープフェイクの検知ツールを利用することが挙げられます。

　たとえば、セキュリティソフトを展開しているマカフィー社は、2024年1月、世界最大級のコンシューマー・エレクトロニクスの見本市「CES 2024」において、AIを活用した音声ディープフェイクを検知する技術「プロジェクト・モッキングバード（Project Mockingbird）」を発表しました。

　さらに、生成AI「ChatGPT」の開発元であるOpenAI社は、2024年5月に、OpenAI社が同社の画像生成AI「DALL・E 3」で生成した画像かどうかを検出するためのツール「DALL・E Detection Classifier」を発表しました。

　このほか2024年2月には、ディープフェイクが選挙に影響を及ぼすことを防ぐため、世界の主要IT20社が協業することで合意。20社は今後、動画の出所を明示する「電子透かし」の開発や、SNS上で偽情報を検出する技術の向上などを進める予定です。

　何が真実で、何が偽りなのか。その判断はいつの世も困難を伴うものです。ディープフェイクなのか、それとも本物なのか、その検知ツールが普及しきっていない現在、スマホの画面やPCの画面の中に映るものすべてが真実ではないという慎重な姿勢が、企業に求められているといえるかもしれません。