叡智の三猿

〜森羅万象を情報セキュリティで捉える

当サイトは、アフィリエイト広告を使用しています。

真実と虚偽の狭間で:ディープフェイクの衝撃

ChatGPTによる「ディープフェイク」をテーマとした物語

タクミは、ディープフェイクの犠牲者として知られることになる前に、普通の生活を送っていた。彼は真面目な大学生で、友人たちと楽しい時間を過ごし、将来の夢に向かって努力していた。しかし、ある日、彼の人生は一変することになる。

彼はインターネットで見つけた動画に衝撃を受けた。それは彼の顔が他人の体に合成されているディープフェイク動画だった。彼は最初、それが冗談か何かだと思った。しかし、その動画が拡散され、彼の友人や家族までがそれを見てしまったとき、彼の心は打ちのめされた。

彼の友人や家族は彼に信じてくれなかった。彼らは彼が動画の中に映っている人物と同一であると思い込んでいた。タクミは自分の無実を証明しようと必死になったが、ディープフェイクの技術はますます洗練され、彼の訴えは虚偽だとされた。

彼は社会から孤立し、仕事を失い、学校からも追放された。彼の精神は崩壊寸前で、彼は自分の存在意義さえも見失いかけていた。しかし、彼はあきらめなかった。彼は自分の名誉を回復し、ディープフェイクの危険性を広めるために闘うことを決意した。

タクミはインターネット上で活動を始め、ディープフェイクの危険性について情報を共有し、他の犠牲者と連携して戦った。彼らは政府やテクノロジー企業に対して声を上げ、ディープフェイクの違法な使用を防ぐための法律や技術的な解決策を求めた。

彼らの努力が実を結び、ディープフェイクの脅威は徐々に収束し始めた。タクミは自分の名誉を回復し、社会に復帰することができた。彼の経験は彼を強くし、彼は未来に向けて前向きに歩むことができた。そして、彼はディープフェイクが人々に与える影響を忘れることはなかった。

【注】この物語は、生成AIのChatGPTで作ってます(表題は「はてなブログ」のAIアシスト機能を使いました)。明らかな表記ゆれがある部分は、修正しています。

感想

わたしはこれから数年の間、もっとも脅威に感じる情報セキュリティリスクは、ディープフェイクを使った画像や動画による詐欺だと思ってます。

ディープフェイクは、元の映像や画像を加工して、誰かが言ったり行ったりしたように見せる技術です。少し前に有名人の画像を巧みに使った、ニセの無料投資セミナー広告がSNSに多数掲載され、それは社会問題になりました。これは、生成AIの普及によるものです。生成AIはテキスト、画像、音声などを生成するAI技術の総称で、ディープフェイクは生成AIの一種です。

ディープフェイクが注目された最初のきっかけは、オバマ元大統領のフェイク動画です。その動画でオバマは、「トランプ大統領は救いようのないマヌケだ」と言ったのです。これは、生成AI技術の一種であるディープラーニングを使用して作成されました。元の映像から顔や口の動きを学習し、他の人の動画にその動きを合成することで、リアルな偽造動画を作ったのです。

www.three-wise-monkeys.com

画像や動画といったイメージは、言語よりも直感的です。直感的に理解することで、わたし達の記憶に深く影響を与えます。そのため、ディープフェイクのようなビジュアルイメージは、強い印象を与え、言語だけでは伝えるのが難しい情報を伝えるのに寄与します。

今回、ChatGPTが生成した物語は、タクミという人物が被害者です。彼の顔が他人の身体に合成された動画が、拡散されたことで、「彼は社会から孤立し、仕事を失い、学校からも追放された。」と、書いてます。そんなことになるなんて・・・一体、どんな動画が合成されたのか!?・・・興味あります。

しかし、タクミは強い精神力を兼ね備えていたのでしょう。

彼はどん底から這い上がり、ディープフェイクの違法な使用を防ぐための法律や、技術的な解決策を政府やテクノジー企業に求める活動をします。

ただ、問題あるディープフェイク動画を技術的な対策によって防ぐことが出来るのでしょうか??

かなり疑問です。

そもそも、エンターテイメントは、黎明期の頃から、AIなどない時代でも、特撮技術を使い、現実とは異なる合成動画が作られてます。だから、現実にはいないゴジラが、東京タワーを何度もへし折る映像作品が生まれました。

もちろん、ゴジラは問題ある偽造動画ではありません。

問題ある画像なのか、そうでないかは、画像を生成する段階ではありません。画像が公開されたことで、誰が被害を受けるかによって決まると思います。推しのアイドル画像を生成AIで改変し、SNSにアップしているのをたまに見ます。それは正にディープフェイクです。でも、当のアイドルがそれを面白がっていることもあります。本人が被害を受けなければ、それは問題ない画像ともいえます。

ですので、問題あるディープフェイクを軽減するため、技術的な対策を求めるなら、実際に投稿された画像や動画を「問題ある画像・動画」として、第三者が報告することでしょう。そして、報告された内容をAIが学習することだと思います。AIが問題ある画像の膨大な学習を重ねることで、ディープフェイクを検出するアルゴリズムを見出すかもしれません。

これは、画像生成AIと、画像消去AIの対決といったところです。

ただこの対決、画像生成AIは自由に大量の画像を24時間365日生成し続けます。一方、画像消去AIは、投稿された画像からアルゴリズムに従って、消去すべきか、残すべきかを考える必要があります。

消去AIは、防戦一方の苦しい戦いです。

結局のところ、問題あるディープフェイクを防止する技術的対策には限界を感じます。

わたし達は、テレビ、インターネット、ソーシャルメディア、メタバースなど、さまざまなメディアから、情報を得ます。そういう、メディアに関する正しい知識を持つことが必要だと思います。メディアから発信される情報を鵜呑みにせず、批判的に評価する必要があります。そのうえで、情報の信頼性を判断する能力が必要です。