叡智の三猿

三猿×情報セキュリティ×はてな で発信します。

AI美空ひばりとディープフェイク

AI美空ひばり

2019年の紅白歌合戦「AI美空ひばり」が登場して話題になりました。「本当にすごい」「感動した」という肯定的な意見もあれば「冒とく」「所詮モノマネ」のような否定的な意見もありました。

わたしは美空ひばりさん世代でなく、ファンには申し訳ないのですが、曲への思い入れがあまりなく、肯定も否定もありませんでした。ただ、令和はやはり「AIの時代」なんだと強い印象を持ちました。

日本におけるインターネットの起源は、1984年(昭和59年)に開始されたJUNETといわれます。これは東大、東工大、慶大間で構築された研究用ネットワークです。日本のインターネットの父と呼ばれる慶大の村井純教授が主導しました。

わたしがインターネットをはじめて利用したのは1995年(平成7年)です。当時勤めていた食品会社のサーバルーム内にあるパソコンから、ネットスケープブラウザを使い、調査目的でヤフーを見たときの驚きはいまでもよく覚えています。

昭和から平成に移行するなかでインターネットが爆発的に普及しました。それと同じように平成から令和にかけて、AIそしてAIロボットが普及すると思います。

f:id:slowtrain2013:20200424175755p:plain:w300
AIロボット

AIはわたしたちを幸せにするか?

それで、気になるのは「AIはわたしたちを幸せにするか?」です。

「AI美空ひばり」は賛否はあるものの、技術で故人を蘇らせるのはすごいことです。もし、大事にしていた亡きペットや、肉親がAIで蘇るなんてことが出来るとしたら、それは幸福をもたらす素敵な技術かもしれません。

でも技術には、光と陰がつきものです。

紅白で「AI美空ひばり」を見たとき、わたしが連想したのは、ディープフェイクについてでした。ディープフェイクとはAIを駆使し、本物そっくりの動画などを作る技術を指します。

ディープフェイクが話題になったきっかけは「オバマ前大統領がトランプ大統領を罵る」この動画です。
youtu.be

トランプ大統領は救いようのないマヌケだ」

あのオバマさんの口からこのような汚い言葉が出るのはにわかに信じがたいのですね。その通りです。だってこれはAIによるフェイク動画なのですから!!

ディープフェイクが広まると、標的型サイバー攻撃を防ぐのがより難しくなると言われます。標的型サイバー攻撃とは、特定の企業・団体、それをとりまくサプライチェーン等、特定の組織を対象とする攻撃を指します。APT(Advanced Persistent Threat)攻撃とも呼ばれます。

IPAは標的型攻撃、APT攻撃を「脆弱性を悪用し、複数の既存攻撃を組み合わせ、ソーシャルエンジニアリングにより特定企業や個人を狙い、対応が難しく執拗な攻撃。」と定義しています。

ソーシャルエンジニアリングとは、人間の心理につけ込み、巧みに個人情報や機密情報を詐取する手法のことです。オレオレ詐欺をイメージすると分かりやすいですね。

f:id:slowtrain2013:20200527000013p:plain:w300
オレオレ詐欺

標的型攻撃はメールや公開Webサイトを通じ、そこにある添付ファイル等をクリックすることで、マルウエアに感染させます。

もしメールにディープフェイクで作られた「AI社長」からの動画が埋め込まれていたら!?

従業員はまさかフェイクとは気付かないでしょう。つい、添付文書をクリックしてしまいそうです。

f:id:slowtrain2013:20200424170629p:plain
ディープフェイクによるAPT攻撃
このように、AIとソーシャルエンジニアリングを組み合わせることで、とても強力な攻撃ツールが出来るのです。

なお、標的型攻撃は特定の組織を狙うことから、対象とする組織に対して用意周到な段階を経て行われる特徴があります。

  1. 事前準備:攻撃標的の決定、標的とその周辺への偵察による情報入手、初期潜入用不正プログラムやC&Cサーバの準備
  2. 初期潜入:標的型メールの送信、受信者による添付不正プログラム実行 、公開サーバへの脆弱性攻撃による侵入
  3. 端末制御:感染環境と所属するネットワーク情報の確認、バックドア型不正プログラムによる標的内端末への感染
  4. 情報探索:内部活動ツールのダウンロード、ネットワーク内の情報探索
  5. 情報集約:重要情報の収集
  6. 情報送出:収集した重要情報の外部入手

AIロボットは、令和の日本を支えるすごい技術として色々なサービスに展開されることでしょう。でも、技術は使い方により、希望にも絶望にもなります。

環境保全や持続可能な経済を実現する言葉にエシカルというのがあります。これは「法律などの縛りがなくても、みんなが正しい、公平だ、と思っていること」を示します。

令和はより一層エシカルが重要な時代になるのでしょう。