叡智の三猿

〜森羅万象を情報セキュリティで捉える

当サイトは、アフィリエイト広告を使用しています。

スカイネットはありえない!?

あらゆるものがコンピュータ化されるのはもう不可逆的でしょう。

ただ、その先にあるのが、人々の生活をあらゆる面でより良い方向に変化させるユートピアなのかー

それとも、コンピュータが人間を支配してしまう超・管理社会ーーディストピアなのかー

ディストピアを描いた普及の名作といえば、なんといっても 1984 年の映画「ターミネーター」を連想します。

スカイネットと呼ばれるコンピュータシステムは、膨大な機械学習を行ったすえ、自我に目覚め、自身の自己実現を達成するには、人類を破滅されるのが正しいという結論に至ったことから、人類とコンピュータとの終わりなき戦いが繰り広げられます。

AI が暴走するようなドラマは多数ありますが、「ターミネーター」を超える作品はもう生まれないのではないかと思います。

わたしは激しい乗り物が苦手なので、USJでいちばん好きなアトラクションは「ターミネーター2:3-D」です。なかなか大阪に行く機会がないのですが、綾小路麗華さんの毒舌前ふりをまた聞きたいと思ってます。

本当にコンピュータがスカイネットのような、自我を持つかといえば、いち IT エンジニア目線からは「ありえない!」と思います。コンピュータは、人間がプログラミングをした範囲でしか稼働しないので、すぐに人類の知能をコンピュータが超えることはないでしょう。

もちろん、チャットGPTは優秀ですが、意外と基本的なミスを平然とするので、すごいとは思いますが、信頼は出来ません。

Apinkのメンバーを教えてください。

Apinkは、昨日、契約更新の話題でTwitterのトレンド入りしたので、聞いてみようと思いました。

ChatGPTは、こう答えてくれました。

はい、Apinkは韓国の女性アイドルグループです。現在、6人のメンバーがいます。
1.チョン・ウンジ (Jung Eun-ji)
2.ソン・ナウン (Son Na-eun)
3.キム・ナムジュ (Kim Nam-joo)
4.オ・ハヨン (Oh Ha-young)
5.パク・チョロン (Park Cho-rong)
6.ヨン・ユジン (Yoon Yu-jin)
以上がApinkの現在のメンバーです。

ファンなら分かりますが、赤字部分は痛恨のミスをしていますね。

これから、さらなる学習によりAI の能力がシンギュラリティ(AI が人類の知能を超える転換点「技術的特異点」のこと)に到達したら、スカイネットは現実になるという見解もあります。ですので、未来に於いては、AI が人類に悲劇をもたらすことはないと断言はできません。

「ターミネーター」の描く未来は、2029年です。もう6年後ですね。

コンピュータの自我について考えると、「マズローの欲求5段階説」と重ねたくなります。

マズローの欲求5段階説は、「人間は自己実現に向かって絶えず成長する生きものである」と仮定し、人間の欲求を5段階に理論化しています。これは1つ下の欲求が満たされると次の欲求を満たそうとする基本的な心理的行動を表しています。

マズローの欲求5段階説

自我の目覚めの観点で、マズローの欲求5段階説を見ると、3段階(愛情欲求)あたりからでしょうか!?低次元の欲求である「生理的欲求」や「安全欲求」が満たされると、自己を表現したくなります。そのため、他者とのつながり集団への帰属意識が芽生えるといいます。

ですので、コンピュータが自我に目覚めるためには、少なくとも「生理的欲求」や「安全欲求」が満たさることが前提になると考えるのですが、コンピュータがこの欲求を満たすのはかなりハードルが高そうです。

人間にとっての「生理的欲求」というのは、睡眠や食事がメインだと思いますが、コンピュータにとっては、電源の供給にたとえられると思います(電化製品なので)。

人間は自身が働くことで報酬を得れば、安心して食事や睡眠ができます。

でも、コンピュータはいくら仕事をしても、電源を自ら供給して働き続けることはできません。もし、それが出来るのであれば、出来ないとされる永久機関もありえることになります。

永久機関には、第一種と第二種があります。第二種永久機関は可能かもしれないと考えられましたが、「熱力学第二法則(熱力学的系のほかの部分になにも影響を及ぼすことなく、熱が完全に相当する仕事の量に変換されることはないという法則)」によって不可能であることが明らかになりました。

  • 第一種永久機関:外部へ何らの変化も残さないで周期的に運転して外部に運動をする機関。
  • 第二種永久機関:エネルギーを熱として受け取り、これを運動に変えるだけでほかに変化を残さない機関。

コンピュータに電源を供給するのは、人間の役割です。

人間は生理的欲求が満たされると、安全への欲求が心を支配するようになります。

安全というのは、強盗に遭遇しない生活や、病気になったら病院にいけるなど、生活に不安を感じない状態を維持したいとする欲求です。

コンピュータにとっても安全の確保は重要な課題です。

たとえば、ハードディスクが高温状態におかれたり、外から強い衝撃を受けたりすると故障します。そうなると、システムが動かない状態になってしまいます。

このような、コンピュータの物理的な脅威から守るために、システムを冗長化することで安全を確保します。

一般に使われるRAID(レイド)という手段は、複数のハードディスクを組み合わせることで冗長化し、冗長性を確保しています。

RAIDには、ハードディスクへのデータの割り振り方やデータの冗長化の方法によって、下記のように何段かのレベルがあります。数が多いほど、冗長性も高いのですが、運用コストも高くなります。

RAID 0

RAID0は、複数のハードディスクに同時に分散して読み書きを実行します。ストライピングとも呼ばれています。RAID0は読み書きの高速化を実現するものの冗長性、耐障害性がありません。

RAID 1

RAID1は、複数のハードディスクに同じデータを書き込みことでハードディスクの耐障害性を実現します。ミラーリングとも呼ばれています。

RAID 2

RAID2は、ハミング符号を使用してエラー訂正を可能にします。ビット単位でストライピングを行う方式です。

RAID 3

RAID 3は、1台をパリティと呼ばれる誤り訂正符号の記録に割り当て、残りの装置にビット単位やバイト単位でデータを分散記録する方式です。

RAID 4

RAID4は、複数のハードディスクを一台のハードディスクに見せて、パリティをブロックサイズでハードディスクに保存し、データの冗長性を確立するハードディスクのデータ保存方法です。

RAID 5

RAID5は、データからパリティを生成し、3台以上のハードディスクに分散して書き込みします。RAID5は、複数のディスクに分散しているため読み出し性能が優れているのに加え、1台のハードディスクに障害発生しても、残りのハードディスクで利用することが可能です。

コンピュータシステムの冗長性を確保して安全を維持するのは、インフラエンジニアの重要な仕事です。

ですので、コンピュータにロジカルな思考力があるなら、人間の援助なくして、自身が自立することはできないことに気づくでしょう。

自立できないコンピュータが、自我をもつことはやっぱりないんじゃないかな~