叡智の三猿

三猿×情報セキュリティ×はてな で発信します。

AIの自由と責任

匿名性

インターネットによる情報発信は高い匿名性(自分の名前や顔を隠すこと)があります。匿名性への賛否はありますが、わたしは匿名を利用することで、現実社会の立場に左右されず、自由かつ本音での情報発信が出来るのは良いことと考えます。内部告発のように、匿名だからこそ発信できる情報もあります。ネットにおいて匿名性は必要な特徴と考えます。

一方、わたし達が毎日見るSNSは、無責任な誹謗・中傷の発言が相当あります。そのような発言がネットの情報価値を下げているのは確かだと思います。

この状況にSNSを運営する企業も手をこまねいているはずがありません。広告収入がメインのSNS事業に於いて、不適切な発言を放置することは、ビジネスの根幹に悪影響を及ぼします。

たとえばTwitter社はAIを使い、不適切な投稿を積極的に見つけて対応するようになりました。Twitter社のホームページでは、昨年、強制対応された攻撃的なコンテンツの38%は、利用者からの報告ではなく、テクノロジーを活用し、Twitterの専門のチームが積極的に特定したものと表明しています。
blog.twitter.com

確かにTwitterを見ると、こういうメッセージを最近はよく目にします。きっとこれはAIの成果なのでしょう。

f:id:slowtrain2013:20200603013119p:plain
不適切な投稿の非表示対応
不適切な投稿は発言者の情報倫理観を問題にしがちですが、技術の力で問題発言を減らすことも重要な問題解決の手段だと思います。

AIロボット(チャットボット)騒動

2016年にMicrosoft社が開発したAIロボット(チャットボット)のTayが「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」などの、不適切な発言により活動停止となる騒動がありました。
gigazine.net
Microsoftは「この騒動は、複数のTwitter利用者により、Tayが不適切に調教され、誤った方向のコメントをするようになった」との見解を発表しました。

さて、この騒動ですが、Tay自体に設計上の問題はありません。ネット利用者の無責任な誹謗・抽象発言をAIが学習し、高い精度でそれを反映させたのです。そもそも、機械学習やAIはそういう性質をもっています。

無責任な誹謗・中傷を繰り返すAIロボットは匿名を超越しています。なぜなら、発言者が人間ならば、たとえ匿名でも、IPアドレス等から存在を割り出し、責任を取らせることは可能です。しかし、AIロボットでは責任を取らせる意味がありません(どんな責任をロボットが取るの??)。ロボットを開発したエンジニアに責任を問うことも筋が違います。この問題は情報倫理を考える上でかなり深刻です。

近いうち、SNSで不適切な投稿を連発するのは、AIロボットで、それを察知し、消すのもAIロボットというシュールな状況があたり前になるかもしれません。そのようなSNSを人間はどう受け入れればいいのでしょうか・・・。

IPAは毎年、社会的に影響が大きかったと考えられる情報セキュリティにおける事案から「情報セキュリティ10大脅威」を発信しています。その中で「ネット上の誹謗・中傷」は、毎年、個人への脅威としてランクインしています。

今年は7位にランクインされました。
www.ipa.go.jp

自由と責任

経営の神様、P・F・ドラッカーは「産業人の未来」という書籍で次の言葉を残しています。

自由は解放ではない。責任である。楽しいどころか一人ひとりの人間にとって重い負担である。それは、自らの行為、および社会の行為について自ら意思決定を行うことである。そしてそれらの意思決定に責任を負うことである。

〜「産業人の未来(P・F・ドラッカー)」より

確かに自由責任は天秤の左右の如く、バランスがはかられる重みなのでしょう。それは現実世界だけではありません。ネット空間に於いてもこのバランスは同じであるべきだと思います。現在のネット空間は、自由が重く、責任の軽いアナーキー無政府状態だと感じます。

f:id:slowtrain2013:20200603012740p:plain:w400
自由と責任の重さ
自由と責任のアンバランスを解消するには、自由を軽くするか、責任を重くするかの2択のように思えます。社会はどちらを選択するのが望ましいのか、考える意味があると思います。

AIはわたし達の社会をブラックホールの如く吸収し、それを学習することで、社会に還元します。もし、わたし達が「愛と正義」のマインドを持ち、日頃から高い倫理観をもって情報を発信する文化があれば、AIはそれに順応して質の高い情報を提供するでしょう。わたし達の倫理観が欠如していたなら、AIは不適切で無責任な情報を世の中に蔓延させ、ネットの情報は価値を失うと思います。