管理されることは「幸福」か「自由」かという問い

現在シリーズ3期が放送されているアニメ『PSYCHO-PASS』は、2112年の日本が舞台だ（1期の時系列）。アニメの世界観では、2020年代に中国経済バブルの崩壊、大規模な難民問題という、いま私たちが生きる社会でも近未来に起こりうる問題に直面し、日本は海外の内戦激化のダメージを回避するため、徹底的に鎖国をし独自の発展を遂げた、という設定だ。

そしてこのアニメで何より特徴的なのが、厚生省が管轄をする包括的生涯福祉支援システム「シビュラシステム」によって、すべての人間は管理されているということだ。シビュラシステムは人間の感情を含めたあらゆる特性を数値化し、その数値は個人の今日の服装を決め、食べるものを決め、結婚相手を決め、職業を決める。

管理社会の中で生まれたバグ（反乱分子）が世界を壊すというのは、ハリウッド映画の常套手段だが、PSYCHO-PASSの世界ではシビュラシステムで管理されることを、人間はあまり疑問に感じていない。シーズン1、2、3と重ねていき、シビュラシステムの正体がわかったあとも、彼らはシビュラシステムを壊そうとはしない（もちろん、葛藤は描かれるが）。それはなぜか。そこには管理される気持ち良さがあるからかもしれない。

人間の脳のアルゴリズムはいまだに解明されていない。バグだらけの人間の思想や判断よりも、つねに公平でスマートなシビュラシステムに管理されているほうがいい。たとえ、そこに”人間らしい”自由意志がなくとも。この思想を受け入れるか否かが、このアニメPSYCHO-PASSが現代に生きる私たちが考えるべき問いである。


Youtube 『劇場版　PSYCHO-PASS　サイコパス』特別動画 の1シーン

現実社会における監視社会の歴史

英国の哲学者でもあり法学者でもあるジェレミ・ベンサムは、1791年に『パノプティコン』を記した。パノプティコンとは、囚人を監視するために中央に監視人を置き、すべての囚人部屋を監視することができるという全展望監視システだ。中央の監視人が、最大数の囚人をコントロールする。これはPSYCHO-PASSにおけるシビュラシステムだ。


プレシディオ・モデーロ刑務所の内部 ：wikipediaより

現在、私たちの社会においても、「監視カメラ」や「ドライブモニター」は日常風景になっている。駅で電車に乗っても、コンビニで買い物をしても、私たちは、つねに監視をされているのだが、私たちはそれを気にかけることはほとんどない。むしろ公共機関に監視カメラという目があることで犯罪の抑止につながると言われる。

2019年夏、渋谷区にある3つの書店が、顔認証システムで割り出した万引き犯の可能性のある人物の画像を共有することを発表した。法律上、顔の画像は個人情報であり、人権侵害にあたる恐れがあるにもかかわらず、個人情報保護委員会は「万引きが疑われる行為を撮影した画像は要配慮個人情報に当たらない」として、慎重な運営を、と促した。

都内のタクシーでは、顔認証を使った広告が問題となった。タクシー前席のヘッドレスト裏に取り付けられた、タブレット端末による公告配信は、顔認証をし、年齢、性別を割り出し、ターゲットに合う広告を流す。何の気なしに座ったタクシーのモニターに、自分の顔写真が取り込まれているということだ。欧州では、EU域内の個人データ保護を規定する法GDPR（General Data Protection Regulation）が始まったのに、日本はまだ危機感が希薄だ。

顔認証の進化

2011年米国CBSで放送された『PERSON of INTEREST』は、街中の監視カメラから犯罪を予測し未然に防ぐという人気シリーズだった。放送からまもなく9年が経つが、いまだ犯罪を予測するまではいかないまでも、顔認証テクノロジーは進化し続けている。

身近なところだとアップルのiPhoneは「X」以降は顔認証機能「Face ID」が搭載されている。顔認証に用いられるにはニューラルネットワーク（CNN）といわれる、人間の脳機能に類似した数理的モデルが使われている。ディープラーニングの元になるような仕組みだ。深層学習をすることで、例えば犯罪者などの顔を学習し、その傾向から個人の”顔”の傾向を判断する。


The Normalizing Machine – an experiment in machine learning & algorithmic prejudice

イスラエルの「The Normalizing Machine」というアート作品がある。これは「自分の顔ともう一人他人の顔を並べ、どちらがノーマルか」を顔認証で判断させるものだ。ノーマルな顔とは何か。犯罪者の傾向とはなにか。何がそれを規定しているのか。ニューラルネットワークに学習させるとき、そこには人間のバイアス（偏り）はないのか。

2020年から「PSYCHO-PASS」の未来に向けて

監視社会の中で、顔認証のテクノロジーは進化を続け、個人の特定はもちろん、顔からその人の特性までも判断される世界が近づいている。その先に待っているのはPSYCHO-PASSの世界だ。街中に張り巡らされた監視システムは、色相と呼ばれる犯罪指数を表す「色」によって、犯罪が起きそうな地区を割り出す。個人の色相が悪化していると、街の監視システムがそれを感知するのだ。

個人の色相は「ドミネーター」と言われる銃で判断できる。ドミネーターは警察官が所持し、犯罪係数が高い人間に対しては、ドミネーターを銃として使用して、社会から抹殺をすることができる。

アニメの中の人々は、シビュラシステムの徹底された管理の元で育っているから、犯罪が目の前で起きたとき、それが犯罪であるとも気がつかない。傷害事件を目の当たりにしたことがないくらい、平和で穏やかな生活を送っているからだ。

シビュラシステムは犯罪係数の基準を決め、人間の生死をも決めている。つまり、2112年の人間は、倫理観もシビュラシステムに委ねているということになる。

いま、私たちの生きる2020年という世界は、顔認証をはじめとした監視社会構築の真っ只中にある。もちろんそこに抗う道もあれば、PSYCHO-PASSの世界のように身を委ねる道もある。人間が生み出したテクノロジーの使い方は、人間自身が決めるべきだ。PSYCHO-PASSは未来の私たちの一辺なのかもしれない。

文：野口理恵