【必読 ：管理国家の信用システム】中国の『ブラック・ミラー』

『ブラック・ミラー』は、イギリスの人気コラムニスト、チャーリー・ブルッカーが2011年に開始したSFテレビアンソロジーシリーズで、特に新しいテクノロジーがもたらす予期せぬ結果を風刺的に描いた近未来・現代社会がテーマになっています。一方、日本でも既に紹介されている中国の先進的な社会信用システム「芝麻信用」は、主にその利便性や拡張性に注目されていますが、管理者の運用次第ではまさにそのシリーズに登場するようなブラックな世界になりかねないという、ザ・ウィーク誌の投稿を紹介します。

Post 2018/02/07  17:14  update 22:52

【The Week 2018/02/03】

中国の14億の国民は個々の信用性を計る「社会信用」スコアを付けられ始めており、それによって社会における彼らの地位までが決まってしまう。それについて貴方が知っておくべきことをここに述べよう。

社会信用とは？

それは多くのアメリカ人にもおなじみのクレジットスコアシステムに似ているが、個人の財務状況だけでなく、中国のバージョンは、それぞれの政治活動、社会的な人間関係、購買記録も含んでいる。

それらすべてのデータがコンピューターのアルゴリズムに投入され、国民それぞれの信用スコアがはじき出される。

両親の面倒を見る、公共料金を期日通りに支払う、慈善活動に寄付をする。そういった行動が高スコアにつながって、外国のビザ取得を容易にしたり、子供を良い学校に入れたりすることができるようになる。

赤信号を無視して渡る、SNSで政府を批判する、汚染された食品を消費者に売るなどの行為は、銀行ローンを受けられなくなったり、公的機関での職に就けなかったり、レンタカーを借りられなくなるといった結果につながる。

中国政府はこのプログラムを2020年までに開始しようと目論んでおり、すでに30都市で実験的運用が始まっている。

「これはまるで（オーウェルの『1984』の）ビッグ・ブラザーです」と、小説家兼時事解説者のムーロン・シュエチュン（慕容雪村）は言う。

「そのシステムは私たちの情報をすべて把握し、運営者の好きなように私たちを痛めつけることも可能になります」

何故そのような広範囲なシステムなのか？

ひとつの理由は、中国がいまや世界第二位となった、自由奔放で規制の緩い経済を上手に管理しようとしているからだ。

社会信用システムがあれば、有毒な調製粉乳や腐った野菜の販売者、賄賂を受け取った官僚などを政府が罰することが容易にできる。

「詐欺師は罰を受けるべきです」と、国家発展改革委員会副主任のリエン・ウェイリャン（連維良）は言う。

中国には、アメリカの金融機関が消費者のクレジットリスクを判断する際に使うFICO（Fair Isaac Corporation）のような国の信用機関によるスコアがなく、ほとんどの中国人は自分が使っている銀行でしか、クレジットカードを作ったりローンを組んだりすることができない。

社会信用スコアシステムは融資を活発にし、詐欺などの不正行為を減らすことができるはずだ。

しかし共産党は、社会信用はおもに、国民に承認された行動を取るように促す仕組みと捉えている。

たとえば、党の方針に従う、電気を節約する、といったことだ。

中国政府はどのように行動にスコアを付けるのか？

それは、国民のスマートフォンから収集された膨大なデータを管理することによって、だ。

多くの中国人は商品やサービスの支払いにあたり、すでに現金でなく主にスマートフォンだけを使うようになっている。

中国では毎年5.5兆ドルがスマートフォンで支払われているが、それに対してアメリカでは1120億ドルにすぎない。

中国で最もよく使われている2つの支払いポータル、アリペイ（支付宝）とウィチャットペイ（微信支付）には、どの金融系アプリもかなわない。

それらのいわゆるスーパーアプリはSNSも付帯しており、そのほかにタクシーを呼んだり、出前を取ったり、病院を予約したり、ホテルにチェックインすることも可能だ。

それらすべての行動から集められたデータが、社会信用スコアの基となる。

アリペイを擁するEコマース大手のアリババ（阿里巴巴集団）は政府が目論んでいるシステムの民間版をすでに構築しており、それは「芝麻信用」と呼ばれる。

それはどういう仕組みか？

アルゴリズムが利用者に350から950までのスコアを付ける。

スコアが高いほど、特典が増える。スコアが低ければ、ホテルの予約に際して高い前払金を支払わなくてはならない、もしくは、長距離列車や飛行機のファーストクラスに乗ることができなくなる（まるで『ブラック・ミラー』の不安を掻き立てるこのエピソードそのままの仕組みだ）。

卒業学位や、ビデオゲームにどれだけの時間を費やしているか、そしてどのようなスコアの友達と付き合っているかといった個人的な要素が計算に含まれる。

だから、もし貴方のスコアが落ちてしまうと、貴方の友達は自分のスコアまで巻き添えを食らわないように、貴方を避けるようになるだろう。

利用者は婚活サイトに自分のスコアをリンクさせて、将来の伴侶を選ぶこともできる。芝麻信用CEOのルーシー・ペン（彭蕾）は「このシステムは、悪人に社会での居場所を無くさせる一方、善人にはより障害なく自由な動きを保証します」と語る。

これは文字通り、監視カメラが顔認識機能を使ってすべての人を監視することを意味する。

その技術はどれくらい広まっているか？

顔認識機能を使った施錠解除ができる高級アパートがすでにあり、いくつかのレストランは顧客に「笑顔で支払い」をさせ始めている。

より多くのアプリが登場するにつれ、それらのデータはシャープ・アイズ（锐眼）と呼ばれる政府の新しい監視システムに蓄積される。

それは毛沢東時代に近隣住民同士を告発させた仕組みを参考にしている。店内や街角どこにでもある防犯カメラが監視カメラとなり、蓄積された膨大なデータを人工知能が解析する。

怪しげな行動にはフラグが立ち、その人物の社会信用スコアに影響する可能性がある。

「もし賭博が行われている場所がわかっていて、誰かがそこに頻繁に出入りしていると」顔認識システム会社クラウドウォークのリー・シャーフェン（李夏风）は語る。「その人は疑いを持たれます」

もしアルゴリズムに誤りがあったら？

恐ろしい結果を引き起こすことになる。社会信用システムに組み込まれる要素のひとつが、罰金を納めていない、あるいは判決の降りていない、7百万人以上にのぼる最高裁のブラックリストだ。

ジャーナリストのリウ・フー（刘虎）は昨年、旅行アプリでフライト予約ができず、自分がそのリストに載っていることを発見した。

調べた結果、彼は過去に罰金を払う際に間違った口座番号を入力していて、その結果、最も遅い列車の一番悪い席を除いては、すべての旅行から全面禁止をくらっていた。

その後彼は気を付けて罰金を支払うようにしているが、いまだにブラックリストに載ったままだ。

その他にも、たとえば70ドル相当の煙草を万引きしたなどの軽微な罪でブラックリストに載った人たちもいる。

社会信用理論の父と呼ばれる研究者リン・ジュンユエ（林钧跃）は、残念ながらそのような間違いや超過はつきものだと話す。

「しかし、社会全体の環境における改善に比べれば、そのような犠牲はやむをえません」と彼は付け足す。

監視下の新疆（ウイグル）では

究極の監視状態は、中国の北西部にある新疆ウイグル自治区ですでに始まっている。

その地域の少数民族であるムスリム系ウイグル族の一部によって行われている暴力的な分離独立運動を弾圧するために、中国政府は新疆をハイテク社会管理の試験場とした。首府ウルムチでは、ほぼすべての日常生活が監視されている。

監視カメラがすべてのナンバープレートを読み取り、自治区外からの自動車は警察に通報される。

当局は携帯端末を使ってスマートフォンをチェックし、禁止された暗号化通信を使ったチャットアプリや政治的な容疑のあるビデオを探す。

街中に点在する警察のチェックポイントには、IDカード、顔、眼球をスキャンする機械が備え付けられている。

ナイフを買う際には、それがテロ攻撃に使われないように、その刃に購買者のIDの詳細をレーザーで彫り込まれる。

警察官はどのようにでも理由を付けて、怪しいと思われるウイグル人を予告なく襲うことができる。

ジュー・シェンウー（祝圣武）弁護士は、これが中国の未来だと語る。

「新疆で今起こっていることは、すべての中国国民の運命を握っています」

（海外ニュース翻訳情報局 加茂 史康）