天安門廣場的監控攝影頭
美國《大西洋》月刊發表胡佛研究所高級研究員、史丹福大學政治及社會學教授戴雅門（Larry Diamond）和史丹福大學研究員米切爾（Anna Mitchell）的文章說，想像一個社會，你被政府評為值得信賴的人，無論走到哪裡，你的「公民評分」都緊跟在後，如影隨形。
評為高分的人可獲得快速上網服務，順利獲得赴歐洲國家的簽證。但如果未獲允許在網上發布政治帖子，或質疑甚至反駁政府對時事的官方說法，你的「公民評分」就會被扣分。為了計算這個分數，與政府合作的私營公司不斷從你的社交媒體和網購網羅大量數據。
你所在的城市和街道遍布攝影頭，政府從中搜集大量資料。當你踏出家門，你在現實世界的活動就被當局的搜索網一網打盡。如果你犯罪，或只不過是亂過馬路，人臉識別算法將從全國身份證資料庫中找出你的照片，和攝影頭拍攝的視頻片段進行對比。不用多久，警察就出現在你的門口。
這樣的社會看起來有點反烏托邦，但並非遙不可及——幾年後的中國可能就是如此。因為中國正急於成為世界第一個實施普遍算法監控系統的國家。中共黨國利用人工智慧的發展，以及資料探勘和儲存技術，建立全體公民的詳細個人檔案，正在研發「公民評分」制度以激勵「好」行為。一個龐大的監控攝影頭網絡將不斷監控公民的行動，據稱是為了減少犯罪和恐怖活動。這種奧威爾式的監控眼睛或許可能改善「公共安全」，但卻對公民自由造成令人不寒而慄的新威脅，況且北京當局已經是世界上最具壓迫性、控制性的政府之一。
中國正在發展的算法監控系統，將依靠中共黨國的安全機構，過濾、搜集、分析網際網路上海量的數據流。中國以國家安全和社會穩定名義，最初計劃開發的所謂「金盾」監控系統，允許方便地獲取每個公民的全國、地區和當地數據記錄。這個野心勃勃的計劃，至今主要局限在過濾網際網路資訊的「防火長城」，目的是隔離包括谷歌、臉書以及《紐約時報》等外國網際網路網站。據人權組織「自由之家」（Freedom House）的資料，中國網際網路自由度居全球最差水平。現在，中共終於開始建造幾十年來夢寐以求的廣泛、多層次的數據搜集系統。
中國長期以來就已在仔細審查對黨國政權不忠的個別公民，但直到現在才開始發展到全面、持續、詳細地記錄每個公民的政治派別、對事情的看法、所屬社團甚至消費習慣等資料，而且不斷更新。這個正在開發的新社會信用系統，將把私人公司和政府機構的大量數據記錄，整合到每個中國公民的單一「公民評分」機制中。
更令人擔憂的是，有了這個系統，中國政府在技術上有能力監察中國公民的朋友和家人的行為，以決定他或她的公民評分。例如，你的朋友的反政府政治立場，可能拖低你的評分。持不同政見者將從朋友和社會中孤立出來，徹底淪為賤民。一位網際網路隱私專家警告說：「中共黨國正在做的是，選擇性地把國民培養成沒有批判性，沒有獨立思考的人。」
