阿波羅新聞網評論 > 言論 > 正文

陳迎竹:慎防大數據助長獨裁

大數據不是未來課題,當我們開始享受它所帶來的眾多好處,切不可麻痹在其中,如入鮑魚之肆,久而不聞其臭。

物聯網技術日臻成熟與持續突破,有人估計10年內全世界各種連接到互聯網的感應器可能多達1500億個,這大串數據又交互產生更多內容和信息,超級電腦、人工智慧的自我整合與演進將進一步產生多少信息量,以及其中所衍生的意涵,都將遠遠超過對一個700平方公里智慧國的想像。

全球科技精英近年越來越頻繁針對科技迅猛發展所可能造成的各種失控現象發出警告。其中包括廣泛的產業轉型、人類就業機會的縮減、社會倫理的新挑戰、教育和醫療及法律問題等等。

當然也包括民主化課題。大數據科技讓各種信息公開化,是“上帝已死”(尼采名言)的最新版本。很多人樂觀地認為民眾上網就可以查到各種官方信息和記錄,對監督政府和政治人物有直接作用,也可以直接反映社會輿論。的確,民主國家社交媒體甚至被形容為“無政府狀態”,雖然各種尖酸刻薄占多數,卻也有深刻和理性的辯論,在這過程中出現不少意見極端化與對立現象,卻沒有人會輕率地認為應該終結這些發聲的管道。

這一現象的另一面其實更引人擔憂。大數據基地的建立幾乎只有大型科技企業做得到,在歐美開放社會,這些企業掌握在私人企業家手中,官方要做的是及時制定合適的法律規範,讓科技企業在法律範圍內運行。科技企業以及行業內部近年自我規範的聲音越來越多,由於不同企業間存在技術與商業競爭關係,社會上也有許多獨立而自由的專業人士和發聲管道,形成一種法律框架內的制衡與自然監督,因此具有可預測的社會倫理關係。

然而在非民主國家,科技的長足進步卻給人民帶來更多隱憂。這一點在高科技界和西方輿論界有不少討論。高科技公司如果可以輕易而隱秘地受到政治權力的介入和指揮,為特定政治目的服務,雖未必在短時間造成巨大而廣泛的破壞,長遠卻會對社會國家產生深邃的負面影響。

政治權力缺乏有效制衡或制衡不足的國家,執政者過去要打擊異己,必須派人鬼鬼祟祟地跟蹤,逮捕後還要神秘拘禁,屈打成招。遇到堅強不屈者,還要製造偽證或乾脆炮製成“被死亡”。新科技的聯網與便捷則省去這些麻煩,只要控制電信公司,通過手機或其他通訊設備,就能掌控個人大部分行為和社交關係,加上衛星定位和各種感應器,幾乎無人可免於監控。

科技做得到這些,不意味科技公司就會這樣做,實際上也不大可能有一家規模和制度相對完善的公司會這麼做。因為其中涉及各種隱私和安全條例,社會強大的輿論監督,還有公司股東和內部舉報機制,科技公司也可能因為行為不當而面對信譽瓦解和公司失敗的命運。

但在非民主國家,如果科技公司必須根據政黨、政治人物或不受挑戰的法律條文的規定,接受政治任務,對個別公民展開監控,甚至造成身體傷害――聯網科技完全有能力自行引發電子或機器的故障甚至爆炸――這已經不是一般意義的犯罪,現有的法律制度或許也不足以保護人民。

犯罪動機造成的科技產品意外傷亡,因為背後原因往往需要複雜的技術分析與調查,即便技術領域的人,若不參與其中,也無從解讀與判斷,而如果政治力量牽涉在動機之中,真相就註定埋沒。

這當然是新科技時代可怕的政治畫面。不敢面對的人大可說只有屈指可數的異議者會有此遭遇,甚至乾脆說“不可能”。然而只要三幾宗這樣的命案或意外發生,就會迅速引發寒蟬效應,因為一般法醫或司法程序很可能根本查不出真實原因,在法律上完全站得住腳,但在民間解讀中,這是無從防範的暗殺行為,甚至拿不出喊冤的證據。想想堂堂美國大總統肯尼迪遇刺案,在現在看來那麼原始的犯罪,尚且變成懸案,今日科技隔山打牛,內勁哪裡來更不可知。

當寒蟬效應擴大,獨裁也就在門口。政治獨裁必然帶來社會全方位的改變,因此問題比其他方面更關鍵。

美國哥倫比亞大學教授周以真近日在杭州雲棲大會對大數據與人工智慧可能帶來的威脅進行反思。她以FATES這個縮寫提出企業負責任操作科技的原則,F即公平,A即可靠,T是透明,E是有道德,S代表安全。

這些原則已逐漸成為科技界的普遍價值,但在一些社會的政治和法律系統或許還沒成為共識。

中國政府要建立全面的個人信用評分體系,近年就引起西方學界注意,它不單像現代商業體系對個人金融信用度的全國信息分享,而是包含更多個人行為的綜合評分,例如阿里巴巴的信用體系,收集個人朋友圈、購物習慣甚至社交媒體言論行為等給予打分,這些分數可決定個人貸款、工作、簽證等結果。由於其中涉及道德層面,實質推行時更值得關注。

大數據不是未來課題,當我們開始享受它所帶來的眾多好處,切不可麻痹在其中,如入鮑魚之肆,久而不聞其臭。

阿波羅網責任編輯:李華  轉載請註明作者、出處並保持完整。

言論熱門

相關新聞

➕ 更多同類相關新聞