超級手機程式的惡托邦:倫敦、紐約和北京

評論文章

超級手機程式的惡托邦:倫敦、紐約和北京

* 文章於《香港書評》(Hong Kong Review of Books)中發表,鳴謝《香港書評》授權翻譯。

翻譯/藍波

當下中國在手機程式這個科技領域中着着領先。不過幾年前,中國著名的防火牆把所有來自Facebook和Google的一切都攔下,同時意味着中國國內互聯網和網上軟件商店充斥着抄襲自美國和歐洲網站和程式的次貨。現在,中國的「超級程式」(SuperApp)逆轉了這個情況,開創了新的技術,為大公司和國家注入全新技術去監控市民的日常生活,最終目的在於監察着人民的生活。

這像是向西方同業發出了警號,而實情是,美國和歐洲也都在發展相同的技術。這些技術帶來人類意識的改變,其中手機佔據中心的位置。從美國和歐洲的角度看,中國政府的監控越是明顯,越能繼續帶出西方不同於中國的印象。至於我們發表文章的香港,在這個關係中位置獨特,我們能接觸到大部份中國科技的市場,同時沒有中國式的防火牆,意味着我們可以暢通無阻的使用Google或其他美國的程式。對於香港人來說,中方和西方手機程式上的發展趨勢相近,這相近比想所謂的不同更叫人驚訝。

 

中國手機的未來

上月在Melon HK,從中國和美國來的五個頂尖程式發展商均贊同說,手機很快會把電腦和各式控制台變成陳年古物,而手機「超級程式」就是當中的重要一步。騰訊的WeChat現象──於2011年開發,現在已經成為中國最多人使用的手機程式──相信是第一個成功的「超級程式」例子。這現象的前題是,所有不同的程式(對話、社交媒體、博客貼文、食肆評論、旅遊、網上銀行和其他功能)通通結合到一個程式中。騰訊的舊程式QQ不過是微軟MSN的中國版本,但它最新的軟體把手機程式技術帶到另一個層次。WeChat 逐步走向國際,而世界不同地區開始以WeChat為參考對象,發展類似的超級程式。Facebook──新近提供了評論、日記、SMS,並即將推出的眾籌功能──正在努力研發,希望能在西方佔據這部分的分額。WeChat吹捧自家有多方便,但這種包羅萬有的程式背後的危險卻是不能忽視。

WeChat結合了用戶資料收集和用戶行動監視,所有的資料現在都直接由一項服務收集。在十一億的用戶中,超過一半會在一天內使用WeChat十次或以上,而有不少用戶甚至會不關閉程式,運用它的地圖、購物和銀行功能,利用它來約會和玩手機遊戲。WeChat看似是奇怪的熱地圖功能最能體現箇中邏輯,這功能讓用戶可以實時看到哪裏有群眾聚集。WeChat把這功能包裝成方便用戶行動的工具,好像這個功能與監制完全無關:這功能的目的是幫助我們能去比較少人的商場,避開人潮和交通擠塞。

問題是,這些關於群眾的資料,當權者同樣能夠看到,它們能用在防止抗議、佔據和暴動舉例來說,這資料能於當權者知道何時有群眾聚集在不該聚集的地方(例如抗議和暴動),可以及時的調動警力。再者,這些資料可以為用戶提供避開堵路的路線,這對香港這個地方尤其重要,像2014年的「雨傘革命」,以在商業地區中堵路為策略。當權者擁有人群流動的資料,就可以預示堵路,及時提供回應方案,減少經濟和其他損失,同時意味着減低反抗陣形的殺傷力。當然,這功能不只對政府有利,商家同樣可以運動這些資料獲最大利潤,麥當勞和星巴克引導顧客運用這功能,把他們送到沒那麼繁忙的分店去。

歐美特別害怕這些中國特色的模式,不過依然覺得這類事情離他們甚遠。例如,「社會信用」的遊戲系統計劃在北京推出,會為每一個市民評估他們的信用,並會在他們貢獻中國政府時回饋他們。美國和英國媒體有所報導之餘也表達驚訝。在中國,政府與「超級程式」的連繫比較公開,在美國,私隱的幻象依然是首要考慮。當WhatsApp在去年公佈他們不會再向警方提供資料時,香港媒體關心這會否為政府行事帶來困難,但英國媒體則有相反的反應:媒體表達他們被WhatsApp出賣,他們從一開始就不應該分享這些資料。在此,中國與西方的關鍵差異並不是中國對自由的管控,而是歐美對自由的幻覺。事實上,對於網絡用戶行動的地圖化和管控在西方主要城市早早已在運作中。

 

倫敦和紐約的程式管控

倫敦和紐約正好可以作為例子說明。我較早討論過,「倫敦完善交通」的講座討論「遊戲化」(gamifying)通勤的可能性,亦即當某條地鐵路線因延誤而擠塞,「倫敦完善交通」可以為那些願意乘搭其他路線的乘客提供「遊戲獎勵」(in-game rewards)。雖然,這類預防交通擠塞的技術不一定會把我們帶來惡托邦式未來,但這種技術的確有其危險的地方。如果市內的擠塞可以如此疏通,那麼像上述對城市空間顛覆性使用也可以如此疏通了。同樣,在紐約,《紐約時報》指出WeChat的「熱地圖」是危險和毀壞性的,它可能不知道紐約的手機程式AvoidHumans為紐約人提供相同的服務,當中也隱含相同的危機。

這種發展速迅的遊戲獎勵文化確有組織市民的能力,與北京的系統差距並不太遠。再者,在中國,事實上主要並不是政府運用這類功能,反而私人公司才是這種計劃的推手,這與英國和美國的情況相似。我們現在不過是開始,而並不難想像在不久將來,數碼的獎勵和懲罰成為「智能城市」的特色,而所有人的行動都會由中央協調,使市民獲得最大利潤,避免不適。上星期,美國媒體報導中國會為舉報外國間諜者提供經濟好處,表示我們常見的驚訝,但是,紐約早已有一個官方的手機程式See Something, Send Something把上述的過程數碼化,讓用戶可以簡易地報告任何他們懷疑的事物。事實上,紐約有超過十五個這類的官方程式,有力地證明手機程式結合用戶用於國家利益這類事情早已在美國出現。

更進一步,《紐約時報》報導Google Map預計用戶去向的新功能的好處,他們無視了箇中的危險,這種程式會鼓勵市民重複他們的行動模式。同時,那些較為單純是為「估算」的程式,像Spotify,會使用戶不斷重複聆聽同類而的歌曲,然後根據它創造出來的聽歌模式向他們「推銷」新的作品。Google新功能把本來已是按習慣行事的人推向更貼近他的習慣,透過使即興決定和路徑不便使人放棄該決定和路徑。人們不只是跟着手機提供的路線行走,而是局限於此。當然,技術有時也會在人們的路徑上提供少許轉變,像Apple的iBeacon或手機程式ShopDrop可以讓零售商把優惠透過GPS的追蹤,發送給附近的市民。只要那路徑使人獲利,市民就會被留在其上。

用戶資料多數在私人公司之間或是公營與私營機構間分享。這情況使得龐大的用戶資料成為品牌。在中國,Google式的審查意味WeChat運用百度地圖作為應用程式介面,而國際版本的WeChat則是運用Google地圖,這說明這些私人公司的技術是如何緊密地結合在一起。這類結合意味我們難以安心的以為不同的資料會儲在不同的地方,事實是它們都儲到中央的國家資料庫。自2016起,WhatsApp分享資料給Facebook(WhatsApp的母公司),說明並不是中國的「超級程式」才會把收集來的資料放在同一處。Google行政人員的權力隨時大過國會的議員,朱克伯格(Zuckerberg)相信大概也有這等權力,看他最近發表的政治聯繫,說明個人資料不一定立刻傳到政府那兒,但從私營到公營的聯繫確實存在。

在歐美的觀點看,中國公然的中央管制加深了西方與中國不同的印象。中國的科技事實上比西方更強。這裏的比較,讓我們一看惡托邦的未來,其中公司和政府不只是跟蹤人們行動的每一個時刻,甚至是影響和重新塑造人們的行動。不論在東方還是西方的「智能城市」,從群眾控制到盈利最大化,應用程式都扮演重要的角色,把我們留在大公司和政府想要我們留在的慣性路徑上。

 

手機意識

在更深入的層面,這些技術希望城市居民的決定主要依賴手機來主理。意大利哲學家Franco Berardi(別名Bifo)在他的新書中指出,科技使人類的意識「突變」。他的說法如果成立,手機肯定是扮演中心角色。對於開發程式公司的CEOs這已經是常識,不過很多用戶並不對於有所意識。像是我們運用地圖功能或Uber,用戶的路徑被地圖功能所決定,目的地是用戶的選擇,但路徑不是。然而,未來將不只於此。Google已經能預計你想去甚麼地方和如何到達,用戶似乎也喜愛這種功能。如果真的如此,我們現在不過是在手機介入為我們作決定的初始階段。

「估算式」應用程式(像Spotify、Siri和其他熱門程式)正在冒升,也是未來手機程式發展的新路向。但我們可能對它們有錯誤的理解。這些程式並不只是在估算,而是在影響,為我們決定我們想要甚麼,為我們決定我們如何得到那些事物。從這點來看,Pokémon GO(在中國被禁)可以看作是某種試驗品,去測試Google可以叫人做些甚麼。估算分析工具會分析你的「訓練數據」(training data,所有你所做和說的),運用演算程式去估算結果。以演算程式作決定已經很普遍,但所不同的是,這個情況是運用用戶的個人數據,而不是公開收集的數據,因此不同的個人會有自身個人化的演算決定。重要的是──顯然而見但卻意味深遠──有些估算的結果並不是在演算程式估算前已經命定會發生的。所以說,在不久將來,手機會替個人作出與別不同的選擇。

弗洛依德曾打趣說「人已成為戴有義肢的上帝」,而這些個人化的演算程式或會成為我們這些賽伯格(cyborg)的其中一個重要特色。這情況可以視為與弗洛依德的「前意識」相關──一個介乎於意識和無意識的中間狀態。在前意識中,思想和慾望在未成形的狀態,但隨時可以變成意識中物。無意識若不轉變化自身,並不能進入前意識,所以我們知道手機並不能讓我們觸及我們的無意識,除了所有媒體都能處理無意識的思想。但然,手機可能可以把存在於前意識未成形的慾望和驅力帶到意識層面。是的,它們構成個體的歷史和潛質(個體的元數據),但它們可能從不會浮現成意識的慾望。如此,我們則是把我們重要的決策能力,交付於一個裝置,這個裝置則是設計成把我們的行動引向政府和大公司的利益。

科學家和科幻迷無時無刻不在探討人類意識能否上載,然而更恐怖的情況是,或許現在從某個角度看,我們某些意識的元素早已經外判給我們的手機,這裝置卻是特別傾向大公司的盈利和國家的控制。西方看來想要阻止這情況發生,希望維持個體有全權選擇的感覺,但是中國卻擁抱──或至少是認可──這個逐漸增強的國家控制。從一方面看,中國的反應可能是兩者中比較健康的一方,但從另一方面看,中國無可地避免要接受事情的發展,而西方卻還有空間去抵抗。

 

* 文章的精選圖片是Jeremy Simmon的作品。Jeremy既是作家、藝術家、遊戲設計者,也是夜鬼一名。他的作品探索夢境(和惡夢)、時間和人類境況中無可解釋的本質。他的作品刊登於Best Modern VoicesShortVineThe News Record等刊物。他同時是Cincinnati Book Review的編輯。

Alfie Bown

Alfie Bown

恒生管理學院助理教授,著作探討科技的政治,著作包括《享受它:糖果大爆險與資本主義》(Enjoying It: Candy Crush and Capitalism,2015)和《Playstation的夢幻世界》(The Playstation Dreamworld,2017)。他是《香港書評》網站編輯。

發表迴響