被智慧綁架？充滿錯誤與脆弱的智慧生活

2014-09-17 15:50

+A -A

加入收藏

隨著都市問題愈來愈迫切，又無法確定是否有足夠的資源與意願去因應，未來很多智慧科技將會在時間、預算更緊迫的情況下草率拼湊。如果未來的智慧城市充斥錯誤、體質脆弱、會監視人民呢？我們將陷入何種境地？

錯誤、脆弱與監視

帕羅奧圖市（PaloAlto）的卡拉菲亞咖啡（Cala.aCafe）是全世界最聰明的餐廳之一。管理者是谷歌前行政主廚查理．艾爾斯（CharlieAyers），餐廳的食物不只是要讓你吃飽而已；這裡可是加州─吃也是自我提升的一種方法。每一道菜的原料都精心安排，不只讓你瘦，還要讓你變得更聰明更有活力。五、六個創投業者正在吃蒲公英沙拉。晚上的帕羅奧圖市是寧靜的郊區，白天是矽谷的心臟，人類文明史上科學與工程人才最重要的財富創造中心。西邊對街是史丹佛大學，東邊數哩外是寬廣的谷歌園區。周遭大約有五十萬名工程師在此居住工作。一兩位科技大亨在此出入也很正常，賈伯斯便是常客之一。

但我去洗手間時發現，咖啡廳有一個重大的科技問題。儘管客人很有來歷，他們的智慧廁所卻無法作用。我滿懷希望盯著不鏽鋼馬桶，裝有沖水馬桶「大腦」的黑色小塑膠盒閃著紅光，卻只是對著我閃爍而毫無動靜。就在上方有一張告示指引解套方案：「如果感測器無法作用，請使用手動沖水按鈕。」我就是這樣脫身的，一眨眼間略過電腦科學與工業工程五十年的進步。

為什麼就連在矽谷的核心，人們也完全可以接受智慧科技會出錯、不規律或功能完全異常？也許某人剛在對街的生物科技實驗室找出治癌良方，到這裡吃午餐慶祝。但這位天才也會和我一樣使用手動按鈕，對於智慧科技的新世界如何一再讓我們失望想都不多想一下。我們正將這些科技融入家庭、社區甚至身體裡─但就連專家也對這些科技的缺點愈來愈自滿，到了讓人不安的地步。我們其餘的人更鮮少質疑。

我知道我應該停止擔憂，學習喜歡智慧廁所。但如果這是更嚴重問題的預兆呢？如果未來的智慧城市充斥錯誤、體質脆弱、會監視人民呢？我們將陷入何種境地？

充斥錯誤

幾週後，我在麻州劍橋的麻省理工學院校園逛，從肯莫爾廣場（Kenmore Square ）向西走，幾分鐘後我偶然來到布洛德研究所（Broad Institute ）的新家，這棟玻璃與鋼鐵的巨大建築裡設有十億美元的基因體醫學研究中心。朝向街道的牆面以眾多展示螢幕做裝飾，即時顯示樓上的機器所繪出的無數DNA 鹼基對。

然後我從眼角餘光看到了，藍色的死亡螢幕（Blue Screen of Death ），如同一般對微軟Windows 作業系統當機後的警示畫面的稱呼。我無望地看著玻璃後面的那片面板。看到的不是基因新發現的資訊，回望我的是一連串沒有意義的十六進位制數值，明確顯示某個CPU 核心深處發生了一項演算錯誤。我原寄望看到人類與機器智慧的歷史性融合，卻只發現另一隻蟲（bug ）。

蟲在我們的數位世界裡變得很常見，那是現代工程極度複雜與發展速度極快的結果。

但城市級系統的一些錯誤將擴散到整個網路，可能造成災難性的後果。華盛頓地鐵火災之前一年，舊金山灣區捷運系統（Bay Area Rapid Transit；BART ）的控制軟體發生錯誤，迫使整個系統在七十二小時內關閉系統三次。更讓人不安的是，一開始曾嘗試修正錯誤的程式，卻讓問題更惡化。後來的官方調查發現：「捷運人員立即開始準備一套備份系統，將來有任何軟體故障將能更快恢復。」但第一次故障才過兩天，「使用那套備用系統卻在無意間導致一處硬體故障，反過來引發更冗長的延遲。」所幸這些地鐵關閉事件都沒有造成人員受傷，但經濟影響可能很大─二○○五年罷工期間紐約地鐵關閉兩天半，估計經濟損失高達十億美元。

隨著都市問題愈來愈迫切，又無法確定是否有足夠的資源與意願去因應，未來很多智慧科技將會在時間、預算更緊迫的情況下草率拼湊。要符合這種可靠性的黃金標準─一年只能有幾次短暫陣發的故障─將會很辛苦。

智慧城市永遠會有正常的意外。正如都市化的快速步調突顯出低劣的建築手法，倉促建立的智慧城市也會有設計師與建築師走捷徑所造成的技術缺陷。

我們還無法清楚了解最大的風險所在，何時將以何種方式導致系統故障，或將造成何種連鎖反應。當一個智慧城市當機時誰要負責？市民要如何協助城市除錯？今天，當我們的桌機當機時，我們經常會寄送匿名的錯誤報告給軟體公司。這個模式是否可移植到嵌入式、普及運算的世界？

然而，充斥錯誤的智慧城市也可能有助強化民主制度，讓當局感受到必須實踐民主的壓力，雖則這可能有違直覺判斷。威德．羅許專門研究市民如何因應大規模的科技災難，如停電與核災。他認為：「大型科技系統發生控制失靈時，常能教育很多非專業市民，讓他們變得較積極去挑戰現有的科技計畫以及執行者的專業與權威。」他認為，正因大眾對我們自己造成的災難有這種反應，才會激發出「『科技公民精神』的新文化暗流，特點是對遍布現代社會的複雜系統有更多的知識與懷疑。」如果第一代的智慧城市確實證明具致命的缺點，也許會從灰燼裡孕育出更強韌、更民主化設計的種子。

體質脆弱

創造的神話仰賴的不只是事實，信念也同樣重要─網際網路也是如此。碰到危機時，蜂巢式網路會以各種難看的方式失靈：包括基地台受損（光是九一一事件時，世貿中心周遭就有十五個遭毀），基地台與電信網路連接的「回傳」光纖毀壞（這部分更多），還有電力不足（多數基地台只有四小時的電池備用）。二○一二年，颶風珊迪引發洪水，導致紐約市及上州郊區附近八個郡超過兩千個基地台的回傳網路被切斷（不包括紐澤西和康乃狄克），以及將近一千五百個基地台的電力受損。二○○五年八月的卡崔娜颶風吹倒路易斯安納和密西西比超過一千個基地台，嚴重阻礙救援，因為很多救災的政府機構只有一個共用的無線電系統，就是公共電話網路。二○一一年日本的海嘯夷平東京北方一些地區，手機基地台普遍遭摧毀，迫使人們訴諸收音機、報紙甚至是人員傳話做為溝通方式。宮古市緊急通訊主管告訴《紐時》：「當手機無法使用時，人們的生活會陷入癱瘓與恐慌。」

但對城市蜂巢式網路構成最大威脅的是人口密度。由於行動網路營運商會希望讓昂貴的頻譜執照發揮最大的獲利潛能，通常只建造足夠的基礎設施，讓少部分顧客可同時間在一個地方連線。此一精心規劃的計謀在業界稱為「過度訂閱」（Oversubscribing ），在正常狀況下還沒什麼問題，因為即使是最重度的使用者也鮮少一天聊上幾個小時。但碰到災難時，當每個人都開始恐慌，通話量大增，容量很快耗盡。例如九一一早上，紐約市能接通的手機不到二十分之一。十年後，狀況還是沒有多少改變。二○一一年夏天，美國東岸發生一次破壞性不大但可怕的地震，行動網路再度無法負荷。然而媒體的報導鮮少注意到這一點。在現代的都市生活中，危機發生時手機故障變得稀鬆平常，我們已不再質疑為何發生以及問題如何解決。

當公共雲端運算的基礎設施突槌時，便會突顯出倚賴網路app 有多危險。亞馬遜網路服務公司（Amazon Web Services ）是公共雲端運算的巨人，提供數千個大眾化網站使用。二○一一年四月發生重大當機，時間長達三天。根據該公司網站上對該事件的詳細報告，此次故障似乎是正常的意外。資料中心的內部網路原本要改變配置以提升容量，結果卻發生問題而將整個設施的流量轉到低容量的備份網路。在沉重的壓力下，「先前未遇過的錯誤」便發生了，使得操作者嘗試恢復系統時可能導致資料流失。其後在二○一二年七月，一場嚴重的電襲擊（electrical storm ）切斷該公司艾希伯恩資料中心的電源，關閉了最受歡迎的兩項網際網路服務──Net.ix 與Instagram 。《PC 世界》（PC World ）的標題嘲諷：〈亞馬遜雲端被真正的雲掃到〉。

雲端遠比我們多數人了解的更不可靠，其缺陷可能已開始造成真實的經濟損害。谷歌一向以資料中心的高品質工程自豪，二○○八年發生六次當機，時間長達三十小時。亞馬遜雲端向顧客承諾一年的正常運作時間是九九．五％，谷歌更保證優質app 服務可達九九．九％。聽起來似乎很了不起，但如果你知道即使經過數年愈來愈多次故障，即使在最容易停電的地區（東北），飽受惡評的美國電力業平均都有九九．九六％的正常運作時間，恐怕另做他想。但現實與完美之間即使只存在如此微小的差距，也會造成很大的代價。明尼蘇達大學的安明指出，美國經濟每年因停電與電力品質不穩，付出八百億到一八八○億美元的代價。依據國際雲端運算回復力工作組織（International Working Group on Cloud Computing Resiliency）公布的約略計算，二○○七年到二○一二年中，雲端故障的經濟成本僅七千萬美元（不包括二○一二年的亞馬遜當機）。

想想看，竟然有這麼一長串的意外情形，讓智慧城市因設計或疏忽而變脆弱！但如果有人刻意要破壞呢？網路破壞（cyber-sabotage ）對民間基礎設施的威脅才剛開始引起決策者的注意。二○一○年伊朗在納坦茲（Natanz ）的核子武器廠遭惡意程式震網（Stuxnet ）攻擊只是一個開始。一般認為震網是以色列和美國合作的產物，會感染用於監測與控制產業機器與基礎設施的電腦，稱為資料採集與監控系統（supervisory control and data acquisition；SCADA)。在納坦茲，約有六部離心機（centrifuges ）被用於將鈾濃縮到炸彈等級的純度。資安專家相信，透過USB 隨身碟傳入的震網，感染並控制該廠設備的SCADA 系統。此病毒會偷偷地破壞，同時通報一切正常，據信因此讓一千多部機器無法運作，相當程度減緩了濃縮過程，以及伊朗的核武發展計畫。

震網的廣泛散播很驚人。若是以傳統方式攻擊納坦茲廠，會使用雷射導引、可爆破碉堡的智慧炸彈（smart bomb ），震網不同，其攻擊之精準等同地毯式轟炸。後來德國專精SCADA 系統的電腦安全專家萊夫．藍納（Ralph Langner ）終於推論出此不明病毒的目的，但這時不只是伊朗，遠至巴基斯坦、印度、印尼甚至美國，類似的機器都被發現被該病毒傳染。到二○一○年八月，在一一五個國家發現超過九萬起震網感染事件。

另一個讓人不安的發展是舊式控制系統被發現愈來愈多「永日漏洞」（foreverday vulnerabilities ）。面對零時差攻擊，廠商與資安公司可以很快採取對策與補洞，永日漏洞不一樣，針對的是舊嵌入式系統的漏洞，因廠商不再支援，因此永遠不會被補起來。這個問題影響西門子、奇異以及一些小公司過去售出的工業控制設備。美國負責協調網路安全工作的網路緊急應變小組（Cyber Emergency Response Team ）愈來愈關注這個問題。

這些漏洞讓人對網際網路的整個開放設計產生質疑。沒有人想得到我們會如此普遍地將數位網路植入社會支持系統，過程如此草率，且惡意的勢力會構成這麼大的威脅。要確保智慧城市的基礎穩固，需要新的標準，可能還要新的規範。南韓的民用基礎設施遭遇過北韓網路戰士（cyberwarriors ）攻擊，其中一次據信使該國空中交通管制停擺超過一小時。除非發生危機，沒有什麼會迫使我們面對智慧城市基礎設施太脆弱的風險，但責任要由誰來負？城市？軍隊？國土安全部門？建造的科技公司？試想想震網引發的責任問題─若不是因為它本身的程式錯誤，我們可能永遠不會發現。

監視人民

當感測器在我們不知道或不願意的情況下被使用，便成為監視的工具。多數用以創造無縫監視系統（seamless snooping system ）的感測器都已存在，但相關資料─信用卡交易、邊境的護照掃描、電子郵件和電話─是由分散的各種組織掌握。對政府情報機構與執法單位而言，若能將這一切連結起來、過濾後整理成檔案就是智慧城市的殺手級應用。

如果這還不夠清楚，下面這件事絕對非常清楚：二○○二年，海軍中將約翰．波因德克斯特（John Poindexter ）回復公職，設立總體資訊掌握計畫（Total Information Awareness；TIA）─國防部藉此對全球反恐戰進行資料探勘。TIA 就像名稱一樣邪惡，核心要務是建立國防部所謂政府記錄、商業交易、攔截之私人通訊的「虛擬、中央化、龐大資料」。此資料將用以運算外籍訪客與美國公民的風險程度，全面探勘以找出恐怖活動的模式。其後該計畫的另一項層面受到嚴格審查─就地緣政治事件（geopolitical events ）的預測進行交易的虛擬市場，據信恐怖份子可能利用此市場從自己的犯罪行為獲利─二○○三年正當該計畫逐漸加溫時突遭國會中斷補助。

但期間TIA 的很多科技目標已被全球各地的政府與民間公司實踐。透過權力與控制的奇特重組，城市居住者的所有行動、交易、訊息現在都透過光纖偷偷流出去，成了城市遠郊伺服器場不斷進行樣式比對演算（pattern-matching algorithm ）的材料。大城市原本是隱匿身分的避風港，現在卻快速變成數位魚缸。TIA 的龐大資料庫試圖在巨量資料裡尋找恐怖組織的蛛絲馬跡，這一切暗中監看的真實價值其實很平凡─都是為了錢。

一切從我們的口袋開始。行動裝置如iPhone 會持續記錄我們到過的地方。蘋果在二○一○年低調透露這個做法，起初並未引起媒體注意，直到一年後安全專家阿拉斯戴爾．艾倫和皮特．沃頓（Pete Warden ）創造工具，讓使用者可輕易取得與製圖。此資料不僅周全詳盡；更被解密並複製到你同步的每一個載具。非iPhone 的所有者幸災樂禍，但半年後爆發另一樁醜聞，另一家廠商的產品普遍使用Carrier IQ 公司的軟體。此軟體不僅會追蹤地點，根據康乃狄克的系統管理員崔佛．艾克哈特（Trevor Eckhart ）所提供的證據，還會追蹤中途斷線的通話以及使用者的每一個按鍵與打字。無線業者聲稱此資料是進行技術問題的疑難排解時不可或缺的，但隱私監督者對其詳盡的程度感到咋舌。

多數手機容許你關閉地點追蹤，但手機與鄰近基地台溝通時會發出獨特的無線信標（beacons ），行動裝置可透過監督此信標的系統，在你不知情也未同意的情況下消極追蹤你。其中一種系統稱為足跡（FootPath ），由英格蘭樸次茅斯（Portsmouth）的智慧足跡公司（Path Intelligence ）銷售。二○一一年假期購物季來臨時，美國消費者驚訝地發現，購物商場業者林城商業管理公司（Forest City Commercial Management ）使用足跡系統來追蹤加州與維吉尼亞的購物者。足跡系統能夠追蹤我們的行動，係仰賴許多審慎設置的資訊搜集點，追蹤行動裝置在建物裡的移動。方法是針對我們的電話傳送給鄰近基地台的信標進行三角測量，便可掌握我們的位置，精確到「數公尺」以內的範圍（該公司未公開透露更清楚的細節），足以知道你如何從一家店逛到另一家店，你在店裡的「停留時間」，逛商店的順序，甚至是在大百貨商店裡各部門間的移動。足跡系統可能兩邊收費─他們可以將人口統計資料賣給零售商，同時賣給商場業者，以便業者協商較高的租金。除了在商場入口貼告示，請購物者關閉手機以選擇不參與，此系統完全隱形、被動、無法偵測。

在全世界很多地方，大規模都市監視是公開的，且通常廣被接受。近年來，中國當局實施有史以來最大規模的兩項都市監視計畫。二○一○年十一月，在民眾未反對的情況下，重慶市推動一項名為「和平重慶」的計畫，安裝約五十萬部攝影機，注視這座大都會的每個街角與廣場，監看六百多萬人的一舉一動。市政府有此做法，無疑是受到杜拜的啟發（在鐵腕市長薄熙來的指揮下進行，不過薄之後因涉貪下台）。杜拜安裝類似網路後成效卓著（總共二萬五千多部攝影機），二○一○年一月外國刺客侵入布斯坦羅塔娜飯店（Al Bustan Rotana Hotel ），殺害哈瑪斯領導者麥哈慕德．阿爾馬伯（Mahmoud al-Mabhouh ），便是因此被逐一揭露每個畫面。目前已知最早使用閉路電視攝影機監視民眾，是一九六○年泰國國王夫婦進行國是訪問時，英國用以監視倫敦特拉法加廣場（Trafalgar Square）的群眾，到今天都市視訊監視已有了長足的發展。

智慧城市對於大規模都市監視的容忍程度各地不同。政府（加上市民不等程度的投入）必須在侵犯的代價與及早偵測問題之間取得平衡。

為保護智慧城市而設計的大規模監視可能反而讓居民陷入很大的風險。大量的個人資料收集之後，很容易引來罪犯的覬覦。個資竊盜現在已到氾濫與驚人的地步─二○一一年四月，光是單一資安漏洞就導致索尼PS 網路（Sony PlayStation Network）─電腦遊戲玩家的網路社群─超過七千五百萬使用者的資料被盜，內容包括使用者的姓名、地址、密碼、信用卡號和出生日期。

我們喜歡把智慧城市想成善意的、無所不知的力量，永遠為我們的利益著想。這當然是科技大廠、政府與新創公司一致的宣傳詞。但監視機制的激增並非偶然。原本應該劃出界線保護我們的政府卻無法不去碰這些東西。我們一心急著要利用科技對周遭世界進行感測與控制，據此建造智慧城市，難保這些不會有一天轉過頭來控制我們，屆時我們有什麼好驚訝的嗎？

〈本文選自全書，曾琳之整理〉

作者：安東尼．湯森（Anthony M. Townsend）

都市計畫與科技專家，矽谷未來研究所(Institute for the Future)的負責人，曾經是南韓首爾發展機構的訪問學者，研究寬頻對於首爾都會區的社會影響。他同時也是推動無線網路普及化的先鋒之一。

出版：臉譜出版