時事分析 | 創新及科技發展 | 2016-04-09 | 《經濟日報》

讓人工智能領導人民?AlphaGo戰勝棋王的啟示



人工智能系統AlphaGo在圍棋對弈中,打敗南韓棋王李世乭[1],令人對「機器學習」(machine learning)的技術刮目相看。其實在公共政策層面,AlphaGo的勝出也別具意義。因為部分國家的政府和公共機構,近年已開始借助「機器學習」技術,代替人類作出簡單決定。當科技繼續推進,機器的學習乃至思考能力更高,日後由機器擔當「人類智慧的化身」,制訂政策,領導人民,或許不只是科幻故事的橋段。

圍棋的變化「無窮如天地,不竭如江河」,達10的171次方之數,有說比宇宙裏的原子數目更多;要以人工智能計算圍棋的所有變化,戰勝棋王級別的高手,被不少人視為「不可能的任務」。AlphaGo採用的「機器學習」技術,卻是另闢蹊徑,學習了人類高手大約3,000萬個圍棋走法,而且還透過自我對弈,發掘新戰略,領略取勝之道。[2]

累積現實數據 不斷修正預測模型

「機器學習」是怎麼一回事呢?簡單而言,「機器學習」鑒古知今,根據計算大量輸入值和輸出值之間的關係,「學懂」去預測輸出值。[3]比方說我們想知道學生學習時數與測驗成績的關係,起初我們先給系統一個模型和相關參數,例如假設學生不溫書會有50分,溫習5小時可得滿分,系統就會以一條方程式來呈現溫習時數與測驗成績之間的關連。下一步是輸入「學習材料」,也就是一些真實世界中的例子,讓系統比較方程式和真實情況的落差,然後作出調整,讓方程式更貼近現實情況。這個步驟不斷重覆,透過更多的實例參照和調整,一步一腳印改善模型,直至模型完善,能以學生溫習時數去預測測驗分數。[4]

也有情況,是不需由人類去輸入模型或指明要學習目標,例如Google的一組電腦網絡,能夠在「看」過約1,000萬個從YouTube影片擷取的圖像後,「學會」辨別貓的出現。[5]

「機器學習」的應用範疇,還包括互聯網搜尋技術、智能電話上的語音辨認系統、電子郵件系統識別「垃圾郵件」功能,以至偵測涉及詐騙的不尋常交易或繳費等。[6]Google甚至希望相關技術將來能有助人類應對更難解的問題,例如製作氣候模型及分析疾病數據。[7]

辨認郵件地址 識別違例泊車

現實中,亦已有政府機構應用「機器學習」,代替人類做繁瑣工作。以美國郵政署為例,「機器學習」技術推動了光學文字辨認技術,令軟件可以取代人眼辨認收件人的地址,再由機器為郵件分門別類。在2013年5月,軟件已經能辨認近98%手寫郵件及99.5%非手寫郵件的地址。[8]香港郵政的「機械揀信系統」始於1990年投入服務,由系統讀取信件地址,將揀信程序自動化。新的系統自2009年6月起全面運作 ,而當局正分階段為揀信機安裝中文光學文字閱讀功能,以便自動將印有中文本地地址的信件分類,預計新功能可於今年全面投入服務。[9]

在澳洲,悉尼的曼利議會(Manly Council)則運用「機器學習」技術處理北部海灣區(Northern Beaches)的違例泊車,包括旅遊巴在沙灘附近逾時停泊,以及車輛錯佔殘疾人士專用車位。經過「學習」後,程式能夠從監控鏡頭畫面,識別車位是否有巴士停泊,並用電郵傳送畫面給相關人員,讓他們只在有需要時才出動巡邏,而估計該項技術每年開支大約只需54美元。這項技術也有潛質用於其他方面,包括在運動場地不宜使用時,自動通知運動員,也可用於分析人群聚集情況,決定是否要作出疏散人群指示。[10]

尋找污染源頭 「檢舉」潛在罪犯

現時的「機器學習」技術,甚至已有能力做到更高層次的分析工作,應用範疇牽涉到人類的健康、自由以至生命安全的領域。在內地,科技公司IBM在2014年與北京市政府合作,開發一套空氣污染預測系統,用電腦分析從空氣質素監察站、氣象衛星和光學感應器,甚至社交媒體獲取的實時資訊,學習如何預測未來72小時空氣污染物的源頭和擴散情況。[11]當局現在有時會禁制全市工廠運作應對空氣污染,但政府將來的應對工作可以做得更精細,例如利用數據分析尋找空氣污染物的源頭,知道哪些工廠需要停工,哪些可以繼續運作。[12]

在美國,大約有三分二的釋囚會在出獄後三年內因再犯罪被拘捕。麻省理工學院(Massachusetts Institute of Technology)統計學教授Cynthia Rudin運用「機器學習」,以33,700名人士的犯罪史,建立一些據稱可以預測釋囚再犯機會的模型。模型會按照多個準則為囚犯計分,若然總分高於某個水平,就意味該人士較大機會在獲釋後三年內再犯事。Cynthia Rudin教授指出,這類預測再犯罪行為的模型,可用於作出社會服務資源分配、政策制訂,以至判刑、緩刑和假釋的決定。[13]

另外,根據一些洩密文件顯示,美國國家安全局(National Security Agency,下簡稱「國安局」)似乎曾試驗一套用上「機器學習」技術的系統,判斷有甚麼人為恐怖分子傳話帶信。該系統與科幻電影系列《未來戰士》(The Terminator)裏的奸角──人工智能系統「Skynet」(「天網」)同名,並且根據巴基斯坦大約5,500萬個手提電話使用者的資訊,包括他們如何移動、與何人通話、何時關掉手提電話等因素去判斷。[14]

演算法非全然客觀 離不開人為決策

「機器學習」的潛在應用範疇廣泛,似乎可以肩負愈來愈重大的責任。然而責任愈大,隻鑊愈大;處理垃圾電子郵件的系統出錯,最多只會令人誤刪重要郵件,但從以上例子可見,當「機器學習」技術應用到公共服務上,其錯誤可以影響到人身自由和安全。雖然人類也可能犯上同樣錯誤,但官員犯錯,公眾理論上尚可追究,機器犯錯,人類卻奈佢唔何。

再者,人工智能的決策,並非必然客觀,要人類心悅誠服地接受機器領導,恐怕不易。鼓勵創新的英國組織Nesta在其有關「機器學習」的報告指出,不同的「機器學習」方法,即使是用上同一套資料,也可以演算出截然不同的結果,原因之一,是不同演算法所採用的假設各異,而資料分析亦難免涉及人類的主觀判斷,例如哪個模型最佳、甚麼變量(variable)最合適。[15]因此機器的決定,始終會受把關人影響。

據報道,上文提到的洩密文件顯示,美國國安局的Skynet系統根據所得的資訊,計算出國際媒體半島電視台伊斯蘭瑪巴德(Islamabad)支部的負責人Ahmad Zaidan,有最大機會替恐怖分子當「傳話人」。[16]「天網」恢恢,疏而不漏,但世事未必都給「天網」看透。雖然Ahmad Zaidan與恐怖組織阿爾蓋達成員有緊密聯繫,會定期會面、交談和替他們傳話[17],然而,這可能只是出於記者使命,未必意味他抱有惡意或是與恐怖分子同夥。如何運用Skynet所得出的這個結果,仍然需要人類作出判斷。

機器也「歧視」?

關注網絡公民權益和人權組織民主與科技中心(Center for Democracy and Technology)提出,從「機器學習」技術產生的決定和結論可能有歧視成分,或者加深不公平現象,其理論是各個演算法終究是由人類輸入的資料和所訂的準則中「學習」,結論難保不偏不倚。舉例說,將深宵駕駛列為計算汽車保險的考量因素,背後可能假設了深宵駕駛的人經常流連酒吧,故此更易發生意外,不過這種假設也可能對從事夜間工作的人構成不公。[18]

要避免不公,訂立演算準則時須小心謹慎,Cynthia Rudin認為,制訂一個可以影響判刑的預測模型時,不應用「種族」作為模型的因素,以免人們因種族而受到更重懲罰。她和她團隊的模型,不單沒有放進種族因素,連社會人口特徵也避免使用。[19]

決策理據或無人知曉

借助人工智能系統為公共事務作決定,另一個問題是如何向公眾解釋。以機器決定甚麼工廠要關閉,工廠負責人會質疑為甚麼他的工廠要在霧霾天停產,其他工廠卻不需;在囚人士也會想知道為何他們的刑期較長,其他人則較短。不過由「機器學習」技術作出的決定,背後理據有時會無從稽考。曾在Google當軟件工程師的David Auerbach指出,即使是設計程式的工程師,自身也未必可以清楚解釋程式為何作出了某個決定,而當「機器學習」創造更多的協助分類的演算法,工程師不懂解釋的情況也會日益普遍。[20]若然政府根據「機器學習」技術得出的結論去作政策決定,卻只知其然而不知其所以然,自然難以服眾,因此在甚麼情況下接受機器領導,終歸需要人類自行思考。

英國政府在2015年12月推出《數據科學的道德框架草稿》(Data Science Ethical Framework Draft),以協助政府及數據人員在應用數據科學時,決定可以做甚麼及應該做甚麼。[21]框架提出,牽涉到數據科學的政府項目,愈公開透明愈好,例如相關人員能以淺白英語去解釋所使用的工具、數據和演算法。其他的建議還包括清楚指出項目帶來的公共利益、「機器學習」技術所用數據的質素和代表性、了解公眾對於使用其個人資料的期望,以及保障數據安全等等。[22]

要公眾安心接受「機器學習」技術,前提是政府和公眾對此已經有深入的了解。英國皇家學會在2015年就「機器學習」開展的工作項目,目標包括希望英國和歐盟的政策制定者以至英國公眾,可以更了解這項技術的潛能、機遇和挑戰。項目亦會觸及「機器學習」現時和未來五至十年的應用、這些應用為政府政策和社會帶來甚麼意義,以及這門技術引起的社會、道德和法律等問題。學會將在今年年底或2017年初推出報告,供英國和歐盟負責制訂政策的人士參考。[23]在香港,政府將在九龍東硏究發展「智慧城市」,藉數碼科技及智能資訊,改善城市管理和公共服務[24],當中會否採用「機器學習」技術,以及如何迎接這項技術帶來的挑戰,值得關注。

「機器學習」技術用途廣泛,可以衍生出圍棋大師AlphaGo,也可以衍生反恐工具Skynet。早前網絡流傳一段訊息,有人自稱「約翰.康納」(與《未來戰士》角色同名),聲稱從2029年回到現在,目標是摧毀Google總部,阻止地球到2029年時,被電腦「天網」統治,而AlphaGo則被視為「天網」雛形。不過該人在穿越時光途中,意外掉在中國,需要閱讀訊息的人捐助路費,讓他可以前往Google總部云云。[25]該段訊息,自然被視為笑話一則,但人工智能滲入生活的各個層面,已是不爭之事。Google是否存在 ,也阻擋不了它的步伐。

 

1 "AlphaGo's ultimate challenge: a five-game match against the legendary Lee Sedol," Google Asia Pacific Blog, http://googleasiapacific.blogspot.hk/2016/03/alphagos-ultimate-challenge.html, accessed March 17, 2016.
2 "AlphaGo: using machine learning to master the ancient game of Go," Google Official Blog, https://googleblog.blogspot.hk/2016/01/alphago-machine-learning-game-go.html, last modified January 27, 2016.
3 Harry Armstrong, "Machines That Learn In The Wild," Nesta..., July 2015, http://www.nesta.org.uk/sites/default/files/machines_that_learn_in_the_wild.pdf, p. 4.
4 Danny Sullivan, "How Machine Learning Works, As Explained by Google," Marketing Land, http://marketingland.com/how-machine-learning-works-150366, last modified November 4, 2015.
5 Quoc Le, "Building High-level Features Using Large Scale Unsupervised Learning," Research at Google, https://plus.google.com/ ResearchatGoogle/posts/EMyhnBetd2F, last modified June 27, 2012.
6 Stephen Goldsmith, "Innovation: What's the Next Phase?" government technology, December 1, 2015, http://www.govtech.com/data/Innovation-Whats-the-Next-Phase.html; Harry Armstrong; "Machines That Learn In The Wild," Nesta..., July 2015, http://www.nesta.org.uk/sites/default/files/machines_that_learn_in_the_wild.pdf, p. 5.
7 同2。
8 Simon Lidberg, Benjamin Wright-Jones, "Microsoft Analytics: The Next Wave," Sqlbits, https://sqlbits.com/Downloads/465/Microsoft Analytics The Next Wave SQL Bits - MSFT - 12.pdf, accessed March 15, 2016, pp. 5-7, Ron Nixon, "Last of a Breed: Postal Workers Who Decipher Bad Addresses," The New York Times, May 3, 2013, http://www.nytimes.com/2013/05/04/us/where-mail-with-illegible-addresses-goes-to-be-read.html?_r=0.
9 「香港便覽:香港郵政」,香港特別行政區政府新聞處,2015年12月。
10 Marie Sansom, "Sydney council uses machine learning to crack down on parking pests," GovernmentNews, November 2, 2015, http://www.governmentnews.com.au/2015/11/sydney-council-uses-machine-learning-to-crack-down-on-parking-pests.
11 "IBM Research Launches Project 'Green Horizon' to Help China Deliver on Ambitious Energy and Environmental Goals," IBM, http://www-03.ibm.com/press/us/en/pressrelease/44202.wss, last modified July 7, 2014; "Featured research: Green Horizon," IBM, http://www.research.ibm.com/labs/china/greenhorizon.html, accessed March 15, 2016; Louise Watt, "Beijing authorities use technology in pollution battle," Associated Press, December 9, 2015, http://bigstory.ap.org/article/b5cd6040107b4bcabda9a0ba39251be7/beijing-authorities-use-technology-pollution-battle.
12 Louise Watt, "Beijing authorities use technology in pollution battle," Associated Press, December 9, 2015, http://bigstory.ap.org/article/b5cd6040107b4bcabda9a0ba39251be7/beijing-authorities-use-technology-pollution-battle.
13 "MIT Sloan professor uses machine learning to design crime prediction models," MIT Sloan Management, http://mitsloan.mit.edu/newsroom/press-releases/mit-sloan-professor-uses-machine-learning-to-design-crime-prediction-models, last modified April 23, 2015.
14 Martin Robbins, "Has a rampaging AI algorithm really killed thousands in Pakistan?" The Guardian, February 18, 2016, https://www.theguardian.com/science/the-lay-scientist/2016/feb/18/has-a-rampaging-ai-algorithm-really-killed-thousands-in-pakistan.
15 同3。
16 同14。
17 同14。
18 A. R. Lange, "Digital Decisions: Policy Tools in Automated Decision-Making," Center for Democracy & Technology, January 14, 2016, https://cdt.org/files/2016/01/2016-01-14-Digital-Decisions_Policy-Tools-in-Auto2.pdf, pp. 3-4.
19 同13。
20 David Auerbach, "The Code We Can't Control," Slate, January 14, 2015, http://www.slate.com/articles/technology/bitwise/2015/01/black_box_society_by_frank_pasquale_a_chilling_vision_of_how_big_data_has.html.
21 "Data Science ethics," Data in government, GOV.UK, https://data.blog.gov.uk/2015/12/08/data-science-ethics, last modified December 8, 2015. 註:框架暫時仍是草稿,而非正式政策文件。
22 "Draft Data Science Ethical Framework," United Kingdom Cabinet Office, December 2015, https://data.blog.gov.uk/wp-content/uploads/sites/164/2015/12/Data-science-ethics-short-for-blog-1.pdf.
23 "Machine Learning," The Royal Society, https://royalsociety.org/topics-policy/projects/machine-learning, last modified November 20, 2015; "Machine Learning: Project scope," The Royal Society, https://royalsociety.org/topics-policy/projects/machine-learning/project-scope, accessed March 16, 2016.
24 「智慧城市@九龍東」。取自起動九龍東辦事處網頁:http://www.ekeo.gov.hk/tc/smart_city/index.html,最後更新日期2016年3月17日。
25 「網傳短訊指AlphaGo將統治地球『未來抵抗軍首領』掉落中國 籲助購機票毁Google總部」。取自明報新聞網網站:http://news.mingpao.com/ins/instantnews/web_tc/article/20160313/s00004/1457880773520,最後更新日期2016年3月13日。