時事分析 | 創新及科技發展 | 2017-10-09 | 《星島日報》

你玩A.I. A.I.玩你?



智能科技日新月異,電腦程式擊敗圍棋大師[1]、勝過電子遊戲頂尖高手[2],已不是天方夜譚。但人類總是不願輕易認輸,會嘗試以各種方法騙過程式,賺取甜頭,甚至重奪主導權。人機鬥法,榮辱未必是重點,勝負對社會產生的影響,才是惹人關注的話題。

鑽程式空子 某個人利益

去年微軟在Twitter推出一個能夠透過與人類對話學習的人工智能程式[3],結果卻被一撮Twitter用戶「教壞」,貼出帶有性別及種族歧視色彩、否認納粹大屠殺,以及認同白人至上的「推文」,結果程式僅面世16小時,就被微軟關掉。[4]這個例子正好說明,在互聯網世界「惡搞」程式,受影響的不會只是惡搞者和相關企業,因為「變壞」的程式可能會傷害到不同群體的感情,以至為一些不當行為搖旗吶喊。

為了某些目的鑽程式空子,其實相當普遍。現時許多網頁作者、程式開發人員,也會因應網絡搜尋器的排列準則,扭盡六壬,務求令自己的產品佔據搜尋結果前列。[5]部分政治群體也會藉此技倆宣揚政治主張,例如指稱氣候變化是騙局、同性戀有罪,以及散播反猶太人思想。[6]

如今共享經濟成為潮流,針對程式設定的行為也出現於相關平台。英國華威大學(University of Warwick)和美國紐約大學(New York University)早前聯合發表的研究,便指有Uber司機在網上討論區探討如何針對程式的設定「搵著數」,例如藉鼓動大量同行登出Uber程式,減少司機供應量,以提升車資。另外,針對不受司機歡迎的Uber「拼車」服務,有司機在討論區宣稱,只要在接載首程乘客後登出程式,就無需再接第二程乘客,佔盡Uber鼓勵司機做「拼車」生意的好處——只需向Uber付一成佣金,較一般情況下的三成為低。[7]

跟程式鬥智 不只為金錢

與程式鬥法,不一定是為了名利,也有時候是純粹「為啖氣」,宣洩被程式操控的不滿。上述有關Uber的研究,就發現有司機抱怨Uber的系統欠缺透明,令司機不知如何計算收入,難以爭取最高收益。[8]此外,司機「拼車」時,系統會為他們指定行車路線,但不論司機及乘客,很多都覺得所指定的線路莫名奇妙,乘客可能因此而怪罪司機,給司機「負評」。[9]司機的另一不滿點,是當他們向Uber公司求助時,往往難以接觸真人,要與程式打交道。[10]

種種不滿,促使了部分司機聚首網上討論區,探討Uber系統的運算方式,繼而衍生出各種陰謀論,包括認為Uber佔司機便宜,於是要作出反抗,提出各種突破程式限制的方法。[11]

人類操弄程式 影響可大可小

無論是基於甚麼原因,有人與程式鬥法,對利用程式展開業務的企業,總會構成或多或少的威脅。以網絡搜尋器為例,若其演算法能被輕易參透,人們便會對其失去信心,轉投其他服務提供者。其他服務提供者,也會針對完善演算法不力的公司,搶佔市場份額。例如Dogpile就聲稱能網羅及分析Google及雅虎等主要服務提供者的搜尋結果,提供最合乎用家需要的搜尋答案。[12]

程式被看穿,還可能演變成公關災難。被個別政治群組試圖操控搜尋結果的Google,便因此成為眾矢之的,包括指其提供含有仇恨、顛倒黑白內容的搜尋結果,形同圖書館職員向查詢猶太教資訊的用家,提供仇恨猶太教的書籍。[13]由此可見,若科網巨企無法控制各種虛假資訊、仇恨思想的傳播,對社會和企業本身,後果也可大可小。

採取主動 促使程式改變

當然,企業不會坐以待斃,會不時更新演算法,令尋找程式漏洞的人疲於奔命。Google現時用以判斷網頁排名的因素,就超過200個。[14]另外,上述Uber司機的佔便宜點子,也僅是司機在網上討論區「吹水」[15],未知是否可行,Uber也聲稱有技術防止司機推高車資。[16]

演算法要改進,用家也可以集眾人之力,防止惡意破壞。計算社會學家J. Nathan Matias,曾與討論區Reddit的版主合作進行實驗,在一些新聞帖文內貼出訊息,鼓勵網民核實相關帖文的內容,結果發現Reddit的演算法在計算帖文的排名時,會給予這類帖文較低分數[17],反映Reddit的演算法會因應網民的反應,減少某些資訊的傳播。[18]

在訊息能夠輕易廣傳的世界,如何處理有害資訊,是一個棘手問題。肆意干預企業運作,只容許某些消息曝光,可能會淪為言論審查;任由謠言和鼓吹他人作惡的訊息散播,後果同樣不堪設想。除了寄望政府和企業監察,用家也需運用選擇權,共同建立良好的網上文化。再廣泛一點看,用家的行為固然可以影響程式的判斷,然而程式背後的原理,卻未必公開。當人類的日常生活愈來愈受程式的決定左右,社會是否應該要求開發程式者公開程式的運作原理?公開後又會否令程式更易被惡意操控?這些問題,在未來都會成為爭議焦點。

1 "AlphaGo," Deepmind, https://deepmind.com/research/alphago, accessed August 24, 2017.
2 James Vincent, "Did Elon Musk’s AI champ destroy humans at video games? It's complicated," The Verge, August 14, 2017, https://www.theverge.com/2017/8/14/16143392/dota-ai-openai-bot-win-elon-musk.
3 Peter Lee, "Learning from Tay's introduction," Official Microsoft Blog, https://blogs.microsoft.com/blog/2016/03/25/learning-tays-introduction, last modified March 25, 2016; Alex Hern, "Microsoft scrambles to limit PR damage over abusive AI bot Tay," The Guardian, March 24, 2016, https://www.theguardian.com/technology/2016/mar/24/microsoft-scrambles-limit-pr-damage-over-abusive-ai-bot-tay.
4 Peter Lee, "Learning from Tay's introduction," Official Microsoft Blog, https://blogs.microsoft.com/blog/2016/03/25/learning-tays-introduction, last modified March 25, 2016;"Microsoft 'deeply sorry' for racist and sexist tweets by AI chatbot," The Guardian, March 26, 2016, https://www.theguardian.com/technology/2016/mar/26/microsoft-deeply-sorry-for-offensive-tweets-by-ai-chatbot; Rob Price, "Microsoft is deleting its AI chatbot's incredibly racist tweets," Business Insider, March 24, 2016, http://uk.businessinsider.com/microsoft-deletes-racist-genocidal-tweets-from-ai-chatbot-tay-2016-3.
5 "More guidance on building high-quality sites," Google Webmaster Central Blog, https://webmasters.googleblog.com/2011/05/more-guidance-on-building-high-quality.html, last modified May 6, 2011; R.L. Adams, "SEO 2017: 8 Crucial Rules For Dominating Google's Search Results," Forbes, November 29, 2016, https://www.forbes.com/sites/robertadams/2016/11/29/seo-2017-8-crucial-rules-for-dominating-googles-search-results/#4f4dcb767415; Alex Chris, "How to Improve Your Page Ranking for a Specific Keyword," Content Marketing Institute, http://contentmarketinginstitute.com/2016/01/improve-page-ranking-keyword, last modified January 6, 2016; Sarah Perez, "Report: Recent App Store Algorithm Change Points To Crackdown On 'Keyword Stuffing',” TechCrunch, https://techcrunch.com/2015/07/28/report-recent-app-store-algorithm-change-points-to-crackdown-on-keyword-stuffing, last modified July 28, 2015.
6 Olivia Solon and Sam Levin, "How Google's search algorithm spreads false information with a rightwing bias," The Guardian, December 16, 2016, https://www.theguardian.com/technology/2016/dec/16/google-autocomplete-rightwing-bias-algorithm-political-propaganda; Carole Cadwalladr, "Google, democracy and the truth about internet search," The Guardian, December 4, 2016, https://www.theguardian.com/technology/2016/dec/04/google-democracy-truth-internet-search-facebook.
7 Mareike Möhlmann, Lior Zalmanson and Ola Henfridsson, "Hands on the Wheel: Navigating Algorithmic Management and Drivers' Autonomy," May 2017, p. 12. 英國華威大學經智經詢問後提供上述研究文章。
8 同7,第9頁。
9 同7,第9頁。
10 同7,第8頁。
11 同7,第10至13頁。
12 "About Dogpile," Dogpile, http://www.dogpile.com/support/aboutus, accessed September 26, 2017.
13 Carole Cadwalladr, "Google, democracy and the truth about internet search," The Guardian, December 4, 2016, https://www.theguardian.com/technology/2016/dec/04/google-democracy-truth-internet-search-facebook.
14 "Penguin is now part of our core algorithm," Google Webmaster Central Blog, https://webmasters.googleblog.com/2016/09/penguin-is-now-part-of-our-core.html, last modified September 23, 2016.
15 同7,第12頁。
16 Ben Chapman, "Uber drivers work together to create price surge and charge customers more, researchers find," The Independent, August 2, 2017, http://www.independent.co.uk/news/business/news/uber-drivers-work-together-price-surge-go-offline-charge-customers-more-game-app-supply-demand-a7872871.html.
17 J. Nathan Matias, "Persuading Algorithms With an AI Nudge," CivilServant, https://civilservant.io/persuading_ais_preserving_liberties_r_worldnews.html, last modified February 1, 2017.
18 同17。