被操弄的真實：演算法中隱藏的政治與權力

泰娜‧布策（Taina Bucher）

泰娜‧布策（Taina Bucher）

挪威奧斯陸大學（University of Oslo）傳播媒體學系副教授。她的研究聚焦在演算法與社會、政治關懷之間的關係和牽連，以及用戶如何體驗、理解演算法中的權力與政治，並關心臉書的數位架構與平台影響力、社會技術觀點下的演算法等議題。

葉妍伶、羅亞琪

葉妍伶

英國愛丁堡大學翻譯碩士。矽谷創業家、Girls inTech臺灣分會會長。譯有《頂尖名校必修的理性談判課》、《能量七密碼》、《壓力更少，成就更多》、《五星級溝通術，你的成功巨浪》等，以及諾拉．羅伯特和史蒂芬．金等多位作家的作品。

羅亞琪

輔仁大學跨文化研究所翻譯學碩士。興趣廣泛，對文字、語言情有獨鍾，譯有《猶太教四千年》、《低碳飲食大革命》、《攀樹人》、《運動健護全書》等。

各界推薦

「要真正理解演算法的含義，只知道什麼是演算法，或如何使用演算法是不夠的。你需要有深入的邏輯計算能力，對於社會權力有著靈活的哲學思考，以及充足的生活歷練感受。本書作者泰娜‧布策擁有上述所有條件。在本書中，她對演算法給出了清晰且令人大開眼界的解釋，關於演算法系統（好比臉書）如何為社交生活帶來一種全新的技術。」

──塔爾頓‧葛拉斯彼（Tarleton Gillespie），微軟新英格蘭研究院首席研究員

好評推薦

洪士灝    國立臺灣大學資訊工程學系教授兼系主任

劉慧雯    國立政治大學新聞學系教授兼系主任

王國禎　　國立交通大學資訊工程學系教授

黃哲斌    新聞工作者

「如果這本書證明了友誼是可以計算的，那麼它也證明了學識是不可估量的。看到一名年輕學者真正了解演算法文化對日常生活的衝擊，是多麼讓人喜悅。」

──荷雪‧范迪克（Jose van Dijck），荷蘭烏特勒支大學（Utrecht University）人文學院教授

「這本精彩絕倫的好書幫助我們理解，演算法如何推波助瀾，形塑我們在這個世界的際遇與定向。從臉書動態消息到假新聞，作者泰娜‧布策釐清了最重要的問題，並非『什麼是演算法』，而是演算法『在什麼時候、用什麼發法發揮影響力』。」

──全喜卿（Wendy Hui Kyong Chun），加拿大西門菲沙大學（Simon Fraser University）傳播學院教授

推薦序　由政治與權力的角度看演算法／洪士灝

謝詞

一、緒論：經過程式設計的社會性

二、演算法的多樣性

三、既不黑，也不是箱子：理解或不去理解演算法

四、生活至上：當工程學參與其中

五、情意地景：日常生活中接觸的演算法

六、設計過的新聞：當演算法變得至關緊要

七、結語：演算法的生活

注釋

參考書目

罪惡關聯

　　「朋友」在社會學裡指自願形成的關係，可以提供各種情緒與社交功能，但「朋友」在平台的觀點裡是價值寶貴的數據載具，可以廣泛運用。網路媒體的一項核心原則就是點（用戶、企業、目標）能夠衍生多少資訊，邊（連結）就可以衍生出多少資訊。這表示用戶不只在填寫個人資料、按讚、留言的時候，提供關於他們自己的資訊；他們這麼做的時候也自然地告訴了平台他們在和哪些人事物互動。如果用戶的個人資料少了部分數據，或這個用戶沒有如平台的意積極互動，那麼要擷取更多用戶資訊的方式，就是透過他和其他人的連結。從平台的觀點來看，朋友就是資訊傳輸業裡的商品。當你檢視臉書描述廣告相關技術的專利文件時，這點就特別明確了。例如，若特定會員的個人資訊不足，平台會根據他的朋友屬性特製廣告。臉書稱這是「罪惡關聯」（Kendall & Zhou, 2010: 2）。這份專利文件的作者群說他們「相信古老的格言」，不過「罪惡」這個字還值得商榷。罪惡會引發責任、自治、當責等觀念。誰或什麼要為臉書上顯示的內容負責？誰應該要承擔責任？要理解用戶自己的行動，如何決定了他們在線上看到的內容比較容易，要接受用戶也決定了朋友看到什麼內容就比較難理解。臉書借用罪惡關聯的概念，暗示用戶成為了「共謀」，影響朋友看到的廣告，這似乎很有問題。現在大家都曉得用戶即產品，不是指媒體平台在買賣用戶，而是說用戶被平台用來推銷內容和產品──往往用戶還不知情──但這程度在演算法媒體的年代前所未見。如果友誼的古典意涵帶有政治意味，因為兄弟情誼的觀念透露出經過性別建構的階級（Derrida, 2005），那麼演算法的政治就暗示了另一種不同的階級──什麼「最好」、「最熱門」、「最夯」、「最相關」和「最多人感興趣」。

　　當我們在檢視演算法人生的輪廓與現狀時，我們必須要理解到演算法媒體形塑社會性的機制裡，政治和權力有深刻的糾結。本書不只要強調演算法今日在多數線上媒體平台裡，扮演核心的支配角色，也要呈現演算法如何持續地喚起並牽連著用戶、文化、實踐、擁有權、道德、虛構世界和影響。這表示討論演算法就是要問：用戶什麼時候、以什麼方式介入了演算法邏輯的開發與維護？還要問治理的相關問題：誰擁有數據？使用數據的目的是什麼？朋友對廣告商來說很有價值，演算法似乎降低了人們的自主性與意向性，因為演算法把用戶所做的一切都轉化為潛在的數據點，供廣告投放與動態消息內容來操作。這就是網路邏輯，用戶逃不掉。對新自由主義來說，「友誼不利於資本，因此就和其他一切一樣，受到了攻擊」（Cutterham, 2013: 41）。不但如此，如梅麗莎‧葛瑞格（Melissa Gregg）所稱，「『友誼』就是勞動，涉及了持續關注和培養，報酬包括了身分地位的提升與更多機會」（2007: 5）。如朗盧瓦和埃爾默（Langlois and Elmer）指出「社群媒體試圖要在人生挖礦」（2013: 4）。也就是說，社群媒體平台「不只是把用戶的注意力賣給廣告商：他們其實會協助找出最佳策略來充分駕馭用戶的注意力」（Langlois & Elmer, 2013: 4）。要達到這個目的，演算法就是鑰匙。如果我們想要理解權力和政治被當代媒體建構的方式，我們必須更仔細地看資訊、文化與社交生活被處理、被理解的方式。這就是本書的目標。

　　檢視演算法媒體和人生逐漸被演算法處理所影響的方式，代表我們要認同演算法不是靜態的物品，而是會演化、產生關係的動態流程，就扣在複雜的行動者組合裡，這其中有人類和非人類。經過程式設計的社會性，代表著社交關係（如友誼）不只是會被移到臉書這樣的平台上，還會從根本基礎轉導成另一個型態。特定的領域範圍因為一直接觸其他東西，而持續經歷變化或個體化，這個流程就可稱為轉導（Mackenzie, 2002; Simondon, 1992）。轉導不是要維持對友誼的興趣，與相關的字彙「技術性」可協助說明友誼等領域，如何因為社會物質的糾纏而誕生。利用臉書來進入社群網絡，就轉導或調整了一個人和朋友連結的形態。使用臉書的時候，友誼的技術性就會以用戶與演算法的結合呈現（如「你可能認識的朋友」這個功能）、或經過編碼的物品（如共享的影片）、和基礎建設（如協議和網路）。基欽和道奇（Kitchin and Dodge）指出：「影響改變的力量不是定數，而是根據關係而定且具有散播能力，是程式和人們結合的產物」（2005: 178）。轉導和技術性是很好用的分析裝置，可說明經過程式設計的社會性，因為他們點明了軟體有能力可以產生並舉例說明友誼的樣態，尤其是在操作的環境下。科技的生產力，透過技術性的概念呈現，不會是單獨或單向的力量。演算法和軟體在這個觀點裡，不會以絕對或明確的定義決定友誼是什麼。技術性可以有效地強調演算法是實體，打從根本和人們的作為與互動掛勾，才能在第一時間實踐和發展。採取這個觀點能讓我們把友誼，和其他經過程式設計的社會性，視為新興的社會物質成就。

　　回到本章一開始的那個十一月雨天：到底什麼類別被用來決定我和我朋友的動態消息上，會出現哪些廣告內容？這問題仍持續存在。是因為我點擊內容的行為嗎？我的年紀和性別嗎？我喜歡過的粉絲專頁嗎？是造訪過的網站所建立的檔案，所儲存的瀏覽資訊嗎？是我為我媽媽挑選禮物的網路設計精品店留下了資訊嗎？是我朋友點擊內容的行為嗎？是我朋友的朋友嗎？以上皆是或以上皆非嗎？不管原因到底是什麼，線上空間永遠都經過電腦根據特定的假設、常規和價值進行運算。雖然我們不知道也沒有辦法知道，我們的數據究竟如何被演算法處理，然後形塑了我們線上的體驗，從批判的觀點來看社會科技系統，搭配我們個人和演算法互動的遭遇與經驗，形成了人我連結與社會性，可以幫助我們看清楚「分類是個很強效的語義與政治干預」（Gillespie, 2014:171）。單從我動態消息裡出現的內容和廣告來判斷，我被當作是一個有小孩、過重且單身的人──這都不正確，至少目前不正確。臉書和程式設計過的友誼提供了有用的切入點，讓我們來看資訊如何在網路上被治理和組織，對演算法的權力與政治的理解，不能簡化到一個社群媒體平台。本書會呈現我們如何在被演算法調節後認識其他人、這個世界和我們自己，這是複雜的社會物質實踐的結果，超越了程式指令。臉書和經過程式設計的社會性，只是演算法安排後帶來新可能性、新實相和新干預的方式之一，還有很多其他方式。

　　到目前，我希望已經灌輸讀者足夠的好奇心，讓你想要和我一起前往接下來的章節，探究當代媒體局勢裡演算法的權力與政治。本書的目標是希望讀者不要變成演算法判斷的標的，而是為了自己站到高點去批評判斷演算法的運作方式。

推薦序　由政治與權力的角度看演算法

洪士灝　國立臺灣大學資訊工程學系教授兼系主任

　　身為資訊工程系的教授，我對於演算法不會陌生，但多半是從科技和應用的角度去看待之──解決這個問題要用哪個演算法？哪個演算法比較快？用什麼平台來實作選定的演算法比較好？乃至於估計做出來的產品服務會不會賺錢？這或許也是現今許多資訊專業工作者的日常，也是在本書中提及的臉書（Facebook）、Google、推特（Twitter）等科技巨擘中擔任要角的資訊工程師所念茲在茲的，但在與其他科技公司賽跑，以及和人工智慧競爭合作中度過極其忙碌的人生時，我們曾幾何時關注過我們資訊專業工作者在過去半世紀所創造出來的產品對人們和後世的影響？如果有心關注的話，該從哪個角度去看？

　　身為擁有4,972位朋友、被23,074人追蹤的長期臉書使用者，我能深深地理解本書所提及的「被操弄的真實」──能夠與想要操弄社群網路時代的真實的，不僅僅是幕後設計演算法的工程師、運用演算法的藏鏡人，還包括愈來愈倚賴社群媒體的新聞從業人員、試圖逆推演算法來優化媒體表現的社群關鍵意見領袖（Key Opinion Leader，KOL，常被稱為網紅)，乃至於被席捲進來的單位機構和普羅大眾，往往各有各的算計、思考著因應之道。社群媒體充斥於我們大多數人的生活已經是個常態，也在演算法的推波助瀾之下產生許多同溫層現象，但絕大部分的人對於演算法則是一無所知，或是毫無招架之力，該如何是好？

　　本書原著發表於二○一八年，在人們開始體會到社群媒體帶來了頗嚴重的深層問題，但眾說紛紜、無力面對的同時，作者已經從政治與權力的角度去深入詮釋社群媒體和演算法對文化的影響，相當地發人深省。作者多次引用傅柯（Foucault）對於權力的論述來探討社群媒體時代的權力關係，企圖理解理解演算法如何發揮力量，以及如何確保其可被問責。演算法雖然無法決定人們的行為方式，但會塑造一個環境，將某些主題定位得更真實，並可供我們使用，而如此的「定向」則影響著我們與周遭世界的融合，因此我們該如何劃下界線，讓各種操弄演算法的人或事為其結果負責？

　　就在寫這篇序文的同時，包括臉書、推特、YouTube在內的多家主流社群媒體，決定關停美國總統川普（Donald Trump）的帳號，正好可作為閱讀本書之後極佳的案例探討。川普經常運用社群媒體發聲，以此掌握政治與權力的制高點，而多數社群媒體基於對自身有利的演算法，配合著川普的政治宣傳，究竟對自譽為民主表率的美國政治社會造成了多大的影響？就在川普最需要社群媒體來傳訊給支持群眾的此時此刻，社群媒體對川普的停權，也充分展現了幕後藏鏡人操弄政治的極大權力，究竟他們是如何劃下界線的？誰又該對上述的現象負責？

　　話說國內不久之前的「韓流」，也引起許多國人對於社群媒體的討論。由各種藏鏡人支持營運、立場不同的新聞與社群媒體，的確是影響國內複雜的政治生態的關鍵力量。所謂「成也蕭何、敗也蕭何」，從許多的案例中，我們看到藉由媒體操弄真實的人，終究也被在媒體的操弄之下退去了光環，而人們在這些大規模的實際案例中，究竟學到了什麼？

　　我衷心地盼望，新一代的資訊學者能夠更關心社會議題，而關切政治、經濟、社會、文化、教育等議題的人們也能多了解一下演算法與資訊科技，持續透過跨領域的探討來進一步理解和回應上述的議題。在這個從社群媒體演化出數位分身（Digital Twin）充斥的新時代，計算思維（Computational Thinking）是非常重要的素養，在實體或虛擬的真實被許多演算法刻意或無意、直接或間接操弄的情況下，人們要如何經營和照護在實體和虛擬世界的真實自我？我沒有辦法給一個標準答案，但我自己希望透過個人在社群媒體上的分享和觀察持續進行思辨，幫自己尋求答案、構築真實。