2022年，埃隆·馬斯克與Twitter的收購大戲，一度成為互聯(lián)網(wǎng)行業(yè)最熱門的話題。5月14日，馬斯克曾宣布暫時擱置交易，因為他想進一步了解Twitter存在的垃圾郵件和虛假賬號問題。在6月初獲得了一些數(shù)據(jù)后，馬斯克的團隊又在6月下旬要求Twitter提供更多數(shù)據(jù)以完成對平臺內(nèi)機器人賬號情況的評估。

 

不少評論認為這是一種壓價的手段，但馬斯克指出的問題，確實是長期縈繞在Twitter平臺的一片陰影。而這次收購也將“社交媒體機器人”（social media bot）再度引向人們的視野。

 

社交媒體bot是個常言常新的話題。自誕生以來，它的角色與功能一直在延展和演變，人們對它的態(tài)度也從一味的排斥，到將其納入正常的網(wǎng)絡賬號討論范圍中，呈現(xiàn)出復雜化趨勢。

 

那么，到底什么是社交媒體bot？本期全媒派（ID：quanmeipai）將回顧社交媒體bot的發(fā)展，討論它們的出現(xiàn)對當下社交媒體生態(tài)產(chǎn)生了哪些影響？

 

圖片來源：視覺中國

 

撰文 | 王煥超

編輯 | 石迪

 

從“模仿游戲”到“泡沫制造機”

 

1950年，計算機科學家艾倫·圖靈發(fā)表《計算機與智能》一文，這篇人工智能領域的奠基之作，討論了機器的對話水平測試問題。

 

圖靈用“模仿游戲”這個詞，定義了一種測試機器“智能程度”的實驗：由人類作為裁判，他把問題輸入計算機，并由計算機和另一個人類做出回答，而裁判必須確定哪一個回答是人類的。這就是著名的圖靈測試。

 

自圖靈測試提出以來，能夠模仿人類行為就成為計算機程序開發(fā)的關(guān)鍵目標。在這樣的目標驅(qū)動下，最早一批聊天機器人被制造出來，它們依托于數(shù)據(jù)庫，并基于文本或語音與人類進行對話。

 

20世紀60年代被推出的ELIZA，是世界上最早的聊天機器人，它使用簡單的基于規(guī)則的系統(tǒng)，使用數(shù)據(jù)庫中的預定義語句，能夠根據(jù)人類所說的話來創(chuàng)建回答。

 

聊天機器人是社交媒體機器人的原型，前者為后者的出現(xiàn)探索了相對成熟的技術(shù)基礎和運作原理。因此，隨著21世紀社交媒體廣泛興起，社交媒體機器人（下文統(tǒng)一稱“社交媒體bot”）馬上開始現(xiàn)身并發(fā)揮作用。

 

從定義來說，社交媒體bot是指參與社交媒體互動的自動化程序，這些程序的行為部分自主或完全自主，通常會模仿正常用戶的行為方式。

 

美國網(wǎng)絡和基礎設施分析辦公室（OCIA）對社交媒體bot的定義是：“體量不同的程序，在功能、性能和設計等方面存在差異；通常應用于社交媒體平臺，在模擬人類行為的同時執(zhí)行各類有用或惡意的任務。這些程序使用人工智能、大數(shù)據(jù)分析和其他程序或數(shù)據(jù)庫，來模仿合法用戶發(fā)布內(nèi)容。”[1]

 

對于社交媒體bot，學術(shù)領域很早就有所關(guān)注。比如Yazan Boshmaf等學者在2011年的研究，是最早闡釋社交媒體bot的學術(shù)論文之一。

 

研究認為，社交媒體bot有這些特征：可以模仿人類行為，類似于聊天機器人；以“機器人網(wǎng)”的形式分組出現(xiàn)；背后由人類驅(qū)動、指揮；能夠點贊或發(fā)送好友請求，或者通過轉(zhuǎn)發(fā)現(xiàn)有內(nèi)容，或在互聯(lián)網(wǎng)上抓取預定義關(guān)鍵詞并生成內(nèi)容，進而在社交媒體上發(fā)布。[2]

 

除了關(guān)注社交媒體bot及其影響，還有一系列相關(guān)研究，關(guān)注從技術(shù)層面來加強對社交媒體bot賬號的識別。

 

而從社會認知角度來看，更為關(guān)鍵節(jié)點是在2016年的美國總統(tǒng)選舉和英國脫歐等事件中，社交媒體bot被媒體廣泛報道，進而被大眾熟知。

 

2016年11月，美國大選分出勝負。但根據(jù)美國當?shù)孛襟w的報道，競選雙方的網(wǎng)上“支持者”中均有不少是機器人。根據(jù)統(tǒng)計，在2016年美國總統(tǒng)大選討論中活躍的Twitter用戶，有15%是機器人，至少有40萬個機器人發(fā)布了380萬條推文，約占總量19%[3]。

 

同年6月，英國舉行了脫歐公投，在公投的推進過程中，社交媒體上爆發(fā)了激烈的討論。英國《獨立報》認為，社交媒體bot在脫歐公投中發(fā)揮了重要的戰(zhàn)略作用[4]。

 

由于時空差異性，不管是當時的美國大選還是英國脫歐，都離現(xiàn)在的我們比較遠。大部分人對社交媒體bot的切身感知，還是源于日常的社交媒體使用經(jīng)驗：那些隨處可見的廣告機器人、發(fā)布詭異內(nèi)容的僵尸賬號、關(guān)注列表里不知來源的關(guān)注者等等。

 

盡管社交媒體bot中也有許多正面用途的存在，但是它們中的大部分，通常是以負面形象走進網(wǎng)友視線的。

 

營造數(shù)據(jù)上的虛假繁榮

 

在社交媒體時代，粉絲數(shù)和互動數(shù)，常常被認為是影響力的象征，而影響力又與變現(xiàn)能力緊密掛鉤。以Twitter為例，一個擁有十萬粉絲的KOL一條推文的平均收入大致為2000美元，而擁有百萬粉絲的KOL一條推文收入會賺到20000美元。

 

在這樣的利益驅(qū)動下，社交媒體bot的主要作用之一，就是刷量，從而營造出一種虛假繁榮的狀態(tài)。點贊、評論、轉(zhuǎn)發(fā)、關(guān)注，凡是能用數(shù)據(jù)量化的，都是bot的用武之地。

 

《紐約時報》曾發(fā)布一篇題為The Follower Factory的深度報道，報道調(diào)查了僵尸粉販賣公司Devumi。Devumi擁有20多萬名客戶，包括真人秀明星、職業(yè)運動員、喜劇演員、TED演講者、牧師和模特。

 

大多數(shù)情況下，賬號所有者會自己購買僵尸粉，除此之外，員工、經(jīng)紀人、公關(guān)公司、家人或是朋友也會擔任購買者角色，每個假賬號僅需花費幾分錢甚至更少。在短短幾年內(nèi)，Devumi至少向3.9萬名客戶出售了大約2億個Twitter關(guān)注，獲利超600萬美元。[5]

 

通過影響輿論來影響重要事件

 

因為數(shù)量龐大且行動統(tǒng)一，社交媒體bot可以營造一種輿論假象，即一條信息或某種觀點，無論真實性如何，都受到許多人的歡迎和認可。

 

借助這一點，社交媒體bot就能影響重要事件進程，例如金融市場，通過大規(guī)模發(fā)布捏造的公司正面或負面消息，從而影響股價。

 

助推非法廣告宣傳

 

大多數(shù)用戶刷社交媒體時，應該都在評論區(qū)遇到過一些用色情圖片為非法網(wǎng)站引流的廣告機器人，這是社交媒體bot的另一個關(guān)鍵作用：發(fā)布非法廣告。這些廣告往往與博彩、色情等行業(yè)有關(guān)，并可能進一步引向釣魚攻擊和網(wǎng)絡詐騙，無法通過正常廣告渠道的審核，只能借助機器人的渠道來散播。

 

圖片來源：視覺中國

 

隨著社交媒體不斷發(fā)展，社交媒體bot的比例也在急劇上升。2015年，亞利桑那州立大學的Morstatter和Carley等學者的研究認為，Twitter中至少有7%帳號是社交機器人。而2017年的另一項研究發(fā)現(xiàn)，多達4800萬的Twitter賬號是機器人，占總用戶的15%。[6]

 

而此前Twitter高管在國會作證時表示，只有5%的Twitter賬號是由機器人操作的。關(guān)于虛假賬號的比例，也是馬斯克和Twitter遲遲無法達成一致的原因之一。

 

當然，社交媒體bot不只是Twitter一家的特色，其他社交媒體的情況同樣嚴重。2021年，一項研究統(tǒng)計，Instagram平臺上只有55%的個人資料是擁有合法賬號的真實人物[7]。2017年11月，根據(jù)Facebook向投資者透露，該平臺上的虛假賬號可能超過6000萬。

 

bot有沒有好壞之分？

 

社交媒體bot往往有這樣一些特性：每天大量發(fā)布內(nèi)容、頭像通常是圖案而非真實用戶照片、關(guān)注數(shù)遠高于被關(guān)注數(shù)、不切實際的回復速度、發(fā)布內(nèi)容相同且重復等等。

 

初期，用戶還能夠根據(jù)這些特性來分辨哪些是bot，哪些是真人，但隨著技術(shù)能力的提升，社交媒體bot的仿真程度越來越高，因而也帶來更高的識別難度，普通用戶往往沒有這個辨別力。

 

顯而易見的事實是，不管是內(nèi)容生態(tài)還是用戶體驗方面，社交媒體bot都給社交媒體帶來了許多負面影響，而且還容易產(chǎn)生法律風險。

 

出于這一點，打擊社交媒體bot成為一場持久而艱難的戰(zhàn)爭。許多工作通常是平臺本身做的，比如Twitter、Instagram、Facebook等，都曾借助大規(guī)模算法檢測來識別機器人賬號，并進行封禁，但為了避免被灰產(chǎn)利用，打擊策略通常保密。

 

還有一些檢測措施來自平臺外部，比如美國印第安納大學推出的Bostometer（前身為BotOrNot），就是最著名的機器人賬號檢測工具。這是一項公共網(wǎng)絡服務，通過檢查Twitter賬號的行為活動，根據(jù)多項評判指標賦予該賬號一個分數(shù)。

 

在此類檢測中，“蜜罐賬號”的方式常常會被使用，即發(fā)布明顯的荒謬內(nèi)容，吸引機器人賬號轉(zhuǎn)發(fā)，這樣就能快速識別社交媒體bot。不過，由于社交媒體bot的進化迅速，檢測方法必須不斷更新，否則將很快失效。

 

當然，對于社交媒體bot，“技術(shù)中性論”的原則依然值得考慮：技術(shù)是中性的，決定它們?nèi)绾问褂玫氖潜澈蟮娜恕?/span>

 

盡管社交媒體bot往往與“假新聞”“仇恨言論”“刷量”“灌水”等負面詞匯聯(lián)系在一起，但是也不乏正面的例子，比如自動抓取、聚合來自各種來源內(nèi)容的bot：Twitter上每日更新天氣情況、或者發(fā)布簡單新聞提要的機器人等等，它們隨處可見，不乏關(guān)注者，并且已經(jīng)成為社交媒體內(nèi)容生態(tài)的重要組成部分。

 

為了讓這類bot的功能更豐富，Twitter此前曾宣布將實現(xiàn)一定程度的自動化，以使其API可以被免費調(diào)用。現(xiàn)在，Twitter上的bot賬戶，已經(jīng)能夠提供報時、地震警告、股市新聞、火車延誤信息等豐富的服務型資訊內(nèi)容。

 

這樣的bot賬號在國內(nèi)社交媒體也很常見，比如“冷知識bot”“老照片bot”這樣的關(guān)注垂直話題的bot，又或者是“周杰倫_bot”這類同步明星偶像動態(tài)的機器人。

 

不過，相比起天氣預告機器人，后面這些賬號嚴格來說已經(jīng)不算是社交媒體bot，背后多是由真人運營的，內(nèi)容來源也非自動抓取，更多是粉絲投稿。

 

圍繞著機器人賬號本身的觀察，也成為一道獨特的景觀。它們所發(fā)布的內(nèi)容，大多基于數(shù)據(jù)庫已有信息存儲或是對平臺現(xiàn)有內(nèi)容的抓取，并通過進一步拼接合成而生成，但由于技術(shù)成熟度不高，這些內(nèi)容多數(shù)邏輯混亂，并存在語序錯亂、標題錯用等問題。

 

然而，把這些經(jīng)不起推敲的文字去語境化，有時能得到具有別樣文字美感的“僵尸文學”。

 

此前全媒派的一篇文章對此有所討論，并將僵尸文學劃分為“僵味情詩”“僵生哲理”“心靈僵湯”“意識流”等幾種類型。“在這種看似無序的文字碎片中，時而也會出現(xiàn)超現(xiàn)實趣味的‘意外之喜’”。

 

美國一家科技公司甚至推出了Twitter的“僵尸”克隆版社區(qū)：Botnet。在社區(qū)中，用戶的賬號是唯一的真實的社交賬號，而其他用戶是癡迷于夸贊用戶的社交媒介bot。無論用戶發(fā)布什么內(nèi)容，都有數(shù)以萬計的“僵尸賬號”給用戶點贊、評論。[8]

 

還有一種社交媒體bot類型，成為許多品牌和公司的寵兒，即具有查詢和自動回復功能來進行客服服務的bot，它們可以提供快速響應和全天候在線服務，來滿足消費者的需求。

 

總而言之，盡管社交媒體bot因為負面的使用方式而被關(guān)注，但它們也有相對正面的用途。技術(shù)是中性的，如何使用，要看背后的人。

 

人和bot共存，是必然嗎？

 

社交媒體時代，也是一個萬事萬物都可以被數(shù)據(jù)化的時代。一個人的影響力和知名度可被量化，與關(guān)注者等數(shù)字緊密掛鉤；而影響力又代表著各種變現(xiàn)能力：帶貨、接廣告、做代言……

 

當原來越多的人意識到“數(shù)據(jù)-影響力-變現(xiàn)”鏈條的存在時，社交媒體bot及其背后的整個行業(yè)就涌現(xiàn)而出。

 

假粉絲、假點贊和自動評論，催生出耀眼的、巨大的虛假泡沫。品牌方為動輒百萬計的關(guān)注數(shù)字，支付了高額刊例價和大量代言費，但卻很少接觸到對應數(shù)量的目標受眾。一項由CBS News報道的數(shù)據(jù)顯示，2019年全年，企業(yè)因“影響力欺詐”預計損失至少達13億美元[9]。

 

受害者不僅僅只有企業(yè)，如前文所說，社交媒體bot還會被用于操縱輿論，也是電信欺詐等非法活動的主要宣傳手段，所以受害者可能是我們每一個人。

 

即便負面影響如此之大，但是社交媒體bot卻遲遲未能清除，反而愈發(fā)猖獗，除了巨大的利益誘惑之外，其實還涉及相當復雜的原因，平臺層面的猶豫不決就是其一。

 

近幾年，許多社交媒體平臺采取了更加嚴格地打擊機器人賬號的措施，問題是，不管是更嚴格的注冊門檻，還是大規(guī)模的算法打擊，都有誤傷真實用戶的可能性。

 

同時，社交媒體往往要以數(shù)據(jù)的增長與否作為衡量平臺發(fā)展的依據(jù)，如用戶數(shù)、日常互動數(shù)、點擊數(shù)等，而這些數(shù)字也是廣告主付出廣告費的理由所在。

 

而社交媒體bot恰恰能提供這些方面的虛假繁榮，換句話說，社交媒體bot營造出的數(shù)據(jù)，不僅是渴望虛假影響力的“大V”們所追求的，一定程度上也是社交媒體平臺自身所需要的。

 

圖片來源：視覺中國

 

所以，盡管機器人賬號的存在會持續(xù)傷害社交媒體的生態(tài)，但打擊它們卻需要平臺自身極大的決心和長期主義精神，顯然并非所有平臺都是長期主義的信奉者。

 

2016年，Incapsula的一項研究得出結(jié)論：世界上一半以上的互聯(lián)網(wǎng)流量是由機器人產(chǎn)生的。這些機器人中有近30%被確定為“壞機器人”[10]。

 

社交媒體bot存在的更深層原因，就是對數(shù)據(jù)的推崇。啟蒙運動以來，科學與理性成為一種新的“拜物教”，步入現(xiàn)代社會，量化和數(shù)據(jù)成為了這一“拜物教”所追求的新錨點。

 

我們陷入到一種對于數(shù)字的狂熱追求之中，而社交媒體bot的存在，正是能夠維持這種狂熱的人為動力之一。只要對于數(shù)據(jù)的推崇始終存在，社交媒體bot或許永遠都不會消失。

 

社交媒體bot亦是一種隱喻。它是技術(shù)蔓延到各個領域的結(jié)果之一，先是生產(chǎn)與生活，是大機器、手機、汽車、飛機，我們已習以為常，并習慣享受技術(shù)所創(chuàng)造的便利，而現(xiàn)在到了思想與交流領域，我們才開始覺得這可能是一個問題。

 

隨著技術(shù)進一步發(fā)展與應用，我們可能也會覺得，與社交媒體bot共處是一件再正常不過的事情。

 

在The Rise of Social Bots這篇論文結(jié)尾處，作者Ferrara這樣預測：在社交媒體的未來，機器與機器的互動會是常態(tài)的方向，人類將在一個主要由機器人組成的世界中航行[11]。現(xiàn)在這種趨勢其實在逐漸顯現(xiàn)，很大程度上，如何分辨正常用戶與機器人，然后繼續(xù)自己的網(wǎng)絡沖浪之旅，已經(jīng)成為當下社交媒體用戶的必備能力。

 

或許有一天，不止是社交媒體，現(xiàn)實世界也成為了一半由bot、另一半由真實人類構(gòu)成的虛實交織的世界，那現(xiàn)在的社交媒體bot，或許是為我們提供了一種提前演練的機會吧。

 

【今日互動】

 

你在互聯(lián)網(wǎng)上遇到過哪些社交媒體bot呢？對于它們的存在，你持什么樣的態(tài)度？歡迎在評論區(qū)和我們交流~