如今，社交媒體機器人因大量輸出自動生成的內(nèi)容，而被指通過散布錯誤信息影響選舉和損害公眾健康?，F(xiàn)在，一些社會科學(xué)家對它提出了一項新指控:干擾研究，而后者會從熱門網(wǎng)站抓取有關(guān)人類健康和行為的信息。

據(jù)《自然》雜志報道，這些網(wǎng)站的數(shù)據(jù)會幫助科學(xué)家了解自然災(zāi)害是如何影響心理健康的，為什么美國年輕人蜂擁購買電子煙，以及人們是如何在復(fù)雜的社交網(wǎng)絡(luò)中聯(lián)系的。但是，這樣的工作需要從自生成的信息中辨別出真正的聲音。

“機器人被設(shè)計成像人一樣上網(wǎng)?！泵绹迳即壞霞又荽髮W(xué)社會科學(xué)家Jon-Patrick Allem說，“如果研究人員對描述公眾態(tài)度感興趣，必須確保在社交媒體上收集的數(shù)據(jù)真正來自于人?！?/p>

計算機科學(xué)家Sune Lehmann在2013年設(shè)計了他的第一個機器人，當時他在丹麥科技大學(xué)教學(xué)，該機器人是一個社交網(wǎng)絡(luò)實驗。他說，當時社交媒體上的機器人很簡單，主要是為了增加特定賬戶的“粉絲”數(shù)量。Lehmann想向?qū)W生展示這些機器人是如何操縱社會系統(tǒng)的，所以他們共同設(shè)計了一個模仿歌手賈斯汀·比伯粉絲的機器人。

這些“粉絲機器人”設(shè)計簡單，很快就吸引了成千上萬的關(guān)注者。之后，社交媒體機器人不斷進化，變得更為復(fù)雜并難以被發(fā)現(xiàn)。2016年美國總統(tǒng)大選過后，這些機器人迅速成為焦點，人們指責(zé)這些駐扎在社交媒體上的機器人，試圖影響投票結(jié)果。“突然之間，它成為了人們感興趣的東西?！盇llem說。

此后Allem發(fā)現(xiàn)，由機器人自動生成的“電子煙有助于戒煙”的內(nèi)容數(shù)量是真實內(nèi)容數(shù)量的兩倍，機器人也更有可能鼓吹未經(jīng)證實的大麻對健康的好處。這些研究依賴于算法，以估算社交媒體賬戶被機器人化的可能性。Allem說，盡管有檢測工具，許多社會科學(xué)和公共健康研究者還是沒有按步驟過濾出數(shù)據(jù)中可能自生成的內(nèi)容，部分原因是一些人覺得自己沒有這種操作的專業(yè)知識。

“這種遺漏可能會污染數(shù)據(jù)集?！瘪R里蘭大學(xué)帕克分校的Amelia Jamison警告說，她以健康差異為研究內(nèi)容，并在社交媒體上抓取反對接種疫苗的帖子。她表示:“將它們視為真正參與討論的人，你可能會人為地賦予機器人發(fā)言權(quán)。實際上，它們只是在放大一些可能不會被社群討論的東西。”她指出，在她的案例中，未清除機器人生成的內(nèi)容或?qū)е滤J為人們正在產(chǎn)生比實際情況更多或更不同的反疫苗言論。

德國科隆萊布尼茨社會科學(xué)研究所的信息科學(xué)家Katrin Weller指出，必須解決的一個問題是如何定義“機器人”。不是所有的機器人都會惡意散播錯誤信息，其中一些提供最新的氣象信息、海平面變化數(shù)據(jù)或更新一般新聞。一些研究人員將社交媒體機器人定義為那些每天發(fā)送超過一定數(shù)量信息的賬戶，但Weller認為，這是一個松散的定義，將涉及大量真實的用戶。

機器人檢測工具和機器人之間已展開了一場“軍備競賽”。早先的社交媒體機器人是相對簡單的程序，定期轉(zhuǎn)發(fā)他人發(fā)布的內(nèi)容?，F(xiàn)在，機器學(xué)習(xí)方面的進步使創(chuàng)建更為復(fù)雜的、發(fā)布原創(chuàng)內(nèi)容的社交媒體機器人成為可能。一些機器人會以隨意的時間間隔發(fā)布信息并模仿人類，比如在人睡覺的時段不發(fā)布。一些開發(fā)者將人發(fā)布的內(nèi)容和自動生成的內(nèi)容混合，以更好地偽裝機器人。

“一旦你對機器人以及如何檢測它們有了更多了解，機器人開發(fā)者也就可以獲得這些知識?！比鹗刻K黎世大學(xué)的Oliver Grübner說，“這非常棘手?！?/p>

像 Lehman一樣，一些社會科學(xué)家正在創(chuàng)造自己的機器人進行社會實驗。賓夕法尼亞州立大學(xué)政治學(xué)研究專家Kevin Munger和同事，就制作了一個在社交媒體上監(jiān)督使用種族歧視語言用戶的機器人。

在“粉絲機器人”取得成功后，Lehmann設(shè)計了更復(fù)雜的機器人來研究群體傳播。但由于機器人的名聲已壞，他決定放棄這種做法以免遭到公眾的強烈反對。“有關(guān)機器人的一切都沸沸揚揚。”Lehmann說，“我想找一個安靜的角落做我的研究，不要引起紛爭?！?br />