7月1日,加州禁止機(jī)器人假扮人類的一項新法已生效。因此,往后任何用作商業(yè)用途的聊天機(jī)器人,不論是打電話、發(fā)短信、還是在社交網(wǎng)絡(luò)上發(fā)言,都必須說明一下自己是一個機(jī)器人,否則將面臨罰款的處罰。
紐約客寫到:
這個規(guī)定就好比,制藥公司必須聲明,廣告里說自己吃了藥就好了的人,是花錢請的演員。
在美國,這樣的法律還是第一次生效。于是,網(wǎng)友又開啟了熱烈的討論。不到一天Hacker News熱度便超過了600。
這條法規(guī),是加州一位名叫Robert Hertzberg的參議員提出的。他說,這就是把高端的科技概念融入到基本的法律原則里來。不能以經(jīng)濟(jì)為目的去欺騙,也不能在競選過程中欺騙。當(dāng)初之所以發(fā)表這樣的提案,很重要的一個緣由,就是2016年美國大選。
那時,川川和希希都有競選機(jī)器人,但川川的機(jī)器人以五倍數(shù)量壓倒對手,且其中大部分機(jī)器人都來自俄羅斯。推特曾經(jīng)像參議院的一個委員會透露,2016年大選前,有5000只機(jī)器人(來自俄羅斯) 轉(zhuǎn)推川川的競選推特,一共接近500萬次。相當(dāng)于希希機(jī)器人轉(zhuǎn)發(fā)的10倍。
另外,還有一次電視辯論的網(wǎng)上投票,川川大勝也是依靠機(jī)器人的支持。競選只是一個栗子,人類因為機(jī)器人/AI的存在而大呼上當(dāng)?shù)那樾尾⒉簧僖姟S绕涫窃贒eepfakes出現(xiàn)之后:Facebook還曾經(jīng)因為沒有及時發(fā)現(xiàn)一條南希·佩洛希 (美國眾議院議長) 的假視頻,受到了墻裂的指責(zé)。不過相比整治偽造視頻,聊天機(jī)器人的規(guī)范化可能來得更加簡單一些。但即便是這樣,要變成法律實施,并沒有那么容易。
法案早期的版本,要求平臺把沒說是機(jī)器人的機(jī)器人全都下架,不限于商業(yè)/選舉造勢用途,所有聊天機(jī)器人都包括。于是,一提出便遭遇了迅猛的反彈,反對意見主要來自互聯(lián)網(wǎng)協(xié)會 (Internet Association) ,以及電子前線基金會 (Electronic Frontier Foundation) 。這一條很快便從草案里刪除了。不斷修改過后,才有了今天看到的版本,并在去年10月通過。但在已經(jīng)生效的今天,依然有不少人擔(dān)心,這條法律的打擊范圍過大。
華盛頓大學(xué)技術(shù)政策實驗室的Madeline Lamo教授說,機(jī)器人也會做好事的:
不止是畫畫,機(jī)器人還會通過假扮人類和去聊天,來學(xué)習(xí)人機(jī)關(guān)系該怎樣處理。
教授還提到,機(jī)器人的代碼也是人寫的,并不能因為一句話是機(jī)器人說的,就否定它也是人類創(chuàng)造力的產(chǎn)物。電子前線基金會的態(tài)度也是這樣:許多人都把機(jī)器人當(dāng)做一種有破壞性的工具,不會覺得它們也是一種表達(dá)的媒介。