www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁 > 物聯(lián)網(wǎng) > 智能應(yīng)用
[導(dǎo)讀]談到人工智能,有人會覺得它的出現(xiàn)會造福全人類,例如Facebook的CEO馬克·扎克伯格。當(dāng)然,也有人持反面觀點,例如伊隆·馬斯克、史蒂芬·霍金,他們認(rèn)為人工智能發(fā)展到某種程度后,可能就會像好萊塢大片里的劇情一樣,威脅全人類。

 談到人工智能,有人會覺得它的出現(xiàn)會造福全人類,例如Facebook的CEO馬克·扎克伯格。當(dāng)然,也有人持反面觀點,例如伊隆·馬斯克、史蒂芬·霍金,他們認(rèn)為人工智能發(fā)展到某種程度后,可能就會像好萊塢大片里的劇情一樣,威脅全人類。

那些持反面觀點的人,到底在怕什么?有證據(jù)么?今天,我們盤點一期那些讓人細(xì)思恐極的AI技術(shù),來看看人工智能是否值得引起人類足夠的擔(dān)憂。

01 攝像頭監(jiān)控情緒,鑒別罪犯和性取向

近年來得益于深度學(xué)習(xí)的迅速發(fā)展,人臉識別領(lǐng)域取得了重大進(jìn)展。開發(fā)者可以基于神經(jīng)網(wǎng)絡(luò)讓機(jī)器模擬出人類大腦的學(xué)習(xí)過程,并通過卷積神經(jīng)網(wǎng)絡(luò)模型和海量的圖片數(shù)據(jù)進(jìn)行訓(xùn)練,使生物識別從以前70%、80%的準(zhǔn)確率提升至近幾年的99.6%甚至99.7%,具備商用條件。

于是,“刷臉”成為了熱詞,人臉識別技術(shù)不斷進(jìn)入大眾視野,在人們衣食住行的各個領(lǐng)域發(fā)力,迎來運(yùn)用的“井噴期”,其中,金融和安防等行業(yè)成為應(yīng)用“先鋒”領(lǐng)域。隨著人臉識別技術(shù)的商用場景不斷擴(kuò)充,市場潛力巨大,資本嗅到商機(jī)紛紛涌入。

但隨著人臉識別技術(shù)的不斷成熟與普及,這項技術(shù)也逐漸讓人覺得細(xì)思恐極。

首先,人臉特征與指紋、虹膜相比,是一個具有弱隱私的生物特征。例如,很多人都會發(fā)自拍照,也是相對公開的特征。如何保證用戶數(shù)據(jù)安全尤為關(guān)鍵。

據(jù)媒體報道,在一個名為“你的臉就是大數(shù)據(jù)”的項目中,俄羅斯攝影師葉戈爾·茨韋特科夫在圣彼得堡用了6周時間拍攝100名地鐵乘客的人臉照片,之后利用人臉識別工具比對俄羅斯最大社交網(wǎng)站VK(VKontakte)上的5500萬用戶,找到了大約70名乘客的個人資料。

因此,在如今公共場合遍布攝像頭、各種手機(jī)APP具備人臉識別功能的環(huán)境中,如何確保收集用戶數(shù)據(jù)的部門和企業(yè)有效保障數(shù)據(jù)安全是非常令人擔(dān)憂的事情。

其次,人臉識別技術(shù)存在濫用現(xiàn)象。如果說在大街小巷安裝攝像頭、在火車站機(jī)場采用人臉識別技術(shù)是出于公共安全考慮,那么在學(xué)校課堂采用人臉監(jiān)控則引發(fā)大家的不適情緒了。

據(jù)媒體報道,杭州某中學(xué)將一款名為“智慧課堂行為管理系統(tǒng)”的科技應(yīng)用于課堂教學(xué)。該系統(tǒng)在學(xué)生上課起立時,幾秒鐘便可完成點名,用刷臉代替?zhèn)鹘y(tǒng)意義上的口頭點名和刷卡。

此外,該系統(tǒng)每隔30秒會進(jìn)行一次掃描,針對學(xué)生們閱讀、舉手、書寫、起立、聽講、趴桌子等6種行為,再結(jié)合面部表情是高興、傷心,還是憤怒、反感,分析出學(xué)生們在課堂上的狀態(tài)。

該消息一經(jīng)報道,立刻引起網(wǎng)絡(luò)爭議。支持者認(rèn)為,這種行為沒有問題,畢竟一切是為了孩子的前途。反對者則認(rèn)為,科技是用來服務(wù)人的,而不是監(jiān)視人的。對學(xué)生上課行為實施全程監(jiān)控,侵犯了學(xué)生隱私,增加了學(xué)生的壓力,況且用同一個標(biāo)準(zhǔn)監(jiān)視學(xué)生對學(xué)生來說也不公平。

或許,總會有一些家長們在面對孩子學(xué)習(xí)情況時變身虎爸虎媽嚴(yán)苛無比,但當(dāng)他們自身經(jīng)歷被無處不在的攝像頭監(jiān)控并識別情緒、分析心理活動時,就另當(dāng)別論了。此前百度宣布要推出一款基于人臉識別的社交軟件,能夠幫助戀愛小白識別對象的情緒,從而做出相應(yīng)舉動。如果這項功能真的很成熟,這恐怕并非有助于戀愛,而是讓人感到害怕了。

試想一下,甲方爸爸教你學(xué)做人,你面帶微笑洗耳恭聽,這時對方拿出攝像頭企圖判斷你是否正在腹誹;你成為被告站在法庭上為自己辯護(hù),來自各個方向的大大小小的攝像頭對準(zhǔn)你,記錄你每一個細(xì)微表情,分析你是否撒謊;或者中美貿(mào)易代表團(tuán)談判時,雙方都拿出攝像頭來試探對方底線……

這將是一個“老大哥正在看著你”的世界,人人企圖窺探別人內(nèi)心,人人也害怕被窺探到真實情緒。

除了AI技術(shù)識別情緒令人害怕,其他遭人非議的還有鑒定性取向、識別罪犯、政治傾向等。這種除了涉及到嚴(yán)重侵犯個人隱私權(quán)的問題,還有可能由于算法存在偏見導(dǎo)致鑒定結(jié)果出現(xiàn)偏差。如果將這種不加修正和制約的AI技術(shù)作為參考依據(jù),將會為全球因意識形態(tài)、宗教信仰不同所造成的摩擦斗爭火上澆油。

02 麥克風(fēng)偷聽用戶講話、監(jiān)聽手機(jī)打字

“我的命,我自己操盤”,這是《竊聽風(fēng)云2》中的經(jīng)典臺詞,但現(xiàn)實生活中,我們可能連自己手機(jī)的麥克風(fēng)都操盤不了。

你遇到過這樣的情況嗎?剛說了想吃什么,手機(jī)里就蹦出了它的推薦;剛說了要買什么,就出現(xiàn)了精準(zhǔn)推送的廣告。由于有多名用戶反映類似情況,有記者專門耗時3個多月,通過模擬用戶使用場景,對安卓手機(jī)、蘋果手機(jī)、蘋果平板電腦上的餓了么和美團(tuán)外賣進(jìn)行多輪測試。從測試情況來看,在隨后數(shù)分鐘到數(shù)小時的時間里,出現(xiàn)相關(guān)推薦的概率高達(dá)60%-70%。

盡管餓了么和美團(tuán)均否認(rèn)“監(jiān)聽用戶日常對話并做信息分析”,目前也沒有任何證據(jù)能夠證明APP通過麥克風(fēng)偷聽用戶講話,不過亞馬遜智能音箱Echo被爆“偷聽”用戶對話已是證據(jù)確鑿。

除了此前有Echo偷聽用戶談話,并將談話內(nèi)容發(fā)給其他聯(lián)系人的新聞傳出,最近亞馬遜還被彭博社爆出擁有千人監(jiān)聽團(tuán)隊,他們?nèi)斯ぢ犎『蜋z查用戶和智能語音助手Alexa的私人對話,目的是幫助Alexa改進(jìn)語音識別技術(shù)。

報道稱,有時候,參與其中的工作人員會聽到用戶私人的聲音片段,如一個女人洗澡時嚴(yán)重走調(diào)的歌聲,或者一個孩子尖叫著尋求幫助。還有兩名員工甚至稱,他們聽到過他們認(rèn)為是性侵案的聲音。當(dāng)這種事情發(fā)生時,他們會在內(nèi)部聊天室說出來解壓。

盡管亞馬遜發(fā)言人辯解他們只會注釋極小一部分的Alexa錄音樣本,幫助訓(xùn)練語音識別和自然語言理解系統(tǒng)的信息,目的是為了改善用戶體驗,“我們有嚴(yán)格的技術(shù)和操作保障,對濫用我們系統(tǒng)的行為采取零容忍政策。員工在工作流程中無法直接訪問能辨別用戶和賬號的信息。我們使用多重驗證來限制訪問,對服務(wù)加密,審計我們的工作環(huán)境,以對所有信息高度保密。”

但亞馬遜在其宣傳和隱私政策的材料中,沒有明確表明Alexa獲取的一些對話錄音是人工來聽,只是在常見問題解答列表中提到了一句“我們使用您對Alexa的命令來訓(xùn)練我們的語音識別和自然語言理解系統(tǒng)”。Alexa的隱私設(shè)置中,公司給用戶提供了禁用錄音開發(fā)新功能的選項。

彭博社看到的截圖顯示,發(fā)送給工作人員的Alexa錄音沒有提供用戶的全名和地址,但與用戶的賬戶號、名稱和設(shè)備序列號相關(guān)聯(lián)。

除了Alexa,依賴人類員工填補(bǔ)算法空白的,還有谷歌、Siri。早在 2014 年,谷歌 Chrome 瀏覽器就被曝出其語音識別功能存在漏洞,或?qū)⒅率褂脩舻碾娔X麥克風(fēng)長期被黑客監(jiān)聽。即使不是被黑客監(jiān)聽,Chrome 也一直被很多人質(zhì)疑通過麥克風(fēng)竊聽用戶談話,并通過談話內(nèi)容向用戶推薦相應(yīng)的廣告。

由此可見,那些需要進(jìn)行訓(xùn)練語音識別和自然語言理解系統(tǒng)的軟/硬件都存在竊聽的可能,麥克風(fēng)的安全隱患并不比攝像頭所帶來的小。并且,隨著科技的進(jìn)步,這種竊聽行為已達(dá)到細(xì)思恐極的地步。

不久前,媒體報道劍橋大學(xué)的一個科研團(tuán)隊通過手機(jī)的內(nèi)置麥克風(fēng),搭配AI算法,就能讓輸入的每一個字處于監(jiān)聽狀態(tài),哪怕是觸摸屏手機(jī)。

和大眾所了解的常識不同,事實上,即使是在觸摸屏上輕悄悄地操作,手指的每一次輕微的敲擊都會產(chǎn)生聲波。當(dāng)戳擊屏幕不同位置時,聲波信息也會有相應(yīng)的變化,這些信息恰巧可以被手機(jī)內(nèi)置的麥克風(fēng)捕捉到。

于是研究人員利用這個特點,開發(fā)了一個手機(jī)惡意應(yīng)用程序,當(dāng)這個程序被植入手機(jī)時,能夠調(diào)動內(nèi)置麥克風(fēng),讓其秘密開始工作,記錄下觸摸時的聲波信息。隨后,科學(xué)家們收集了聲波形狀與觸摸位置的對應(yīng)信息,訓(xùn)練出了一個AI模型,還原輸入內(nèi)容。

至此,作案流程已經(jīng)基本成型:惡意程序悄悄啟動→悄悄捕捉輸入密碼時的聲波→AI模型預(yù)測手指對應(yīng)在屏幕的位置→還原輸入的密碼和信息。

AI伙同麥克風(fēng),分工明確,里應(yīng)外合,井然有序地就能將你的隱私偷走。并且,隨著科學(xué)進(jìn)一步研究,目前能夠具備監(jiān)聽功能的遠(yuǎn)不只是麥克風(fēng)。

例如利用硬盤監(jiān)聽。硬盤工作的時候,主軸高速運(yùn)轉(zhuǎn)帶動盤片,上面的磁頭會感應(yīng)盤片上的磁場變化,通過改變磁場,來寫入數(shù)據(jù)。這個過程非常精細(xì)。只要受到外部的聲波沖擊,磁頭就會發(fā)生偏移。硬盤的位置傳感器,產(chǎn)生的電壓信號里就會體現(xiàn)出這個偏移。然后,科學(xué)家會利用AI來分析這個細(xì)小的偏移,以此還原人類說的話。

此外,科學(xué)家還認(rèn)為薯片包裝袋、鋁箔、水杯甚至盆栽植物,只要能受到聲波干擾的物體,便能變成監(jiān)聽工具。盡管這些方法尚在研究階段,但也足以讓人擔(dān)心。

03 智能機(jī)器人騷擾電話+大數(shù)據(jù)營銷+探針盒子非法獲取用戶隱私

在今年的315晚會上,央視曝光了“機(jī)器人撥打騷擾電話+逃避監(jiān)管的特殊方法+惡意收集的隱私大數(shù)據(jù)”的一條龍產(chǎn)業(yè),情況令人觸目驚心。

晚會報道稱,目前,屢禁不絕的騷擾電話部分是由機(jī)器人在撥打,而這類外呼機(jī)器人僅花費(fèi)3000元就能從一些高科技企業(yè)那買到。相較于人工一天最多撥出三五百個電話,機(jī)器人可以不休不眠地打電話,一天能打出幾千個。例如被央視曝光的某企業(yè)負(fù)責(zé)人就承認(rèn),他們公司機(jī)器人在一年多時間里撥打出去的騷擾電話已經(jīng)超過40億。


AI電話機(jī)器人的工作原理很簡單,就是將原始聲波轉(zhuǎn)為文字,然后電腦通過關(guān)鍵詞自動識別語義,在話術(shù)庫中匹配到話術(shù),然后播放出來。每套系統(tǒng)均被設(shè)定有總流程,一旦總流程走完,機(jī)器人將自動掛斷電話。

目前,市場上常見電話機(jī)器人的總流程大致可分為介紹服務(wù)、信息問詢、索取聯(lián)系方式三個部分。由于基本話術(shù)有限,所以機(jī)器人不可能解答出所有被提問到的問題。對于機(jī)器人未能回答的問題,會被系統(tǒng)按照序號記錄下來,當(dāng)把對這些問題的解答錄音導(dǎo)入系統(tǒng)后,機(jī)器人再被問到相同問題就可以答復(fù)出來。

此外,AI電話機(jī)器人還可以在一定程度上識別人類聲音,迅速做出判斷,按照劇本引導(dǎo)用戶進(jìn)行對應(yīng)操作,并借助大數(shù)據(jù)識別過濾能力,篩選出更精準(zhǔn)的目標(biāo)用戶,這意味著AI電話呼叫有可能會朝著越來越垂直的方向發(fā)展。目前,AI電話營銷機(jī)器人備受貸款、股票行業(yè)的青睞。

至于為何這種電銷公司如此猖狂、難以查封,則是因為一些機(jī)器人研發(fā)公司通過一種“硬件透傳”的方法將騷擾電話的記錄徹底隱藏,讓監(jiān)管部門也無據(jù)可查。

用機(jī)器人撥打騷擾電話,加上逃避監(jiān)管的特殊方法,一些外呼公司的外呼量大幅增加,那如何獲取更多號碼資源呢?

央視揭露,目前市場上存在一類名為“探針盒子”的產(chǎn)品,大小同充電寶一般。當(dāng)用戶手機(jī)無線局域網(wǎng)處于打開狀態(tài)時,會向周圍發(fā)出尋找WiFi的信號,“探針盒子”發(fā)現(xiàn)這個信號后,就能迅速識別出用戶手機(jī)的MAC地址。盒子采集到手機(jī)里面的MAC地址,自動轉(zhuǎn)換成IMEI號,再轉(zhuǎn)換成手機(jī)號碼。

搜集附近用戶手機(jī)號碼、撥打騷擾電話只是探針盒子的功能之一,3·15晚會上還曝光了不少科技公司推出的類似產(chǎn)品。

例如璧合科技的招財喵、智子信息科技的智子盒子,不僅可以收集用戶手機(jī)號碼,甚至可以對用戶進(jìn)行精準(zhǔn)畫像,曝光的個人信息包括性別、年齡、婚姻狀況、學(xué)歷甚至于薪資。一些公司將這種產(chǎn)品放在商場、超市、便利店、寫字樓等地,在用戶毫不知情的情況下,搜集個人信息。

至于這些盒子背后的大數(shù)據(jù),主要來源于用戶手機(jī)上所安裝的一些軟件。通常,我們在安裝一個APP時,第一步跳出的是用戶服務(wù)條例。如果需要安裝這個APP,必須得點擊同意這個服務(wù)條例才能安裝。隨后,APP會要求開通權(quán)限,例如是否允許訪問通訊錄、手機(jī)文件夾、訪問麥克風(fēng)、攝像頭等。在你點擊允許之后,當(dāng)你使用APP時候會產(chǎn)生用戶數(shù)據(jù),而這些數(shù)據(jù)可以用作商業(yè)營銷用途。

為了能正常使用App,用戶只能同意被獲取個人號碼等信息,然而在用戶不知情的情況下,這些個人信息卻變成了一些企業(yè)的牟利工具,被房地產(chǎn)、貸款、教育培訓(xùn)等第三方公司,用作撥打騷擾電話等商業(yè)營銷用途。

通過盤點我們發(fā)現(xiàn),那些讓人細(xì)思恐極的AI技術(shù),最令人害怕的地方都在于隱私泄露而大家毫不知情(萬分慶幸AI軍事化被聯(lián)名抵制)。我們生活在一個安全感和信任感逐漸崩塌的時代,除了對衣食住行的安全需求,在這個信息化時代,個人信息的泄露同樣讓人失去安全感。

李彥宏曾在某論壇上表示中國人對隱私問題沒那么敏感,很多情況下愿意用隱私交換便捷性。這句話之所以引起眾人憤慨,是因為得了便宜還賣乖。

事實上,用戶們在互聯(lián)網(wǎng)上“裸奔”全都是出于無奈。因為幾乎所有的互聯(lián)網(wǎng)應(yīng)用都在盡可能地搜集你的信息、你的社交圈、你的消費(fèi)習(xí)慣、你的個人愛好,而且明里暗里的重重技術(shù)門檻,讓你防不勝防甚至防也沒用。除非不使用互聯(lián)網(wǎng),否則你的信息和隱私就無處隱藏。

科技的進(jìn)步不應(yīng)該讓隱私保護(hù)成為空談,除了相關(guān)法律法規(guī)的完善,或許,我們還可以從歐美科技巨頭的做法中得到啟示。

此前谷歌宣布解散僅成立十天的AI道德委員會,引發(fā)業(yè)界轟動。谷歌解散委員會是因為其中的部分成員的身份、個人主張引發(fā)爭議,不少人工智能專家表示反對,同時谷歌員工也開始以聯(lián)名信的形式要求剔除該成員。于是谷歌公司宣布在目前的環(huán)境中,人工智能道德委員會無法按照他們想要的方式運(yùn)作。所以,決定暫時關(guān)閉委員會從頭再來。

從此次事件可以看出,輿論承擔(dān)著監(jiān)督的作用,強(qiáng)大到不可想象。如果我們每個人都如此一般注重個人權(quán)益,注重科技發(fā)展是否遵循倫理道德,抗議科技巨頭無所顧忌地收集使用個人數(shù)據(jù),抗議隱私泄露所造成的負(fù)面影響,即使目前科技發(fā)展的法律法規(guī)和倫理道德規(guī)范難以制定完善,也能消除“李彥宏們”的刻板印象,并讓他們投鼠忌器了。

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運(yùn)營商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團(tuán))股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉
關(guān)閉