由于真正的人工智能技術(shù)還未成熟，人類對自主智慧的風險預(yù)想大多集中在較可情境想象的“強人工智能”如擁有高度智能的機器人上;隨著物聯(lián)網(wǎng)/AI世代來臨，“弱人工智能”已先滲入人類生活，這些由具自主思考之機器所產(chǎn)生的不確定性也已開始在人類社會中發(fā)酵，我們不得不更早審視所有可能影響的人工智能范疇與其所產(chǎn)生的風險。

資源分配極度不均:人工智能已經(jīng)開始改變我們的工作型態(tài)，2016年全球經(jīng)濟論壇預(yù)測，人工智能與機器學習將于未來幾年造成約700萬個工作機會消失，并同時創(chuàng)造出200萬個新創(chuàng)的工作機會;英國物理學家霍金也認為，人工智能的崛起將可能重創(chuàng)中產(chǎn)階級而留下少數(shù)特定的工作，導致嚴重的經(jīng)濟失衡。這些推論都認為人類的“既有專業(yè)”將輕易地被機器快速復制，造成經(jīng)濟階層結(jié)構(gòu)性的調(diào)整并形成技術(shù)性的失業(yè)，生產(chǎn)效益與利潤會被集中掌握在少數(shù)擁有高度人工智能資源的群體手中，因此貧富差異極劇，社會高度暴露在資源分配不均的風險環(huán)境中。

信息壟斷:人類思考無法跳脫自身之經(jīng)驗范疇外，機器也是如此。人工智能若沒了數(shù)據(jù)，即便搭配再優(yōu)異的運算硬件與演算方法仍無法在目標的領(lǐng)域中發(fā)揮功效。未來在相關(guān)軟硬件技術(shù)到位的情況下，“足夠且有用(海量且標記過)的數(shù)據(jù)”將是人工智能產(chǎn)業(yè)建立利基的最大關(guān)鍵之一，各領(lǐng)域領(lǐng)先者會大量的對關(guān)鍵數(shù)據(jù)建立屏障來產(chǎn)生區(qū)隔，而使一般用戶取得數(shù)據(jù)的成本愈來愈高，造成“智者愈智、愚者愈愚”的信息壟斷風險。

未來無隱私:麥肯錫預(yù)估2025年將會有1兆種類的對象相互聯(lián)網(wǎng)，這表示在物聯(lián)網(wǎng)趨勢下，未來我們的周遭可能全是信息收集器，而在人工智能技術(shù)的涵蓋下，這些信息收集器可能都具有自主思考的功能并自行判斷所需的時機來開啟傳感器。無論未來隱私權(quán)的防治可做到何種地步，人工智能與萬物聯(lián)網(wǎng)的綜效一開始就將隱私權(quán)相關(guān)風險推進到一個很高的級數(shù)。

社會疏離:在網(wǎng)絡(luò)時代盛行時，依賴網(wǎng)絡(luò)虛擬世界來滿足社會互動的人數(shù)有顯著的提升，不同于真實世界，網(wǎng)絡(luò)虛擬世界的友善讓人與人的交流充滿了想象與機會，網(wǎng)絡(luò)虛擬的人格似乎也變得更有勇氣與創(chuàng)造力;但這畢竟不是真實世界，會讓對它極度依賴的群體產(chǎn)生跟真實世界間很大的落差，進而造成社會疏離的風險。而未來到了人工智能時代，這個虛擬的世界得到了延伸，各種虛擬現(xiàn)實與人工智能技術(shù)讓這虛擬世界更為真實，進而催生出更多上述的依賴群聚，造成真實社會間人際關(guān)系互動更疏離的現(xiàn)象。

無自主權(quán):在智慧科技時代人類所做的各種決定都是自主的嗎? 過濾氣泡現(xiàn)象或許已先給了警訊:人工智能已經(jīng)進化到可以判斷出日常生活中我們?？辞蚁肟吹男畔?，進而篩選出它認為對人們有用的內(nèi)容。機器投其所好的做法固然幫忙省了很多時間，但也讓我們得到的訊息越來越趨單一化，目前這現(xiàn)象普遍存在網(wǎng)絡(luò)如搜索引擎和社團群組里。在未來AI對象更普及的世界中，這種人類過度依賴且被單一化價值(或者是目標化價值)的現(xiàn)象會往更惡化的方向升級，導致人類在各領(lǐng)域無自主思考的風險，這某種程度上也算是人類心智上的滅亡危機。