人工智能的時代距離我們越來越近，當(dāng)機(jī)器人逐漸進(jìn)化到產(chǎn)生自我意識，世界將會變成什么樣？對于人工智能和機(jī)器人的看法，已故著名科學(xué)家斯蒂芬·霍金并不樂觀，霍金認(rèn)為，在機(jī)器人產(chǎn)生自意識后，機(jī)器人或?qū)猿饺祟惖乃俣妊杆籴绕?，機(jī)器人將會取代人類成為這個世界的主宰，這個世界或?qū)⒆兂梢粋€人類被奴役的世界。

快速發(fā)展的可能出現(xiàn)自我意識的機(jī)器人的前景，讓人聯(lián)想到終結(jié)者機(jī)器人或黑鏡反烏托邦，但是，現(xiàn)在一群科技研究人員聲稱，他們已經(jīng)開發(fā)出一種抑制人工智能出現(xiàn)不良行為的方法。

為了防止機(jī)器人產(chǎn)生自我意識，技術(shù)專家公布新的人工智能設(shè)計方法，來自馬薩諸塞大學(xué)阿姆赫斯特分校的首席作者菲利普·托馬斯表示：“當(dāng)人們應(yīng)用機(jī)器學(xué)習(xí)算法時，很難控制它的行為?！?/p>

根據(jù)托馬斯和他的同事們的研究，關(guān)鍵問題不是試圖教計算機(jī)遵守道德操守，而是設(shè)計機(jī)器學(xué)習(xí)算法，以便人類用戶以后更容易添加約束，使人工智能更安全、更公平的發(fā)展。

該團(tuán)隊提出了一個名為“Seldonian”算法的框架，該算法以科幻作家艾薩克·阿西莫夫創(chuàng)造的一個角色命名，用戶可以根據(jù)自己的需要指定不希望出現(xiàn)的不良行為。

托馬斯教授給出了在控制用于糖尿病治療的胰島素泵時使用算法的例子，并詳細(xì)說明了不良行為意味著危險的低血糖，托馬斯解釋稱：“大多數(shù)算法都無法給你提供一種約束這種行為的方法，因?yàn)樵缙诘乃惴ㄔO(shè)計中沒有包含這種約束?！?/p>

在發(fā)表在《科學(xué)》雜志上的一項研究中，該研究團(tuán)隊測試了他們的Seldonian算法，以預(yù)測巴西43，000名學(xué)生的平均績點(diǎn)，并表示該算法成功地克服了幾種類型的性別偏見。

研究人員分別來自美國的阿姆赫斯特分校和斯坦福大學(xué)以及巴西的里約熱內(nèi)盧聯(lián)邦大學(xué)，他們呼吁該領(lǐng)域的其他人繼續(xù)他們的研究途徑，以開發(fā)更負(fù)責(zé)任的機(jī)器學(xué)習(xí)。