全世界的大學(xué)都在進(jìn)行人工智能（AI）的重大研究，艾倫研究所（Allen Institute）等組織以及Google和Facebook等高科技公司。可能的結(jié)果是，我們很快將擁有與小鼠或狗一樣高的認(rèn)知能力的AI。現(xiàn)在是時(shí)候開(kāi)始考慮這些AI是否以及在什么條件下應(yīng)該得到我們通常給予動(dòng)物的道德保護(hù)了。

您可能會(huì)認(rèn)為，除非AI有意識(shí)，否則AI不應(yīng)該得到這種道德保護(hù)，也就是說(shuō)，除非他們擁有真正的經(jīng)驗(yàn)，真正的快樂(lè)和痛苦。我們同意，但是現(xiàn)在我們面臨著一個(gè)棘手的哲學(xué)問(wèn)題：當(dāng)我們創(chuàng)造出能夠帶來(lái)歡樂(lè)和痛苦的東西時(shí)，我們?cè)趺粗?？如果AI就像《星際迷航》中的數(shù)據(jù)或《西部世界》中的 Dolores一樣，它可以投訴并為自己辯護(hù)，從而開(kāi)始討論其權(quán)利。但是，如果AI像老鼠或狗這樣的口齒不清，或者由于某種其他原因無(wú)法向我們傳達(dá)其內(nèi)心生活，那么它可能無(wú)法報(bào)告自己正在遭受痛苦！

佛山市東聯(lián)科技有限公司AI研究人員表示：“我們建議成立監(jiān)督委員會(huì)，在考慮到這些問(wèn)題的情況下評(píng)估前沿的AI研究。這樣的委員會(huì)，就像動(dòng)物護(hù)理委員會(huì)和干細(xì)胞監(jiān)督委員會(huì)一樣，應(yīng)該由科學(xué)家和非科學(xué)家組成，包括AI設(shè)計(jì)師，意識(shí)科學(xué)家，倫理學(xué)家和感興趣的社區(qū)成員。這些委員會(huì)的任務(wù)是識(shí)別并評(píng)估新型AI設(shè)計(jì)形式的道德風(fēng)險(xiǎn)，并具有對(duì)科學(xué)和道德問(wèn)題的深刻理解，權(quán)衡風(fēng)險(xiǎn)與研究收益。

這樣的委員會(huì)很可能會(huì)判斷所有當(dāng)前允許的AI研究，在大多數(shù)主流意識(shí)理論上，我們尚未創(chuàng)建具有值得道德考量的有意識(shí)經(jīng)驗(yàn)的AI。但是，我們可能很快越過(guò)了這一至關(guān)重要的道德準(zhǔn)則，我們應(yīng)該為此做好準(zhǔn)備。