www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁 > 芯聞號 > 極客網(wǎng)
[導(dǎo)讀]大型語言模型(LLM)提供商OpenAI和Anthropic日前與美國國家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)下屬的美國人工智能安全研究所(AISIC)簽署了一份協(xié)議,計(jì)劃在包括測試和評估在內(nèi)的AI安全研究方面開展合作。

大型語言模型(LLM)提供商OpenAI和Anthropic日前與美國國家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)下屬的美國人工智能安全研究所(AISIC)簽署了一份協(xié)議,計(jì)劃在包括測試和評估在內(nèi)的AI安全研究方面開展合作。

作為協(xié)議的一部分,Anthropic和OpenAI都將在向公眾發(fā)布他們的新模型之前與AISIC共享,以便進(jìn)行安全檢查。

AISIC負(fù)責(zé)人Elizabeth Kelly在一份聲明中表示:“有了這些協(xié)議,我們期待著與Anthropic和OpenAI開展技術(shù)合作,共同推進(jìn)AI安全科學(xué)的發(fā)展。”

這些協(xié)議是在美國總統(tǒng)喬·拜登通過一項(xiàng)行政命令近一年后達(dá)成的,這項(xiàng)命令為AI的開發(fā)和使用制定了一系列全面的標(biāo)準(zhǔn)、安全和隱私保護(hù)以及監(jiān)督措施。

NIST在7月初發(fā)布了一個名為Dioptra的新開源軟件包,允許開發(fā)人員確定哪種類型的網(wǎng)絡(luò)攻擊會降低AI模型的效率。

此外,NIST還根據(jù)行政命令發(fā)布了幾份促進(jìn)AI安全和標(biāo)準(zhǔn)的文件,包括其開發(fā)基礎(chǔ)模型的指南初稿“管理兩用基礎(chǔ)模型的濫用風(fēng)險”,以及作為NISTAI風(fēng)險管理框架(AI RMF)和安全軟件開發(fā)框架(SSDF)的配套資源,旨在幫助開發(fā)人員管理GenAI風(fēng)險的兩份指導(dǎo)文件。

協(xié)議還支持美國與英國AI安全研究所的合作

與LLM提供商達(dá)成的協(xié)議還包括一項(xiàng)條款,該條款將允許美國安全研究所與英國人工智能安全研究所的合作伙伴合作,并向兩家機(jī)構(gòu)提供有關(guān)其模型潛在安全改進(jìn)的反饋。

美國和英國的政府部門在今年4月初簽署了一項(xiàng)協(xié)議,測試支撐AI系統(tǒng)的安全LLM。

該協(xié)議由美國商務(wù)部長Gina Raimondo和英國科學(xué)、創(chuàng)新和技術(shù)部部長Michelle Donelan在美國華盛頓簽署,AI安全研究所之間的合作是該協(xié)議帶來的直接結(jié)果。

美國圍繞AI安全采取的其他措施

OpenAI和Anthropic簽署這份協(xié)議正值加州AI安全法案進(jìn)入成為法律的最后階段,該法案可能將制定美國最嚴(yán)格的AI法規(guī),并為其他類似的法規(guī)鋪平道路。

這項(xiàng)名為《前沿AI模型安全創(chuàng)新法案》(SB 1047)的立法為AI開發(fā)人員提出了嚴(yán)格的測試和問責(zé)措施,特別是那些創(chuàng)建大型復(fù)雜AI模型的開發(fā)人員。如果該法案成為法律,將要求AI公司在向公眾發(fā)布之前測試其系統(tǒng)的安全性。

直到8月早些時候,OpenAI還在反對該法案,直到最近才承諾支持該法案。

NIST還采取了其他措施,包括今年2月成立了由AI創(chuàng)建者、用戶、學(xué)者組成的AI安全咨詢小組,為AI的使用和開發(fā)設(shè)置了一些安全措施。

AISIC咨詢小組的任務(wù)是制定AI系統(tǒng)“紅隊(duì)”行動指南,這些任務(wù)包括評估AI能力、管理風(fēng)險、確保安全、以及為AI生成的內(nèi)容添加水印。OpenAI、Meta、谷歌、微軟、亞馬遜、英特爾和英偉達(dá)在內(nèi)的一些主要科技公司都加入了該聯(lián)盟。

聲明:該篇文章為本站原創(chuàng),未經(jīng)授權(quán)不予轉(zhuǎn)載,侵權(quán)必究。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫?dú)角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點(diǎn): 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實(shí)提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅(jiān)持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運(yùn)營商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團(tuán))股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉