螞蟻集團(tuán)、騰訊、百度等聯(lián)合編制大模型安全國(guó)際標(biāo)準(zhǔn)正式發(fā)布

4月17日消息，第 27 屆聯(lián)合國(guó)科技大會(huì)（the 27th UN CSTD Annual Meeting）正在瑞士日內(nèi)瓦召開(kāi)。大會(huì)期間，世界數(shù)字技術(shù)院（WDTA）發(fā)布了兩項(xiàng)國(guó)際標(biāo)準(zhǔn)：《生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》、《大語(yǔ)言模型安全測(cè)試方法》。

這兩項(xiàng)國(guó)際標(biāo)準(zhǔn)是由 OpenAI、螞蟻集團(tuán)、科大訊飛、谷歌、微軟、英偉達(dá)、百度、騰訊等數(shù)十家單位的多名專(zhuān)家學(xué)者共同編制而成。螞蟻集團(tuán)牽頭編制《大語(yǔ)言模型安全測(cè)試方法》，并參與制定了《生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》。

圖源：螞蟻集團(tuán)公眾號(hào)

這次發(fā)布的兩項(xiàng)標(biāo)準(zhǔn)是大模型及生成式 AI 應(yīng)用程序方面的安全性測(cè)試標(biāo)準(zhǔn)，有助于行業(yè)構(gòu)建安全、可靠的人工智能生態(tài)系統(tǒng)。

《生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》由 WDTA 作為牽頭單位，螞蟻集團(tuán)等多家單位共同參與。這項(xiàng)標(biāo)準(zhǔn)為測(cè)試和驗(yàn)證生成式 AI 應(yīng)用的安全性提供了一個(gè)框架，特別是那些使用大語(yǔ)言模型（LLM）構(gòu)建的應(yīng)用程序。它定義了人工智能應(yīng)用程序架構(gòu)每一層的測(cè)試和驗(yàn)證范圍，包括基礎(chǔ)模型選擇、嵌入和矢量數(shù)據(jù)庫(kù)、RAG 或檢索增強(qiáng)生成、AI 應(yīng)用運(yùn)行時(shí)安全等等。

《大語(yǔ)言模型安全測(cè)試方法》由螞蟻集團(tuán)作為牽頭單位。這項(xiàng)標(biāo)準(zhǔn)則為大模型本身的安全性評(píng)估提供了一套全面、嚴(yán)謹(jǐn)且實(shí)操性強(qiáng)的結(jié)構(gòu)性方案。它提出了大語(yǔ)言模型的安全風(fēng)險(xiǎn)分類(lèi)、攻擊的分類(lèi)分級(jí)方法以及測(cè)試方法，并率先給出了四種不同攻擊強(qiáng)度的攻擊手法分類(lèi)標(biāo)準(zhǔn)，系統(tǒng)地提供了大語(yǔ)言模型抗攻擊測(cè)試的評(píng)估指標(biāo)、能力分級(jí)、測(cè)試數(shù)據(jù)集構(gòu)建要求和測(cè)試流程等。

WDTA 官網(wǎng)發(fā)布《大語(yǔ)言模型安全測(cè)試方法》標(biāo)準(zhǔn) 圖源：螞蟻集團(tuán)公眾號(hào)

螞蟻集團(tuán)機(jī)器智能部總經(jīng)理、螞蟻安全實(shí)驗(yàn)室首席科學(xué)家王維強(qiáng)表示，生成式 AI 將釋放巨大的生產(chǎn)力，但也要對(duì)它帶來(lái)的新風(fēng)險(xiǎn)高度警惕。大型科技公司應(yīng)在促進(jìn)生成式 AI 安全和負(fù)責(zé)任的發(fā)展中有所擔(dān)當(dāng)，利用其資源、專(zhuān)業(yè)知識(shí)和影響力推動(dòng)最佳實(shí)踐，構(gòu)建一個(gè)優(yōu)先考慮安全、隱私、可靠和倫理優(yōu)先的生態(tài)系統(tǒng)。