9月15日,2025年國家網(wǎng)絡(luò)安全宣傳周正式啟動。會上,全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(TC260)技術(shù)文件《政務(wù)大模型應(yīng)用安全規(guī)范》正式發(fā)布。該規(guī)范是首個面向政務(wù)大模型的選用、部署和運(yùn)行階段提出系統(tǒng)化安全要求的技術(shù)規(guī)范指南,對提升政務(wù)AI系統(tǒng)的安全性及規(guī)范化水平具有里程碑意義。
作為起草單位之一,永信至誠結(jié)合自身在大模型安全測評、系統(tǒng)防護(hù)加固、內(nèi)容安全治理等領(lǐng)域的深厚技術(shù)積累與豐富實(shí)踐經(jīng)驗(yàn),深度參與了規(guī)范的編制工作,為其提供關(guān)鍵技術(shù)與實(shí)踐支撐。
《政務(wù)大模型應(yīng)用安全規(guī)范》圍繞政務(wù)大模型生命周期的關(guān)鍵環(huán)節(jié),明確提出一系列安全要求,內(nèi)容涵蓋模型選型可信性驗(yàn)證、系統(tǒng)防護(hù)加固、數(shù)據(jù)處理合規(guī)、內(nèi)容安全防控等方面內(nèi)容,為各級政務(wù)部門大模型的建設(shè)與應(yīng)用提供了清晰、可操作的安全實(shí)施指南。
永信至誠春秋AI測評「數(shù)字風(fēng)洞」平臺
作為AI大模型測試評估賽道的領(lǐng)軍企業(yè),永信至誠依托依托「數(shù)字風(fēng)洞」產(chǎn)品體系,基于“ISAC24”測試標(biāo)準(zhǔn)及超過500萬條標(biāo)準(zhǔn)測評用例,從智能度、安全度、匹配度與一致度四大維度對大模型開展綜合評估,系統(tǒng)識別各類潛在風(fēng)險,助力大模型在真實(shí)場景中安全、高效落地。目前,公司已為DeepSeek、通義千問Qwen、智譜GLM等主流基座大模型提供能力測評服務(wù),并在政務(wù)、醫(yī)療、汽車等行業(yè)輸出針對性的測試評估解決方案,持續(xù)推動AI安全生態(tài)健康發(fā)展。
作為數(shù)字安全測試評估賽道領(lǐng)跑者,網(wǎng)絡(luò)靶場與人才建設(shè)領(lǐng)軍者,永信至誠將持續(xù)深化人工智能安全技術(shù)研究,推動人工智能領(lǐng)域標(biāo)準(zhǔn)化建設(shè),并在產(chǎn)品研發(fā)、解決方案設(shè)計、培訓(xùn)服務(wù)等方面全面落實(shí)標(biāo)準(zhǔn)要求,保障數(shù)字健康,帶給世界安全感。