我會(huì)理事單位天融信科技集團(tuán)董事長(zhǎng)兼CEO李雪瑩博士受邀出席全國(guó)網(wǎng)安標(biāo)委2025年第一次“標(biāo)準(zhǔn)周”大會(huì)并發(fā)表主題演講
4月14至17日，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（以下簡(jiǎn)稱(chēng)“網(wǎng)安標(biāo)委”）2025年第一次全體委員會(huì)議暨“標(biāo)準(zhǔn)周”活動(dòng)在蘇州舉行。我會(huì)理事單位天融信科技集團(tuán)董事長(zhǎng)兼CEO李雪瑩博士受邀出席大會(huì)并發(fā)表《大模型應(yīng)用安全風(fēng)險(xiǎn)與防護(hù)實(shí)踐》主題演講，建議加快立項(xiàng)研究大模型安全防護(hù)網(wǎng)關(guān)相關(guān)國(guó)家標(biāo)準(zhǔn)，更好地支撐大模型應(yīng)用安全快速發(fā)展。
天融信科技集團(tuán)董事長(zhǎng)兼CEO 李雪瑩博士
在演講中，李雪瑩博士談到，Agent（自主決策型AI代理）和RAG（檢索增強(qiáng)生成）兩種大模型應(yīng)用模式，雖在技術(shù)實(shí)現(xiàn)邏輯有所區(qū)別，但均面臨著一定的安全風(fēng)險(xiǎn)。結(jié)合天融信自身的研究與實(shí)踐，她從大模型應(yīng)用的基礎(chǔ)設(shè)施層、服務(wù)層、用戶(hù)層、內(nèi)容層、監(jiān)管層五個(gè)層面深度剖析了相關(guān)風(fēng)險(xiǎn)與防護(hù)措施。其中，基礎(chǔ)設(shè)施面臨的站點(diǎn)風(fēng)險(xiǎn)屬于通用安全風(fēng)險(xiǎn)，在服務(wù)層的API調(diào)用風(fēng)險(xiǎn)、用戶(hù)層的交互行為風(fēng)險(xiǎn)、內(nèi)容層的模型濫用風(fēng)險(xiǎn)、監(jiān)管層的合規(guī)風(fēng)險(xiǎn)則為大模型應(yīng)用特有的風(fēng)險(xiǎn)，層級(jí)邏輯上相互關(guān)聯(lián)。
左右滑動(dòng)查看更多
安全是發(fā)展的前提，發(fā)展是安全的保障。李雪瑩博士結(jié)合近年來(lái)天融信在大模型應(yīng)用安全防護(hù)方面的實(shí)踐，提煉出“快、新、全”三大原則，有效保障大模型應(yīng)用安全。
部署直接有效的安全措施
當(dāng)前大模型的應(yīng)用正處于快速普及階段，需要以直接有效的措施，實(shí)現(xiàn)安全防護(hù)快速部署，解決大部分問(wèn)題。
天融信大模型安全防護(hù)網(wǎng)關(guān)TopLMG是一款專(zhuān)注于為企業(yè)級(jí)大模型提供全方位應(yīng)用安全防護(hù)的產(chǎn)品，可有效應(yīng)對(duì)上述五個(gè)層面的安全風(fēng)險(xiǎn)，并且充分利用AI技術(shù)實(shí)現(xiàn)精準(zhǔn)、高效防御。TopLMG有硬件形態(tài)、軟件形態(tài)、網(wǎng)元形態(tài)，可支持大模型在不同場(chǎng)景下的安全防護(hù)需求，全面符合TC260-003《生成式人工智能服務(wù)安全基本要求》和等保2.0三級(jí)增強(qiáng)要求等標(biāo)準(zhǔn)。
用安全大模型保護(hù)大模型安全
大模型的引入帶來(lái)了諸多新風(fēng)險(xiǎn)，需要以新措施加以應(yīng)對(duì)，即通過(guò)安全大模型來(lái)保障大模型的安全性。
此外，李雪瑩博士還提到，天融信自研的天問(wèn)大模型在2024年已通過(guò)“生成式人工智能服務(wù)備案”和“境內(nèi)深度合成服務(wù)算法備案”雙備案。
以體系化安全保障大模型應(yīng)用
大模型安全風(fēng)險(xiǎn)涉及面較廣，因此需要通過(guò)體系化的安全建設(shè)來(lái)保障大模型的整體應(yīng)用安全。
互聯(lián)互通是網(wǎng)絡(luò)安全能力躍遷的必經(jīng)之路，李雪瑩博士提出大模型應(yīng)用安全的體系化防護(hù)還需要廠商、產(chǎn)品之間的互聯(lián)互通。天融信大模型應(yīng)用安全防護(hù)體系框架由一個(gè)中心、三大安全能力支撐和X類(lèi)標(biāo)準(zhǔn)化防護(hù)組成。其中一個(gè)中心是指大模型安全運(yùn)營(yíng)中心，負(fù)責(zé)統(tǒng)籌協(xié)同各安全能力，支撐全網(wǎng)大模型安全運(yùn)營(yíng)工作；三大安全能力是指面向大模型應(yīng)用安全的風(fēng)險(xiǎn)監(jiān)測(cè)能力、安全防護(hù)能力和響應(yīng)處置能力；X類(lèi)標(biāo)準(zhǔn)化防護(hù)是指提供網(wǎng)絡(luò)、系統(tǒng)、應(yīng)用、數(shù)據(jù)、終端層面多種標(biāo)準(zhǔn)化技術(shù)防護(hù)手段，通過(guò)互聯(lián)互通協(xié)議，打通來(lái)自多家的防護(hù)產(chǎn)品，彼此聯(lián)動(dòng)智能化支撐上層安全能力的有效落地，保障大模型應(yīng)用安全。
作為全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)委員會(huì)委員，李雪瑩博士一直積極參加網(wǎng)安標(biāo)委相關(guān)的工作。在演講最后，她結(jié)合政策、標(biāo)準(zhǔn)規(guī)劃以及產(chǎn)業(yè)層面的觀察，建議加快立項(xiàng)研究大模型安全防護(hù)網(wǎng)關(guān)相關(guān)國(guó)家標(biāo)準(zhǔn)，更好地支撐大模型應(yīng)用安全快速發(fā)展。
“人工智能+”賦能各行各業(yè)蓬勃發(fā)展，成為推動(dòng)經(jīng)濟(jì)高質(zhì)量增長(zhǎng)的重要力量。技術(shù)發(fā)展得越快，安全保障的需求就越迫切。未來(lái)，天融信將以“人工智能+”為錨點(diǎn)，持續(xù)打造AI+安全融合發(fā)展新范式，不斷推動(dòng)AI技術(shù)在各行各業(yè)更廣泛、更深遠(yuǎn)地應(yīng)用，筑牢數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展安全底座。