1月14日，北京市第十六屆人民代表大會第三次會議舉行，市長殷勇作政府工作報(bào)告。報(bào)告提出，要提升優(yōu)勢產(chǎn)業(yè)發(fā)展能級，完善新一代信息技術(shù)、人工智能等產(chǎn)業(yè)支持政策。

對于人工智能的發(fā)展和落地，北京市人大代表張瑩就把人工智能應(yīng)用到了日常工作中。作為中國電信股份有限公司北京分公司10000號服務(wù)中心員工，她將算法與用戶實(shí)際訴求相結(jié)合，參與研發(fā)了服務(wù)大模型，以進(jìn)行全流程的智能輔助。

張瑩告訴新京報(bào)記者，本次上會她帶來了加強(qiáng)人工智能規(guī)則治理與健全人工智能領(lǐng)域?qū)I(yè)人才培養(yǎng)模式兩項(xiàng)建議。

構(gòu)筑大模型安全能力，用“魔法打敗魔法”

張瑩表示，當(dāng)前在人工智能規(guī)則治理方向中，惡意誤導(dǎo)模型、虛假信息傳播、有害的信息傳遞三個(gè)方面的問題較為突出。具體來看，惡意誤導(dǎo)模型使得模型訓(xùn)練結(jié)果受損，浪費(fèi)算力資源；模型生成的不真實(shí)或不良信息的傳播會影響公眾的價(jià)值觀和認(rèn)知，進(jìn)而被別有用心的人用于制造社會輿論，甚至涉及司法犯罪；大模型的普遍應(yīng)用一方面方便了工作生活，另一方面也造成了大模型生成有害信息無法事前攔截的問題。

對此，她建議針對受眾群體較大或訓(xùn)練成本較高的模型，采取必要的安全監(jiān)管措施，一方面針對數(shù)據(jù)的安全監(jiān)管，對敏感數(shù)據(jù)進(jìn)行加密和脫敏處理，確保數(shù)據(jù)存儲、傳輸及使用安全的基礎(chǔ)上，建立嚴(yán)格的數(shù)據(jù)訪問、處理控制機(jī)制，并構(gòu)建完善的審計(jì)流程，防止數(shù)據(jù)被惡意篡改或泄露。另一方面針對參與訓(xùn)練的技術(shù)人員建立完備的權(quán)限管理機(jī)制，按照“最小化”原則訪問其所需資源并對訪問及使用過程運(yùn)用自動(dòng)化安全檢測工具或平臺實(shí)時(shí)進(jìn)行審查及監(jiān)管，發(fā)現(xiàn)潛在的風(fēng)險(xiǎn)并及時(shí)修復(fù)。

張瑩認(rèn)為，在模型生產(chǎn)內(nèi)容安全風(fēng)險(xiǎn)加劇的情況下，需要迭代更新新型安全治理技術(shù)，構(gòu)筑大模型安全能力，用“魔法打敗魔法”。對可能存在的各類大模型安全風(fēng)險(xiǎn)相關(guān)數(shù)據(jù)進(jìn)行收集，構(gòu)筑完備的數(shù)據(jù)底座來為風(fēng)險(xiǎn)識別奠定基礎(chǔ)，并在數(shù)據(jù)底座的基礎(chǔ)上運(yùn)用合理的技術(shù)手段，如相似度匹配、語義分析等進(jìn)行有效的風(fēng)險(xiǎn)識別及風(fēng)險(xiǎn)等級評估。算法升級方面，針對模型結(jié)構(gòu)進(jìn)行優(yōu)化，基于當(dāng)前模型的特點(diǎn)可以針對性地進(jìn)行模型結(jié)構(gòu)改進(jìn)和訓(xùn)練策略調(diào)整。

試點(diǎn)在中小學(xué)開設(shè)人工智能實(shí)踐體驗(yàn)課 消除就業(yè)不確定影響

作為在行業(yè)一線進(jìn)行人工智能應(yīng)用落地的代表，張瑩也觀察到當(dāng)前企業(yè)內(nèi)人工智能高層次人才不足，青年科技人才更多是應(yīng)用層人才，能力偏重于數(shù)據(jù)資源應(yīng)用與數(shù)據(jù)加工挖掘，研發(fā)顛覆性成果需進(jìn)一步提升人才培養(yǎng)的深度與針對性。

在她看來，為減少人工智能出現(xiàn)“幻覺”，保持AI模型的自洽性需要在模型訓(xùn)練、推理、微調(diào)等不同環(huán)節(jié)由具備在交叉學(xué)科融合過程中運(yùn)用適當(dāng)?shù)募夹g(shù)來選擇符合邏輯的合理結(jié)果的專業(yè)人才，幫助模型自洽性的保持和提高。隨著人工智能技術(shù)的不斷進(jìn)步，未來的就業(yè)環(huán)境更加復(fù)雜，部分傳統(tǒng)職業(yè)用工需求將極速下降，而相應(yīng)地也會產(chǎn)生新的與人工智能領(lǐng)域相適應(yīng)的新型職業(yè)。

對此，她建議企業(yè)內(nèi)部針對人才培養(yǎng)加強(qiáng)頂層設(shè)計(jì)及戰(zhàn)略規(guī)劃，深化企業(yè)與高校聯(lián)合高層次人才培養(yǎng)模式改革，聚焦機(jī)器人、教育、醫(yī)療、文化、交通等領(lǐng)域，持續(xù)推進(jìn)交叉學(xué)科人工智能領(lǐng)域人才培育。

“適時(shí)試點(diǎn)在中小學(xué)開設(shè)人工智能實(shí)踐體驗(yàn)課程，鼓勵(lì)有條件的科技型企業(yè)與教育集團(tuán)或?qū)W校建立戰(zhàn)略合作關(guān)系，共同培養(yǎng)拔尖創(chuàng)新人才，使學(xué)生及家長對就業(yè)市場未來發(fā)展有一個(gè)客觀的認(rèn)知，對行業(yè)趨勢保持敏感，以消除未來就業(yè)環(huán)境的不確定性帶來的影響。通過針對性的培養(yǎng)專業(yè)素養(yǎng)及職業(yè)技能，鼓勵(lì)學(xué)生發(fā)展創(chuàng)新思維、邏輯思維和實(shí)施變革的能力，為未來新型職業(yè)尤其是行業(yè)顛覆性職業(yè)的人才缺口做足充分的準(zhǔn)備?！睆埇撜f。

新京報(bào)記者 羅亦丹

編輯 陶野

校對 盧茜