3月26日，一場關(guān)乎AI未來的全球?qū)υ?，在博鰲亞洲論壇的現(xiàn)場激烈交鋒。官方圖
DeepSeek的橫空出世，吸引了全球的目光聚焦于中國。隨著AI技術(shù)的“狂飆式”發(fā)展，與之相伴的安全問題也引起市場廣泛擔憂。3月26日，一場關(guān)乎AI未來的全球?qū)υ挘诓梺喼拚搲默F(xiàn)場激烈交鋒。
針對通過標準能否解決人工智能的安全性問題，與會嘉賓給出了不同的見解， vivo首席安全官魯京輝表示，安全性問題不能簡單地通過制定法律或規(guī)則來解決，而是需要形成共識，但光有共識還不夠，因為這還涉及地緣政治、全球化等問題。
中國科學院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構(gòu)專家曾毅也表達了類似的觀點。他認為，由于很多安全和風險問題是不可預知的，對于不可預知的部分我們需要一直保持警惕。
中國工程院院士、清華大學智能產(chǎn)業(yè)研究院（AIR）院長張亞勤則認為，從可控性和可信度方面，技術(shù)是可以解決信息安全的?！皩τ陲L險，我們需要定義一些紅線和邊界，因為技術(shù)不斷發(fā)展，有了邊界之后我們是可以解決的，如果完全沒有邊界，只談一些大的原則，談一些具體方案是比較困難的?！?/p>
張亞勤：DeepSeek是近兩年來人工智能領(lǐng)域最大的創(chuàng)新
“今年以前，我們沒有想到會發(fā)生這么大的變化，AI已經(jīng)走向AI Agent（智能體）階段?！睆垇喦谔寡裕珼eepSeek是近兩年來人工智能領(lǐng)域最大的、系統(tǒng)性、規(guī)模性的創(chuàng)新，也是中國對全球的重要貢獻。
張亞勤表示，AI已從信息智能走向無人駕駛、機器人等物理智能，也走向人腦接口、生物體大模型等生物智能。他認為，無人駕駛是具身智能最大的應用，也是第一個能夠真正落地的方向，而人形機器人還需要更長時間。
談及AI Agent廣泛應用后的風險時，張亞勤指出，相關(guān)安全風險至少要增加一倍。“智能體是很好的技術(shù)，能夠自我規(guī)劃、學習、試錯并達到目的，是非常好的工具，但在其運行過程中，中間路徑不可控?！半m然智能算法并非完全的黑盒子，但很多運行機理我們并不清楚?！?/p>
張亞勤表示，風險主要表現(xiàn)為兩大方面，一種是可控風險，一種是被壞人所利用的風險?！傲硗猓覀冇弥悄荏w的時候需要設置一些紅線，比如智能體不能自我復制。確實能力越大，帶來的風險越高，特別是AI從信息智能到物理智能再到生物智能，風險會增加很多倍。”
曾毅：人工智能的發(fā)展和安全不是相互掣肘的關(guān)系
伴隨著人工智能的發(fā)展，業(yè)內(nèi)對其創(chuàng)新與治理的態(tài)度經(jīng)歷了顯著轉(zhuǎn)變。在去年的博鰲亞洲論壇上，業(yè)內(nèi)更多聚焦人工智能的發(fā)展前景及趨勢，今年論壇將目光瞄準了更深層次的問題，人工智能的應用與治理。
“去年全世界的科學家對于如何構(gòu)建安全護欄是不知道答案的。彼時，多位全球?qū)W者自愿簽署叫停人工智能6個月的發(fā)展倡議。但是經(jīng)過了半年多一年的探索，我們已經(jīng)有了初步答案，人工智能的發(fā)展應用和安全之間的關(guān)系不是相互掣肘的關(guān)系?！痹惚硎?。
曾毅認為，人工智能、大模型能力的提高并不代表安全能力就好。他表示，現(xiàn)在很多人工智能大模型，包括國內(nèi)的人工智能大模型，在認知問題求解能力上與GPT系列在同一水平上，但在倫理框架上還有提升空間。
“今年倫理安全應該作為人工智能大模型發(fā)展的基因，應該作為第一性原理，不可刪除，不可違背，同時做到穩(wěn)健發(fā)展?！痹惚硎尽?/p>
“不要讓人工智能完全代替人的決策，一定要讓決策權(quán)利在人類手中，這是當代人工智能應用時我們必須注意的問題?！痹銖娬{(diào)。
江小涓：過去多年AI治理方面的進展有限
“前面兩位科學家都比較樂觀地表達了人工智能由于技術(shù)的發(fā)展，它的安全問題可能會有比較好的解決，我一方面同意這個判斷，但是另一方面我認為技術(shù)發(fā)展會帶來新的問題?！敝袊鐣茖W院大學教授、國務院原副秘書長江小涓表示。
江小涓表示，過去多年AI治理方面的進展有限?！皬氖昵鞍⑽髀羼R人工智能原則提出一直到現(xiàn)在，這個原則已經(jīng)討論十年了，一個月前巴黎AI峰會依舊是繼承了過去喊的這些原則。這些原則落地非常有限，如何落地、如何實踐是最大的挑戰(zhàn)?！?/p>
從經(jīng)濟學家角度來看，江小涓表示，技術(shù)是不是可以接受主要關(guān)注兩個標準，第一，能不能帶來生產(chǎn)力的提高，使其創(chuàng)造更多的財富。第二，（技術(shù)）發(fā)展的結(jié)果能不能被比較公平地分享。“從這兩個原則來講，AI的發(fā)展肯定是提高勞動生產(chǎn)率了，但第二個問題是不是能夠比較好地被社會所有成員分享，從經(jīng)濟學角度上體現(xiàn)為就業(yè)是不是充分？分配是不是公平？如果這兩個問題不能解決的話，我們有什么替代政策？”
江小涓認為，（AI對）就業(yè)的沖擊必定會出現(xiàn)。“我們應該有新的社會保障政策來執(zhí)行它，而不是一再重復那些不能落地的原則?！?/p>
新京報貝殼財經(jīng)記者 胡萌 編輯 王進雨 校對 柳寶慶
