證券時報網(wǎng)
2025-02-23 23:19
DeepSeek橫空出世,，彰顯了我國在科技創(chuàng)新上的巨大潛力,。針對AI和科技創(chuàng)新等話題，證券時報記者日前對話奇安信董事長齊向東,。
他認(rèn)為,，在傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級的過程中,，人工智能發(fā)揮著“領(lǐng)頭雁”效應(yīng)；建議繼續(xù)守護并延續(xù)AI創(chuàng)新的“草根化”趨勢,，保持“自下而上”的創(chuàng)新張力,。同時，對于人工智能發(fā)展面臨的安全問題,，他認(rèn)為要從技術(shù)保障,、制度保障、成果應(yīng)用三方面入手,，系統(tǒng)提升安全能力,，確保人工智能安全發(fā)展。
記者：人工智能是新一輪科技革命的核心技術(shù),，也是大國博弈的重要陣地,。您認(rèn)為，發(fā)展人工智能將對我國在國際競爭中增加哪些優(yōu)勢和話語權(quán),？人工智能將為傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級帶來哪些影響,？
齊向東：人工智能是引領(lǐng)未來發(fā)展的顛覆性技術(shù)和前沿技術(shù)，也是注定要走進千家萬戶的關(guān)鍵共性技術(shù),。大力發(fā)展人工智能,，能切實增強我國在數(shù)字經(jīng)濟、高水平人才引育和產(chǎn)業(yè)鏈供應(yīng)鏈完整性等方面的優(yōu)勢,，提升我國在國際技術(shù)標(biāo)準(zhǔn)與安全治理等領(lǐng)域的話語權(quán),。
在傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級的過程中,，人工智能發(fā)揮著“領(lǐng)頭雁”效應(yīng)。作為傳統(tǒng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型中最重要的變革驅(qū)動力量,，人工智能已在研發(fā),、生產(chǎn)、管理全環(huán)節(jié)廣泛應(yīng)用,，涌現(xiàn)出上百種場景和模式,。但是，人工智能也大幅提升了網(wǎng)絡(luò)攻擊的烈度和廣度,，網(wǎng)絡(luò)攻擊窗口不斷擴大,、網(wǎng)絡(luò)攻擊手段不斷革新、網(wǎng)絡(luò)犯罪門檻持續(xù)降低,，給傳統(tǒng)產(chǎn)業(yè)發(fā)展帶來了新風(fēng)險,、新挑戰(zhàn)，引發(fā)了社會高度關(guān)注,。
記者：DeepSeek的開源策略打破“巨頭壟斷”模式,，同時，包括DeepSeek在內(nèi)的“杭州六小龍”也都是“野生”的民營企業(yè),。在您看來,，中國AI創(chuàng)新是否有“草根化”的趨勢？
齊向東：我國AI創(chuàng)新的“草根化”趨勢確實很明顯,，這跟國家的前瞻性布局,、政策扶持以及全方位的資源投入密不可分。AI屬于通用型創(chuàng)新,，它的獨特之處在于并非由權(quán)威主導(dǎo),，而是由廣大創(chuàng)業(yè)者主導(dǎo)的,。這次DeepSeek的爆火,，以及”杭州六小龍”等科創(chuàng)企業(yè)的成功，都很好地印證了這一點,。但我們也必須清楚,，沒有國家作為堅實后盾，這些“草根”力量也是難以茁壯成長的,。今年年初,，國家AI產(chǎn)業(yè)投資基金成立，為技術(shù)創(chuàng)新和應(yīng)用拓展釋放了更多增長空間,。
繼續(xù)守護并延續(xù)AI創(chuàng)新的“草根化”趨勢,，保持“自下而上”的創(chuàng)新張力，對我國AI產(chǎn)業(yè)發(fā)展乃至整個科技創(chuàng)新生態(tài)意義重大,。建議國家從政策引導(dǎo),、優(yōu)化營商環(huán)境,、生態(tài)協(xié)同等維度入手，進一步激發(fā)民間創(chuàng)新創(chuàng)業(yè)熱情,。比如,，出臺專門針對科創(chuàng)民營企業(yè)的創(chuàng)新政策，酌情給予創(chuàng)新保護期,、稅收減免,、財政補貼等；用好金融工具,，設(shè)立專項風(fēng)險補償基金,，以資金支持激發(fā)創(chuàng)新活力；同時優(yōu)化算力調(diào)度,、牽頭建設(shè)公共技術(shù)服務(wù)平臺等等,。
記者：不久前DeepSeek線上服務(wù)受到大規(guī)模惡意攻擊，這也讓大模型的安全問題受到關(guān)注,。據(jù)奇安信XLab實驗室監(jiān)測到的最新情況,，近期對DeepSeek的網(wǎng)絡(luò)攻擊是否仍在繼續(xù)？
齊向東：近期針對DeepSeek的網(wǎng)絡(luò)攻擊行為仍未完全停止,。2月10日,，我們檢測到一個新的僵尸網(wǎng)絡(luò)moobot曾短暫參與過攻擊，但并未造成實質(zhì)影響,。2月初,，我們通過持續(xù)跟蹤監(jiān)測發(fā)現(xiàn)，針對DeepSeek的仿冒網(wǎng)站,、釣魚網(wǎng)站數(shù)量已經(jīng)超過2千個,，并且在快速增加，于是再次發(fā)布預(yù)警,，提醒用戶保持警惕,，DeepSeek官方也對此事作出回應(yīng)。
日前,，我們發(fā)現(xiàn)目前活躍地運行DeepSeek等大模型的服務(wù)器有九成沒有采取安全措施,。這種“裸奔”狀態(tài)會導(dǎo)致任何人不需要任何認(rèn)證即可隨意調(diào)用、在未經(jīng)授權(quán)的情況下訪問這些服務(wù),，極有可能造成數(shù)據(jù)泄露和服務(wù)中斷,，甚至可以發(fā)送指令刪除所部署的DeepSeek、Qwen等大模型文件,，存在嚴(yán)重的安全隱患,。
記者：積極構(gòu)建高可靠人工智能安全體系，著力為用戶提供有效的安全防護,，既要用人工智能去驅(qū)動安全,，又要做好人工智能自身安全,。您認(rèn)為，目前人工智能的發(fā)展面臨哪些安全問題,？
齊向東：人工智能發(fā)展面臨的安全問題大致可以分為三類,。第一類是人工智能大模型自身的安全問題。開發(fā)風(fēng)險,、數(shù)據(jù)風(fēng)險,、應(yīng)用風(fēng)險和基礎(chǔ)環(huán)境風(fēng)險這四大安全風(fēng)險比較突出。
第二類是利用人工智能開展網(wǎng)絡(luò)攻擊的問題,。人工智能促進了網(wǎng)絡(luò)攻擊手段的更新迭代,，“飽和式”攻擊成為可能，攻擊者可以瞬時發(fā)動海量攻擊打垮已有的網(wǎng)絡(luò)安全體系,。人工智能還提升了“以假亂真”的能力,，深度偽造、認(rèn)知戰(zhàn),、釣魚等威脅加劇,。攻擊者可利用人工智能“換臉變聲”輸出虛假信息，開展網(wǎng)絡(luò)詐騙,，或輸出背離主流價值觀的內(nèi)容危害認(rèn)知安全,。
第三類是通過攻擊人工智能引發(fā)的“網(wǎng)絡(luò)攻擊大爆炸”。未來人工智能會成為社會的基礎(chǔ)設(shè)施,，當(dāng)大模型嵌入智慧城市,、工控系統(tǒng)、智慧政務(wù)等關(guān)鍵領(lǐng)域時,，會放大漏洞等傳統(tǒng)安全威脅,，一旦人工智能大模型遭到攻擊可能會牽一發(fā)而動全身，引發(fā)社會服務(wù)中斷,、生產(chǎn)停滯,、隱私數(shù)據(jù)泄露等安全事件。
針對這些安全問題,，要從技術(shù)保障,、制度保障,、成果應(yīng)用三方面入手,，系統(tǒng)提升安全能力，確保人工智能安全發(fā)展,。第一,，建立適配大模型的縱深防御體系，筑牢人工智能的安全根基,。第二,，制定大模型安全強制合規(guī)要求,，夯實人工智能安全發(fā)展的制度保障。第三,，推廣“AI+安全”創(chuàng)新成果落地,，走好提升安全能力的必經(jīng)之路。
