中山大學(xué)計算機學(xué)院網(wǎng)絡(luò)空間安全研究所所長、中山大學(xué)人工智能研究院副院長盧偉教授

習(xí)近平總書記指出：“要加強人工智能發(fā)展的潛在風(fēng)險研判和防范，維護(hù)人民利益和國家安全，確保人工智能安全、可靠、可控。”人工智能作為一項創(chuàng)新性、革命性的技術(shù)，將不可避免地對國家和社會發(fā)展帶來一系列影響。一方面，人工智能技術(shù)可以在維護(hù)與保障國家安全方面發(fā)揮新形式、高效率的作用；另一方面，人工智能的脆弱性、不可解釋性和不定向性等特點會給社會穩(wěn)定和國家安全帶來全新的潛在風(fēng)險與挑戰(zhàn)。高松校長在2023年秋季工作會議上指出：“助力國家創(chuàng)新體系提升整體效能，是學(xué)?？蒲懈哔|(zhì)量內(nèi)涵式發(fā)展的重要任務(wù)”。因此，探索人工智能技術(shù)在促進(jìn)區(qū)域協(xié)同發(fā)展、經(jīng)濟(jì)建設(shè)與社會治理等方面的可能性，以及應(yīng)對人工智能安全風(fēng)險并把握人工智能發(fā)展的戰(zhàn)略主動，是新時代我國國家安全治理所面臨的一個重要議題。

新一代人工智能，機遇與挑戰(zhàn)并存

人工智能生成內(nèi)容（AIGC）作為新興技術(shù)，正在逐漸成為實體經(jīng)濟(jì)發(fā)展的重要推動力。目前，AIGC技術(shù)已經(jīng)能夠生成新聞、評論、廣告、產(chǎn)品描述等多種形式的內(nèi)容。同時，它正在重塑傳統(tǒng)的內(nèi)容生產(chǎn)方式和商業(yè)模式，通過引入新的生產(chǎn)力工具，促進(jìn)了內(nèi)容制作、營銷與商業(yè)運作等領(lǐng)域的廣泛變革。然而，AIGC技術(shù)的應(yīng)用同樣伴隨著挑戰(zhàn)和風(fēng)險。特別是，AIGC技術(shù)可能會產(chǎn)生不真實或不準(zhǔn)確的內(nèi)容，導(dǎo)致信息泛濫、思維誤導(dǎo)，甚至可能侵犯用戶的個人隱私或名譽。針對這些問題，中山大學(xué)計算機學(xué)院的人工智能與安全研究所團(tuán)隊等就AIGC可能引起的數(shù)據(jù)安全問題，如流通數(shù)據(jù)的隱私、生成內(nèi)容的質(zhì)量與安全、版權(quán)和惡意用戶的攻擊等開展深入研究，致力于推動新技術(shù)安全發(fā)展與應(yīng)用。隨著大模型開放使用和AIGC深度應(yīng)用，對數(shù)據(jù)處理、算法設(shè)計、計算能力等方面提出了更高要求，也對安全、隱私和倫理提出了更多挑戰(zhàn)。只有在確保數(shù)據(jù)安全和隱私保護(hù)、健全人工智能倫理與安全的前提下，才能讓AI技術(shù)真正釋放應(yīng)用價值。

面向國家安全新需求，技術(shù)與監(jiān)管并重

在大模型時代，信息技術(shù)與互聯(lián)網(wǎng)的飛速發(fā)展，安全威脅更加多樣和隱蔽。一方面，在防御針對大模型的隱私數(shù)據(jù)泄露和內(nèi)容安全問題，計算機學(xué)院網(wǎng)絡(luò)空間研究所團(tuán)隊不斷完善AIGC攻防理論，通過結(jié)合技術(shù)研究與實際應(yīng)用，旨在開發(fā)高效的新型防御技術(shù)，以應(yīng)對新型隱私泄露威脅。同時，積極開發(fā)先進(jìn)的主動探測技術(shù)，用于識別模型中的漏洞和弱點，從而主動加強對關(guān)鍵信息基礎(chǔ)設(shè)施的隱私數(shù)據(jù)和內(nèi)容安全的保護(hù)。另一方面，鑒于人工智能技術(shù)在安全領(lǐng)域的重要性，特別是在監(jiān)控和身份驗證等關(guān)鍵應(yīng)用場景中的作用，參與制訂了行業(yè)標(biāo)準(zhǔn)。中山大學(xué)計算機學(xué)院在引導(dǎo)和規(guī)范新技術(shù)應(yīng)用的同時，全力維護(hù)廣大人民群眾的隱私數(shù)據(jù)安全和切身利益，促進(jìn)國家網(wǎng)絡(luò)新技術(shù)健康發(fā)展。

發(fā)揮技術(shù)優(yōu)勢，助力區(qū)域經(jīng)濟(jì)發(fā)展

從時代演進(jìn)的視角出發(fā)，人工智能領(lǐng)域的技術(shù)快速進(jìn)步正孕育著新機遇與新的發(fā)展前景。特別是以ChatGPT等大模型為代表的技術(shù)在理論與應(yīng)用層面的顯著進(jìn)展，正在全球范圍內(nèi)推動新一代人工智能的蓬勃發(fā)展，這不僅為經(jīng)濟(jì)社會發(fā)展注入了新的動力，也在根本性地改變?nèi)祟惖纳a(chǎn)和生活方式。中山大學(xué)作為學(xué)術(shù)研究的前沿陣地，正積極參與到這一領(lǐng)域相關(guān)理論科學(xué)研究之中。計算機學(xué)院科研團(tuán)隊正把握這一新時代科技革命的脈動，加強組織科研，培養(yǎng)相關(guān)技術(shù)和理論人才，開拓獨具特色的研究途徑和理論體系。計算機學(xué)院致力于推動校企合作，立足大灣區(qū)的強大人才儲備、經(jīng)濟(jì)基礎(chǔ)、區(qū)位優(yōu)勢和超級計算中心的高性能設(shè)備、計算體系，進(jìn)一步促進(jìn)互聯(lián)網(wǎng)、人工智能和大數(shù)據(jù)科研理論與實體經(jīng)濟(jì)相融合。通過產(chǎn)學(xué)合作、校企聯(lián)合培養(yǎng)等發(fā)展模式，為全國的高校持續(xù)性發(fā)展和國家經(jīng)濟(jì)發(fā)展提供新的思路。在這個過程中，中山大學(xué)遵循“集中力量辦大事”的原則，整合資源創(chuàng)辦人工智能研究院，從學(xué)校層面統(tǒng)籌大智能相關(guān)學(xué)科，以充分發(fā)揮人工智能在新一輪科技革命和產(chǎn)業(yè)變革中所發(fā)揮的驅(qū)動力量，堅持將新一代人工智能作為各個行業(yè)推動產(chǎn)業(yè)優(yōu)化升級、科技跨越式發(fā)展、生產(chǎn)力整體提升的關(guān)鍵技術(shù)基礎(chǔ)，為國家實現(xiàn)高質(zhì)量、高增速、高水平的發(fā)展貢獻(xiàn)力量。

新一代人工智能技術(shù)引發(fā)的革命性變革和生產(chǎn)力躍遷具有全球性影響，因此不論是關(guān)于人工智能安全治理問題還是在其推動發(fā)展方面的潛力，都必須在全球范圍內(nèi)加以考量和應(yīng)對。計算機學(xué)院將秉承“勇于擔(dān)當(dāng)，敢于突破”的理念，致力于人工智能與安全理論研究，并在加速人工智能技術(shù)在經(jīng)濟(jì)領(lǐng)域的應(yīng)用和產(chǎn)業(yè)化進(jìn)程中，著力構(gòu)建一套完善、公平、安全且可控的國際標(biāo)準(zhǔn)，為人工智能技術(shù)安全、可控、健康、可持續(xù)性的發(fā)展保駕護(hù)航，為全球人工智能發(fā)展注入正能量，展現(xiàn)中國在科技共享和全球化問題中的大國擔(dān)當(dāng)。

文稿終審：計算機學(xué)院 馬嘯