近年來，以大模型為代表的新一代人工智能技術(shù)飛速發(fā)展，在通信、金融、教育、醫(yī)療及工業(yè)互聯(lián)網(wǎng)領(lǐng)域有廣泛的應(yīng)用場景。同時，人工智能技術(shù)的開發(fā)和應(yīng)用必須考慮安全問題。安全是發(fā)展的保障，發(fā)展是安全的目的，只有不斷探索并完善與創(chuàng)新發(fā)展相適應(yīng)的安全保障方式，在創(chuàng)新發(fā)展與風(fēng)險規(guī)避之間尋求平衡，方能行穩(wěn)致遠。

目前，我國已建成全球規(guī)模最大、技術(shù)領(lǐng)先的網(wǎng)絡(luò)基礎(chǔ)設(shè)施，數(shù)據(jù)資源價值加快釋放，技術(shù)創(chuàng)新能力加速提升，核心技術(shù)不斷突破，安全保障能力也大幅度提升，數(shù)字經(jīng)濟蓬勃發(fā)展，發(fā)展規(guī)模全球領(lǐng)先，數(shù)字社會服務(wù)更加普惠便捷，網(wǎng)絡(luò)惠民便民紅利充分釋放，數(shù)字治理服務(wù)效能顯著增強，網(wǎng)絡(luò)空間命運共同體的構(gòu)建持續(xù)推進。

“未來的世界是一個人工智能驅(qū)動的世界，我們要統(tǒng)籌發(fā)展和安全，牢牢抓住新一輪科技革命和產(chǎn)業(yè)變革的歷史機遇，加快人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展的步伐，推動與實體經(jīng)濟深度融合，達到新水平，推動行業(yè)規(guī)范發(fā)展，實現(xiàn)新突破，無論AI走入產(chǎn)業(yè)還是走進家庭，我們期待涌現(xiàn)出一批行動力強的實踐者，共同助力我國AI邁上新的臺階?！敝袊ヂ?lián)網(wǎng)協(xié)會副理事長黃澄清表示。

今年以來，以ChatGPT為代表的生成式AI應(yīng)用成為全球熱點，科技企業(yè)圍繞大模型正在展開競賽，但生成式AI所涉及的數(shù)據(jù)安全問題開始成為各國政府和監(jiān)管機構(gòu)關(guān)注的重點。針對大模型訓(xùn)練、調(diào)優(yōu)所使用數(shù)據(jù)的安全，中信證券分析師楊澤原表示，應(yīng)結(jié)合數(shù)據(jù)采集、傳輸、存儲等全生命周期，通過加密、數(shù)據(jù)水印等技術(shù)手段保護用戶數(shù)據(jù)特別是隱私安全；針對大模型生成內(nèi)容的可靠性及使用方式，應(yīng)對AI生成內(nèi)容進行標(biāo)記，同時對AI生成內(nèi)容的可靠性及傳播鏈路進行把關(guān)。

為此，國家陸續(xù)出臺一系列政策文件，為人工智能的發(fā)展提供更多的依據(jù)和制度保障。今年4月，中央政治局會議重點提及人工智能，指出要重視推動人工智能的發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險，技術(shù)的變革越是進入一個快車道，網(wǎng)絡(luò)安全行業(yè)更要以高質(zhì)量發(fā)展為主基調(diào)。此外，國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，明確將人工智能作為國家的戰(zhàn)略。工信部、科技部等部委緊跟出臺文件落實。尤其是隨著GPT大模型帶來的產(chǎn)業(yè)發(fā)展變革，可以看出，人工智能在國際競爭和經(jīng)濟增長中都發(fā)揮著重要的作用。

人工智能在賦能產(chǎn)業(yè)應(yīng)用、降本增效同時，也帶來了一系列新的安全應(yīng)用風(fēng)險與挑戰(zhàn)，包括數(shù)據(jù)安全、算法安全、應(yīng)用安全、行業(yè)安全。這需要政府出臺支撐支持政策，加強監(jiān)管，完善相關(guān)的法律法規(guī)。企業(yè)應(yīng)積極用好政策紅利，加快人工智能領(lǐng)域的創(chuàng)新發(fā)展，同時要積極履行企業(yè)的主體責(zé)任，加強人工智能發(fā)展的潛在風(fēng)險研判和防范，維護國家安全和人民利益，確保人工智能安全可靠可控。同時人工智能技術(shù)的發(fā)展需要跨學(xué)科跨領(lǐng)域的協(xié)作，企業(yè)、高校、科研機構(gòu)等加強合作，共同開展技術(shù)研發(fā)、人才培養(yǎng)和產(chǎn)業(yè)應(yīng)用等工作。

為了促進AI安全產(chǎn)業(yè)的快速發(fā)展，2023中國互聯(lián)網(wǎng)大會AI安全論壇發(fā)起《共建安全大模型高質(zhì)量數(shù)據(jù)集》的倡議，鼓勵相關(guān)組織將積累的高質(zhì)量安全數(shù)據(jù)集共享，使“數(shù)據(jù)共享、質(zhì)量為先、有效流通、合法合規(guī)”成為整體指導(dǎo)方針，通過共同建設(shè)安全大模型高質(zhì)量數(shù)據(jù)集，使AI安全產(chǎn)業(yè)高速、高質(zhì)量發(fā)展。

中國常駐聯(lián)合國代表張軍表示，人工智能的復(fù)雜效應(yīng)不斷顯現(xiàn)，既產(chǎn)生巨大技術(shù)紅利，也引發(fā)越來越多的擔(dān)憂，凸顯了構(gòu)建人類命運共同體的重要性、必要性、緊迫性。張軍強調(diào)，國際社會應(yīng)該秉持真正的多邊主義精神，開展廣泛對話，不斷凝聚共識，探討制定人工智能治理的指導(dǎo)性原則。中方支持聯(lián)合國在此方面發(fā)揮中心協(xié)調(diào)作用。國際社會要強化風(fēng)險意識，建立有效的風(fēng)險預(yù)警和應(yīng)對機制，確保不發(fā)生超出人類掌控的風(fēng)險，確保在關(guān)鍵時刻人類有能力摁下“停止鍵”。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com