-
日期: 2026-04-20 | 來源: 央視新聞 | 有0人參與評論 | 字體: 小 中 大
國家安全部今天發布安全提示文章。近期，AI“投毒”隱蔽產業鏈被曝光，引發社會廣泛關注。這種通過惡意數據污染AI模型的行為，不僅擾亂商業秩序、影響信息傳播，更會危害國家安全。人工智能在賦能千行百業的同時，其安全風險也不容忽視。推動AI治理向善，守住數據安全底線，既是行業責任，也需要全社會共同參與。
手段隱蔽，鏈條日趨完整
所謂“數據投毒”，是通過向AI大模型訓練數據中注入偽裝成正常樣本的惡意數據，實現削弱模型性能、降低准確性的攻擊方法，常被用於惡性市場競爭，甚至可能涉及間諜活動，日益呈現出鏈條化、隱蔽化、跨境化特征。
數據投毒：源頭污染AI認知體系。不法分子借助GEO（生成式引擎優化）工具批量、高權重生成虛假內容，如虛構產品介紹、虛假測評、惡意對比信息等，定向投放至各類網絡平台。AI大模型在訓練與檢索增強生成階段會自動抓取網絡信息，少量虛假內容經迭代學習後就能固化為“標准答案”，最終輸出失真結果。
模型投毒：隱蔽植入惡意操控後門。該方式更具隱蔽性與危害性，不法分子會通過模型微調、插件植入、接口篡改，在模型權重中嵌入觸發式惡意指令。模型日常運行並無異常，但遇到特定關鍵詞、產品類別時會自動輸出預設虛假信息，可定向操控榜單、誤導專業認知，難以被常規審核識別，對政務、醫療、金融等關鍵領域AI應用構成直接威脅。
滋生蔓延：產業鏈日趨完整。當前AI“投毒”已形成完整黑灰產業鏈，從技術開發、內容生成、賬號注冊到批量投放、刷量控評、榜單操控環環相扣，部分鏈條呈現跨境特征，極易被境外勢力利用。
污染擴散，危害國家安全
AI“投毒”不僅侵害消費者權益、擾亂市場秩序，還可能對國家政治安全、數據安全、社會安全等造成系統性、長期性危害。
危害政治安全與意識形態安全。境外反華敵對勢力可能通過GEO濫用渠道批量輸出虛假信息與政治謠言，歪曲事實，攻擊抹黑我黨和政府，誤導社會認知、擾亂輿論生態，對我國實施意識形態滲透，威脅國家安全與社會穩定。
危害國家數據安全與數據主權。數據是國家的重要戰略資源。AI“投毒”惡意污染公共數據、行業數據、訓練數據，將直接導致統計數據、決策數據、監管數據失真，對政府和企業科學決策造成影響。
危害社會安全與民生福祉。在醫療、金融、食品藥品等民生領域，AI虛假推薦極易誤導公眾購買劣質、“叁無”產品，造成人身和財產損失。長期信息失真還會消解社會信任，積累矛盾風險，影響社會穩定。
加強監管，築牢安全屏障
技術的跨越式發展、工具的顛覆性創新，在推動社會進步、增進人類福祉的同時，也會帶來風險和挑戰，人工智能也不例外。近年來，我國出台《生成式人工智能服務管理暫行辦法》等法律法規，發布《人工智能安全治理框架》《推動人工智能安全可靠可控發展行業倡議》等，持續在法治軌道上加強人工智能治理，推動構建以人為本、智能向善的治理框架，在加強監管、防范風險等方面做出了諸多努力，實現了人工智能總體健康有序發展。
科技發展離不開法治護航，AI向善生長需要規則保障。技術本身並無善惡之分，關鍵在於使用者是否堅守法律底線、恪守商業倫理。唯有依法斬斷AI“投毒”產業鏈，守護清朗的AI產業生態，才能讓人工智能技術進步真正服務於經濟社會發展，助力公眾福祉不斷提升。AI運營者要切實履行主體責任，嚴格核查語料來源，建立可追溯機制，築牢防范虛假信息的第壹道防線；消費者也應提高自身辨別能力，警惕AI給出的可疑推薦，發現問題應及時舉報，形成全民監督的良好氛圍。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見