在數字時代浪潮中,信息內容安全與合規成為互聯網治理的核心議題。近期公布的數據顯示,僅2023年上半年,依托人工智能等新技術,我國在線數據處理與交易處理業務中,累計識別、攔截與處置的有害信息已達145.4億條。這一龐大數字不僅反映了網絡空間治理的嚴峻挑戰,更彰顯了技術創新在凈化網絡環境、保障數據安全方面發揮的關鍵作用。
人工智能,特別是機器學習與自然語言處理技術,已成為內容審核的“中流砥柱”。傳統的“人工+規則”審核模式面對海量、實時、多形態(文本、圖像、音頻、視頻)的網絡數據流早已力不從心。而AI模型通過深度學習海量樣本,能夠以毫秒級速度對涉嫌違法違規、虛假謠言、色情暴力、詐騙侵權等多元有害信息進行精準識別與分類,極大地提升了處理效率和覆蓋廣度。例如,通過計算機視覺技術識別違規圖片與視頻,通過語義分析捕捉隱蔽的惡意文本,通過圖神經網絡追蹤跨平臺信息傳播鏈條,構成了多維度、智能化的治理網絡。
在線數據處理與交易處理業務作為數字經濟的基礎設施,其安全、穩定、合規運行至關重要。該業務涉及大量用戶數據流轉與交易指令處理,是有害信息與網絡攻擊企圖滲透的重點領域。AI技術的深度應用,不僅體現在事后審核,更實現了事中風險預警與事前防范。通過用戶行為分析、異常模式檢測、實時風險評分等技術,系統能夠在交易與數據處理過程中動態評估風險,及時中斷可疑操作,有效防范數據泄露、金融欺詐、非法交易等安全事件,保障業務本質安全。
這145.4億條有害信息的成功處置,是技術、法規與產業協同共治的成果。一方面,《網絡安全法》、《數據安全法》等法律法規為治理提供了明確依據與責任框架;另一方面,各平臺與服務提供商積極履行主體責任,持續加大技術研發投入,優化審核算法模型,并建立“AI研判+人工復核”的協同機制,以平衡處理效率與準確率。行業間也加強了數據共享與威脅情報聯動,共同提升整體防御能力。
隨著生成式AI等技術的快速發展,網絡有害信息的形式可能更加復雜多變,對內容治理提出更高要求。這需要持續推動AI治理技術本身的進化,發展更強大的可解釋AI、深度偽造檢測、跨模態內容理解等能力。也應注重科技倫理,在高效治理與保護用戶隱私、促進信息自由流動之間尋求平衡,構建清朗、安全、可信的網絡空間,為數字經濟的健康繁榮筑牢根基。
如若轉載,請注明出處:http://www.163mtv.cn/product/34.html
更新時間:2026-01-18 07:10:53
PRODUCT