業界呼吁AI時代 強化APP風險分類分級管理
關鍵詞: 人工智能 移動互聯網 APP風險 指南發布 多方協作
隨著2025世界人工智能大會的召開,人工智能(AI)在高速發展的移動互聯網中如何安全應用成為各方關注的焦點。業內人士近期紛紛表示,監管方、設備生產商、軟件服務商應加強協作,在防范新發風險的前提下,共同確保行業穩定發展。
??中國信通院泰爾終端實驗室、標準所日前聯合發布的《移動互聯網應用程序(APP)風險分類分級指南(2025年)》(以下簡稱《指南》)指出,截至2024年底,移動互聯網用戶規模達15.7億戶,全年移動互聯網接入流量達3376億GB。APP應用場景的日益豐富,也對APP治理中全鏈條、全流程風險管理提出了更高要求。
??尤其是在當前AI應用快速發展的態勢下,APP內嵌AI插件成為吸引用戶的重要形式,并在深刻改變移動應用市場的格局。《指南》提出,AI給內容審核、功能性檢測帶來極大挑戰,已出現降低惡意開發者門檻等弊端。通過AI工具可以快速批量生產惡意應用,動態改變惡意特征,增大了檢測難度。例如,AI可自動重構代碼邏輯、修改接口命名或添加冗余代碼,生成功能相同的應用變體,極大增加了安全檢測的樣本分析壓力。
??同時,《指南》也指出,通過技術更新迭代進行惡意利用的風險也在持續升級。如在移動應用分發平臺上架審核和在架投放階段,部分開發者可將惡意APP偽裝成正常APP,當用戶下載安裝完成后或在使用過程中滿足某些特定觸發條件時,通過熱更新的方式下載安裝包含惡意代碼或違規內容的新版本,實現APP的“換裝”和“變臉”。
??《指南》還將APP風險分為隱私安全風險、惡意行為風險、服務異常風險、財產安全風險、內容安全風險、未成年人安全風險六大類目,根據APP風險對社會公序良俗及公共利益、系統安全、用戶合法權益等不同影響對象的不同損害程度,將風險級別劃分為極高、高、中、低四個等級。針對不同風險等級,《指南》建議在APP全生命周期的各個階段,不同主體可實施不同管理措施。
??《指南》指出,需推動各方就APP風險類別與危害程度達成共識,為當下APP風險防范及治理提供參考。《指南》呼吁,移動互聯網行業的健康發展,離不開全產業鏈多方協作:企業需增強合規開發意識,將風險防控貫穿產品全生命周期;移動應用分發平臺應優化審核能力,強化在架巡檢;移動終端廠商要提升風險檢測水平,加強對APP風險行為的監測;管理部門需持續完善法律法規,明確風險界定與處罰標準。此外,鼓勵行業協會制定自律規范,推動APP相關主體自我約束與管理,共同構建良好的行業發展生態。
??針對AI大模型應用時代的來臨,業內專家對行業痛點進行梳理時發現,手機廠商和APP應用服務商等協同配合是維護平穩發展的關鍵。中國信通院互聯網法律研究中心主任何波表示,今年1月1日生效的《網絡數據安全管理條例》對涉及自動化工具、生成式人工智能等新興技術的數據處理活動作出了特殊規定。
??隨著技術的迭代更新,AI相關的政策法令以及防控治理手段將持續更新優化,本次《指南》的發布也將助力AI時代下相關技術風險防范的常態化與規范化,引導行業各方進一步深化合作,強化數據共享與技術交流機制,共同探索應對新興風險的有效策略。
