業(yè)界呼吁AI時代 強化APP風險分類分級管理

 隨著2025世界人工智能大會的召開，人工智能（AI）在高速發(fā)展的移動互聯(lián)網中如何安全應用成為各方關注的焦點。業(yè)內人士近期紛紛表示，監(jiān)管方、設備生產商、軟件服務商應加強協(xié)作，在防范新發(fā)風險的前提下，共同確保行業(yè)穩(wěn)定發(fā)展。

  中國信通院泰爾終端實驗室、標準所日前聯(lián)合發(fā)布的《移動互聯(lián)網應用程序（APP）風險分類分級指南（2025年）》（以下簡稱《指南》）指出，截至2024年底，移動互聯(lián)網用戶規(guī)模達15.7億戶，全年移動互聯(lián)網接入流量達3376億GB。APP應用場景的日益豐富，也對APP治理中全鏈條、全流程風險管理提出了更高要求。

  尤其是在當前AI應用快速發(fā)展的態(tài)勢下，APP內嵌AI插件成為吸引用戶的重要形式，并在深刻改變移動應用市場的格局。《指南》提出，AI給內容審核、功能性檢測帶來極大挑戰(zhàn)，已出現降低惡意開發(fā)者門檻等弊端。通過AI工具可以快速批量生產惡意應用，動態(tài)改變惡意特征，增大了檢測難度。例如，AI可自動重構代碼邏輯、修改接口命名或添加冗余代碼，生成功能相同的應用變體，極大增加了安全檢測的樣本分析壓力。

  同時，《指南》也指出，通過技術更新迭代進行惡意利用的風險也在持續(xù)升級。如在移動應用分發(fā)平臺上架審核和在架投放階段，部分開發(fā)者可將惡意APP偽裝成正常APP，當用戶下載安裝完成后或在使用過程中滿足某些特定觸發(fā)條件時，通過熱更新的方式下載安裝包含惡意代碼或違規(guī)內容的新版本，實現APP的“換裝”和“變臉”。

  《指南》還將APP風險分為隱私安全風險、惡意行為風險、服務異常風險、財產安全風險、內容安全風險、未成年人安全風險六大類目，根據APP風險對社會公序良俗及公共利益、系統(tǒng)安全、用戶合法權益等不同影響對象的不同損害程度，將風險級別劃分為極高、高、中、低四個等級。針對不同風險等級，《指南》建議在APP全生命周期的各個階段，不同主體可實施不同管理措施。

  《指南》指出，需推動各方就APP風險類別與危害程度達成共識，為當下APP風險防范及治理提供參考?！吨改稀泛粲酰苿踊ヂ?lián)網行業(yè)的健康發(fā)展，離不開全產業(yè)鏈多方協(xié)作：企業(yè)需增強合規(guī)開發(fā)意識，將風險防控貫穿產品全生命周期；移動應用分發(fā)平臺應優(yōu)化審核能力，強化在架巡檢；移動終端廠商要提升風險檢測水平，加強對APP風險行為的監(jiān)測；管理部門需持續(xù)完善法律法規(guī)，明確風險界定與處罰標準。此外，鼓勵行業(yè)協(xié)會制定自律規(guī)范，推動APP相關主體自我約束與管理，共同構建良好的行業(yè)發(fā)展生態(tài)。

  針對AI大模型應用時代的來臨，業(yè)內專家對行業(yè)痛點進行梳理時發(fā)現，手機廠商和APP應用服務商等協(xié)同配合是維護平穩(wěn)發(fā)展的關鍵。中國信通院互聯(lián)網法律研究中心主任何波表示，今年1月1日生效的《網絡數據安全管理條例》對涉及自動化工具、生成式人工智能等新興技術的數據處理活動作出了特殊規(guī)定。

  隨著技術的迭代更新，AI相關的政策法令以及防控治理手段將持續(xù)更新優(yōu)化，本次《指南》的發(fā)布也將助力AI時代下相關技術風險防范的常態(tài)化與規(guī)范化，引導行業(yè)各方進一步深化合作，強化數據共享與技術交流機制，共同探索應對新興風險的有效策略。

關鍵詞：