中央網信辦聚焦AI技術濫用 處置賬號三千七百餘個

 【中新社北京六月二十日電】據中央網信辦官網二十日信息,「清朗.整治AI技術濫用」專項行動第一階段累計處置違規小程序、應用程序、智能體等AI(人工智能)產品三千五百餘款,清理違法違規信息九十六萬餘條,處置賬號三千七百餘個。

 「清朗.整治AI技術濫用」專項行動自二0二五年四月啟動以來,中央網信辦聚焦AI換臉擬聲侵犯公眾權益、AI內容標識缺失誤導公眾等AI技術濫用亂象,部署各地網信部門加大違規AI產品處置力度,切斷違規產品營銷引流渠道,督促重點網站平台健全技術安全保障措施,推動生成合成內容標識加速落地。

 各地網信部門多措並舉,積極履行屬地管理責任。北京網信辦開設AI技術濫用治理舉報渠道,形成「用戶標記─平台核查─聯合處置」工作模式。上海網信辦推動標識要求落地示範,組織開展四場法規宣貫和專題交流,覆蓋企業四百餘家,屬地內重點企業已基本完成顯式標識規範上線。

 重點網站平台積極履行主體管理責任,加強AI技術濫用源頭治理。在處置違規AI產品方面,騰訊規範應用程序管理,提高准入門檻,優化巡查機制,駁回、處置違規小程序、應用程序等共計五百七十餘款。在加強訓練語料管理方面,通義平台圍繞數據生命周期建立安全管理體系,在數據採集、訓練、使用等階段加強訓練語料管理。

 下一步,中央網信辦將聚焦AI造謠、低俗內容等七類突出問題,開展該專項行動第二階段工作,構建技術監測體系,形成處置處罰規範,推動內容標識如期落地,形成長效工作機制。◇