中新社北京10月25日電知名演員吳越在社交媒體發文，控訴有視頻賬號利用AI（人工智能）技術偽造其形象直播帶貨；名叫「小海」的「虛擬男孩」在短視頻平台批量湧現，對著鏡頭賣慘博同情，不少中老年人下單買貨幫扶；著名音樂家劉歡離世後，有人用AI生成其「妻子」和「兒子」形象打著家屬身份推銷保健品……近日，AI技術濫用風險頻出，引發輿論關注。

　事實上，AI換臉技術濫用導致嚴重侵犯消費者權益的案例，近年已經日漸增多，正常的信息傳播秩序和市場秩序受到挑戰，人們越來越希望對AI技術運用加強監管和治理。

　人民網在題為《打擊AI造假不能僅靠受害者發聲》評論中稱，當AI深度合成愈發逼真，治理的速度和力度必須跑在造假者前邊。讓來源可追溯、內容可識別、責任可追究，造假鏈條上每一個參與者都付出看得見的代價，才能還網絡消費空間一片清朗。

　北京青年報評論指出，在人工智能飛速發展、相關立法尚待完善的背景下，如何守住底線已成為平台、監管部門與全社會共同面對的課題。對平台來說，不能簡單地對賬號「一封了之」，應當把責任前移，利用技術手段提前識別並攔截偽造的侵權視頻。監管部門則應當加大追責力度，依法提高侵權成本，溯源打擊灰色產業鏈。

　湖北日報評論指出，AI仿冒名人、偽造身份帶貨，屬於人工智能技術帶來的技術風險。平台及相關部門應真正把「風險驅動」置於「輿情驅動」之前。

　西安交通大學經濟與金融學院副教授樊仲琛撰文表示，治理的目標從來不是禁止AI技術，而是確立規則。只有當攔截先於開播、判賠足以形成震懾、普通人不再需要自證「我是真的我」，這一問題才算真正解決。

　針對AI內容亂象和技術濫用，中國官方已經在逐步出台相關規則與治理措施。如，工信部、公安部等多個監管部門已先後出台《人工智能生成合成內容標識辦法》《生成式人工智能服務管理暫行辦法》等規章，對內容標識、服務提供者責任作出細化規範；今年10月9日，中共中央、國務院印發《關於發展新質生產力的意見》，亦明確提出「構建技術監測、風險預警、應急響應體系，確保人工智能安全、可靠、可控」，明確AI安全底線。◇