在今年全國兩會上，全國政協委員靳東表示，一些喜歡其影視作品的觀眾，被“AI換臉”視頻騙得很慘；全國人大代表雷軍也提到，網上諸多“AI雷軍”的視頻使他本人深受困擾。如何避免AI技術被濫用，引發社會關注。

　　近日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》(以下簡稱《標識辦法》)，自2025年9月1日起施行。

　　《標識辦法》明確，人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式。該辦法強調，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

　　民盟北京市委創新委副秘書長、海淀區律師協會參政議政促進工作委員會副秘書長常文娟介紹，顯式標識就像生成式人工智能的“身份證”，會清晰標注在AI合成內容的固定位置，一看便知；而隱式標識是“DNA”，往往要通過專業工具，才可識別。

　　長期以來，我國雖有《網絡安全法》《互聯網信息服務深度合成管理規定》等法律法規，但針對人工智能生成內容的專門法規仍嫌不足，監管部門在執法過程中可能面臨法律依據不足的問題。常文娟表示：“《標識辦法》的出臺，填補了這一空白，并在現有法律框架的基礎上進一步細化了具體執行細則。”

　　在她看來，當下實行顯式標識與隱式標識并行的雙重標識方式，保障了公眾知情權，強化了監管效能，還為監管部門提供了技術抓手，對虛假信息傳播可以起到一定的遏制作用。

　　此外，《標識辦法》中，進一步細化了生成服務提供者、傳播平臺、用戶的義務，也使各方在AI生成內容的生產、傳播和使用過程中都有章可循。

　　人工智能技術的應用需要創新，也需要被監管。全國政協委員、九三學社中央科技專委會副主任、中國科學院計算技術研究所研究員張云泉表示，人工智能發展到今天，分階段進行動態監管是“剛需”。

　　“發布《標識辦法》，標志著我國對AI的內容監管進入新階段。”他認為，AI監管的方向在于，尋求技術發展和合規要求之間的平衡。當下的監管，能有效防范潛在風險，且暫時不會對生成式人工智能的創新造成太多影響。

　　張云泉建議，監管初期，應鼓勵創新，避免過早施加嚴格限制，允許技術創新發展。隨著技術成熟，逐步引入監管框架，確保其應用符合社會倫理和法律要求。在進行動態監管的過程中，政策應具備靈活性，能夠根據技術進步和應用反饋及時調整，避免僵化呆板，影響技術創新。同時，鼓勵創新，確保AI生成技術的合規應用，實現技術進步與社會責任的平衡。(完)(《中國新聞》報劉益伶報道)