“AI張文宏”帶貨:去偽存真不能只靠網友比拼眼力
最近有網友向媒體發來一段視頻詢問“張文宏是不是帶貨了?”視頻中,張文宏在賣一種蛋白棒,家里的老人信以為真,已經下單,還轉發了很多群。記者核實發現,這個賬號在視頻中,高仿“張文宏”反復介紹一種產品,口型是他的,聲音也是他的。可是從視頻來看,盡管口型和聲音都模仿得惟妙惟肖,可稍加甄別,不難發現AI偽造手法的拙劣。所謂張醫生真人帶貨,實為AI合成的深度偽造。
網諺有云“宇宙的盡頭是帶貨”,如今似乎還可為之加上后半句:“如果你不愿帶貨,那么自有AI幫你帶貨。”自從AI大爆發以來,各種場景化的落地運用層出不窮。由此所帶來的,除了“效率倍增”的震撼,也有“以假亂真”“擦邊整活”的驚詫。前不久,就有明星企業家遭AI合成“原聲”罵遍全網,一度激起軒然大波。而最近,又有AI復刻張文宏公然直播間帶貨,這波操作,膽子之大、路子之野,實在令人大開眼界。
應該說,此次事件中的“高仿張文宏”,尚屬于“精度一般”的低水平AI,稍加甄別就能看出端倪。可就是此等“低端AI”,依舊蒙騙了不少人。人們除了嘆息某些老年人“太好騙”,還應關注其背后的根本性問題。那就是,大眾習慣性的識別、采信、認知的經驗模型,已經嚴重滯后于可以“生成一切”的信息生產模型——這里所謂的“信息”,既是指圖文、視頻等內容信息,在某種程度上,也指諸如人臉、聲音等生物信息。
生物信息,理論上是獨一無二、無法仿冒的,通過專業技術手段,那些合成的“人臉”“人聲”大致都會現出原形。但并非所有人都有這種“技術手段”和“火眼金睛”。如果說,粗糲的 “AI張文宏”更多只是讓一些老年人中招。那么,如果是更逼真、更高水平的AI人物呢?面對“AI人”,去偽存真,不能純靠個體的眼力比拼。網友擦亮眼睛、提高警惕固然是一方面,而更重要的,顯然還要在生產端、渠道端發力設防、前置過濾。
“AI張文宏”直播帶貨一事,有兩個值得關注的細節。一,其并沒有進行明確的“身份主張”,關于自己是或不是“張文宏”不置可否;二,只在午夜場露面,“晝伏夜出”反監測意識極強。這其實也說明,平臺對于AI亂象的治理機制,還是產生了一定的威懾作用。AI狂飆、來勢洶洶,可以預見,其被“用在歧途”的場合,只會越來越多。有鑒于此,相關的防風險模塊設計,還應該再細化、再加速,要留出安全余量,盡可能地有備無患。
社會新聞精選:
- 2024年12月23日 16:40:35
- 2024年12月23日 16:37:29
- 2024年12月23日 15:23:58
- 2024年12月23日 14:23:16
- 2024年12月23日 14:01:03
- 2024年12月23日 10:12:05
- 2024年12月23日 10:03:10
- 2024年12月23日 10:02:36
- 2024年12月23日 09:49:27
- 2024年12月23日 09:03:12