中國科技巨頭字節跳動於今年2月低調推出全新AI影片生成模型「Seedance 2.0」，主打僅需輸入指令或圖片，60秒內即可產出具備原生音軌與多鏡頭連貫敘事的高畫質影片。然而，這項大幅降低創作門檻的突破性技術，卻遭中國知名科技自媒體「影視颶風」實測踢爆，其背後潛藏的版權與隱私危機令人感到「恐怖」。

「影視颶風」創辦人潘天鴻近日發布實測影片指出，當他上傳自己的一張照片並下達指令後，AI竟能在未獲悉其身分資訊的情況下，自動生成帶有他「真實原音」的說話影片。更駭人的是，潘天鴻上傳一張帶有公司局部背景的全身照，AI生成的影片運鏡轉向大樓另一側時，所呈現的建築外觀竟與現實場景完全吻合，顯示AI清楚掌握照片背後的真實環境。

潘天鴻痛批，這意味著Seedance 2.0在未經授權、未申請版權的情況下，擅自抓取並大量使用了他們的心血影片進行模型訓練。他嚴正警告，當AI能百分之百完美模擬個人的容貌與聲音，一旦有心人士加以利用，生成的偽造影片連至親家人都難以辨識真偽。不少網友也紛紛示警，擔憂此類缺乏道德底線的技術若遭濫用，未來恐淪為詐騙甚至掩飾「被消失」等犯罪行為的工具。

面對排山倒海的輿論質疑，字節跳動已於本月9日緊急祭出限制措施，暫停用戶直接上傳真人圖片或影片作為參考主體，規定須完成「活體認證」才能生成真人影像，並針對公眾人物與知名IP加強嚴格審核。

針對防範AI造假亂象，中國科學院軟體研究所研究員張立波建議，業界應加速落實技術治理，全面推行「AI浮水印」與「數位簽章」，讓所有AI生成的影音都具備不可竄改的溯源碼，以達到內容可識別、可追溯且可追責的目標。