國慶假期期間，短視頻平臺上出現(xiàn)了大量“雷軍AI配音”的惡搞視頻。在視頻中，“雷軍”銳評了堵車、假期等熱門話題，其中還有一些不雅謾罵。有網(wǎng)友調(diào)侃稱：“國慶上網(wǎng)被雷軍罵了整整7天。”

除了吐槽外，視頻里的“雷軍”還稱要投資某某大學。截至目前，平臺上相關話題瀏覽量過億。10月7日晚，針對網(wǎng)友“為何罵人”的詢問，雷軍回復了3個發(fā)怒的表情。

“雷軍AI配音”惡搞相關話題瀏覽量過億。

客觀來說，部分“雷軍AI配音”惡搞視頻，也許沒有太大的惡意。鑒于雷軍的公眾人物身份，一些網(wǎng)友用AI配音玩梗未必就完全不能容忍。但凡事得有度，像這次大量的雷軍視頻中，不乏不雅謾罵，甚至還有疑似謠言的內(nèi)容，如“投資某某大學”，這就越過了開玩笑、玩梗的界限。雷軍的“怒”，也足見這些行為已給本人帶來困擾。

近年來，人工智能深度合成技術已在多個領域廣泛應用，從圖文、視頻生成到在線問答，可謂層出不窮。 當普通人也能輕松利用AI惡搞名人、大量生成音視頻，肯定會給社會帶來信息失真、認知混亂等問題。

而且，由AI換臉、變音等催生的侵權甚至犯罪行為，也變得多起來。前段時間，鬧得沸沸揚揚的“三只羊盧某”錄音事件，最終被警方證實系嫌疑人通過AI配音大模型平臺偽造。今年7月，國家金融監(jiān)管部門發(fā)布《關于防范新型電信網(wǎng)絡詐騙的風險提示》，明確提醒公眾警惕“AI換臉擬聲”類新型電信網(wǎng)絡詐騙。

在此背景下，雷軍等公眾人物遭遇AI配音惡搞帶來的“困擾”，再次說明規(guī)范AI合成技術的應用和傳播邊界，已非常迫切。

事實上，為AI立法已成為各國監(jiān)管部門的共識。 我國《生成式人工智能服務管理暫行辦法》規(guī)定，提供和使用生成式人工智能服務，應當遵守法律、行政法規(guī)，尊重社會公德和倫理道德。其中就包括尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。

但是，落到實踐中，這樣的原則性要求，如何形成具體的指導、給各方帶來明確預期，還有待進一步厘清。比如，提供生成式人工智能服務的大模型平臺，對這類侵權行為到底該承擔怎樣的責任？相關網(wǎng)絡平臺若未能及時阻止侵權行為的發(fā)生，是否應該承擔連帶責任？

值得注意的是，就在上個月，國家網(wǎng)信辦就人工智能生成合成內(nèi)容標識辦法公開征求意見，征求意見稿提出，提供網(wǎng)絡信息內(nèi)容傳播平臺服務的服務提供者應當采取措施，規(guī)范生成合成內(nèi)容傳播活動，包括提供必要的標識功能，并提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容等。

就此次事件來看，不少視頻確實標注了“AI合成”的字樣，但從實際效果來看，還是對雷軍本人的形象造成了一定損害。 對于名人，是不是進行了標注就可以隨意合成、隨意惡搞？這個問題也值得探討。

因此，此次雷軍之“怒”能否轉(zhuǎn)化為一個依法處置AI合成侵權的樣本，進而發(fā)揮“以案釋法”的價值，并推動相關規(guī)范舉措和風險責任的落實，或是一個值得觀察的后續(xù)。隨著技術的不斷進步，AI合成技術的門檻越來越低，正因如此，對其應用的規(guī)范就應該越嚴格。

（原題為《雷軍之怒，能阻止AI合成濫用嗎？》作者 予恒 來源 澎湃新聞）