“這輩子沒機會真入伍，先整個‘電子軍裝’過把癮”“AI一鍵讓我穿上了綠色的軍裝，圓了我兒時夢”“體驗一下穿上警服抓人的樣子，帥氣嗎”……近期，AI生成的“軍裝照”“警察抓人照”在短視頻平臺爆火，用戶上傳照片即可輕鬆“變身”。
多位專家接受《法治日報》記者採訪時指出，技術本無善惡，絕大多數網友藉此表達對軍人、警察崇高職業的嚮往與敬仰之情，滿足了普通人體驗榮譽感的精神需求，無可厚非。但部分網友AI“換裝”軍人、警察照片、製作視頻，使用不良姿態、配上菸酒，混淆軍種、配發虛假案情等，不當消費，甚至褻瀆軍人、警察形象，觸碰法律紅線，更潛藏多重社會風險，亟待加強規範與治理。
01
AI換裝亂象叢生
記者發現，短視頻平臺上“AI軍裝照”製作教程流行，用戶只需上傳一張照片，即可一鍵生成軍裝照，有些照片還會配上坦克車、閱兵場等背景，看上去英姿颯爽。還有不少人發視頻教學：“網上很火的AI變身軍裝特效，很多人找不到製作入口，三秒教會你如何製作，學會快去試試。”
類似的，“一鍵生成警察抓人”特效也廣受歡迎。有用戶設定如“因酒量差被帶走”“因打麻將賭博被抓”等戲謔或虛構的案情，生成自己被抓捕的圖片或視頻。
細觀這些AI生成的“軍人”“警察”形象，問題重重。有業內人士舉例說，有的混淆軍種制式亂搭亂配，有的勳章、軍銜是錯誤的，不符合《中國人民解放軍內務條令》等規定的着裝規範。
記者也注意到，網友發佈的一些AI生成的“軍人形象”，有的勾肩搭背、站姿懶散、坐姿浮誇，有的手中拿着菸酒，一副“混混形象”，與軍人應有的嚴整軍容相去甚遠。
還有些用戶上傳的並非自己照片，而是他人或者明星的照片。對此，北京市盈科律師事務所高級合夥人王風和告訴記者，AI生成的圖片或視頻中，若人物形象可被識別，且未經本人同意，依據民法典規定，未經肖像權人同意，不得製作、使用、公開肖像權人的肖像，但是法律另有規定的除外。這種行爲已經侵害了他人肖像權。
02
法律風險不容忽視
對於上述AI“換裝”亂象，多數網友認爲，這是對軍人、警察形象的不當消費和褻瀆，應當依法進行整治，淨化網絡環境；也有少數網友認爲，只是鬧着玩，沒必要上綱上線。
多位受訪專家認爲，上述AI“換裝”亂象，不僅損害了軍人、警察職業的莊重感，模糊了虛擬與現實的界限，會引發一系列社會危害，也涉嫌觸犯了法律紅線。
中國傳媒大學文化產業管理學院法律系教授周麗娜說，“換裝”亂象的社會危害在於以下幾個方面：
導致公信力受損。虛假內容的大肆傳播，將逐漸降低公衆對軍人、警察職業的信任程度，降低民衆對執法行爲的敬畏感，進而產生干擾正常執法工作的行爲，影響法律的權威性與執行效能；
存在引發社會秩序混亂的潛在風險。“假執法視頻”的傳播可能誤導公衆，引發不必要的恐慌，甚至可能誘發羣體性事件，威脅社會穩定，擾亂正常的社會秩序；
產生技術濫用的示範效應。降低僞造內容的製作門檻，讓更多人能夠輕易製作並傳播虛假信息，這不僅會助長灰色產業鏈的擴張，還可能導致更多不法分子跟風效仿，從而進一步加劇信息環境的混亂。
“軍人、警察等特殊羣體，承擔着處理國家公共事務、維護公共安全與公共利益的職責，有明確的制式服裝着裝規範。在未獲得有關授權的情況下，若用AI生成某些能夠清晰表明其身份的圖片和視頻，或蓄意捏造、傳播與其職業形象不符的內容，將面臨不同程度的法律風險。”周麗娜說。
她進一步分析道，依據國防法、軍人地位和權益保障法的相關規定，軍人應當受到全社會的尊崇；按照《互聯網軍事信息傳播管理辦法》，互聯網軍事信息服務提供者和用戶使用深度合成、生成式人工智能等新技術新應用，不得損害人民軍隊形象。相關法律法規明確保護軍人榮譽，若利用“換裝”生成的內容損害軍人形象，同樣會受到相應的處罰。
“生成警察抓人視頻並配上所謂警情通報，若內容虛假，涉嫌違反《生成式人工智能服務管理暫行辦法》中關於不得生成虛假有害信息的規定。若有人藉此進行詐騙或勒索他人財物，可能構成詐騙罪或敲詐勒索罪。警服、軍裝等有特定設計，受法律保護。若AI軟件在生成圖片和視頻時，未經授權使用受版權保護的素材，如警服細節設計、特定字體的警情通報格式等，可能侵犯版權方權益。”王風和說。
03
平臺或擔連帶責任
受訪專家認爲，除用戶外，對於類似圖片和視頻的製作和傳播，平臺和AI軟件公司都應依法承擔相應法律責任。
在王風和看來，根據《生成式人工智能服務管理暫行辦法》，平臺作爲生成式人工智能服務提供者，若未對違法內容採取停止生成、停止傳輸、消除等處置措施，未向有關主管部門報告，需承擔法律責任；平臺還需按照規定對生成內容進行標識，若未標識導致公衆混淆或誤解，也違反了《互聯網信息服務深度合成管理規定》。
此外，若平臺明知用戶利用其服務實施違法違規行爲，卻未依法依約採取警示、限制功能等處置措施，需承擔相應連帶責任。
“對於AI技術提供者或者開發者，需確保訓練數據的合法性，若使用未經授權的受版權保護作品（如他人照片、繪畫、視頻片段）作爲訓練素材，可能構成對原權利人的著作權侵權，需承擔賠償責任。”王風和說，AI技術提供者或開發者應採取技術措施防範工具被用於違法活動，如檢測技術、限制生成色情、暴力、虛假信息等違法內容的功能。若未設置必要的安全限制，導致工具被用於詐騙、誹謗、危害國家安全等行爲，可能因“提供幫助”承擔連帶責任。
04
完善立法合規審查
受訪專家指出，治理此類亂象需壓實各方責任，形成合力，在尊重法律與職業尊嚴的前提下，引導技術發揮積極價值。
周麗娜建議，在制度層面進一步健全法律法規。明確AI生成特殊公職人員形象的使用界限、責任劃分以及法律後果，特別是針對損害公職人員形象、濫用職業標識等行爲，細化法律條文，提升法律的針對性與可操作性。落實標識制度，嚴格遵循《人工智能生成內容標識辦法》，確保AI生成的涉及公職人員形象的內容均添加“AI生成”標識，涵蓋顯式標識和隱式元數據，便於公衆識別，減少誤解和虛假信息的傳播。
從操作層面而言，作爲產品研發者，應精心做好產品設計，嚴格把控訓練數據的入口以及AI生成的出口。要始終將合規性放在首要位置，不爲流量和娛樂因素所幹擾。相關主管部門在審覈App時，對於涉及生成特殊公職人員形象的人工智能產品，需強化模型的合規性審查。同時，可以設置技術門檻，要求相關應用程序具備一定的合規檢測功能後，方可上線運營。
從平臺層面來說，平臺需切實履行主體責任，對AI“換裝”相關內容設置顯著標識，並建立審覈機制。對於存在公職人員形象誤用、虛假包裝、侵犯他人權利等問題的內容，應及時下架封禁。進一步提升技術審覈能力，充分利用人工智能技術優勢，開發更爲精準的內容審覈算法，通過圖像識別、語義分析等技術，對AI“換裝”生成的內容進行實時監測，及時發現違法違規內容。在用戶使用相關功能前，以彈窗等形式提示法律風險和使用規範。
“還應加強對公衆的法治教育和職業尊重教育，提高民衆對軍人、警察等職業形象重要性的認識，以及對相關法律規定的瞭解，引導民衆自覺抵制和不傳播不當內容。同時向公衆普及AI內容的識別方法，降低被騙、被誤導風險。”王風和說。
來源：央視網、法治日報
