近期，一些社交平臺上出現所謂“營養專家”出鏡推薦的“獨家減肥食譜”，不少消費者信以爲真，紛紛下單購買。那麼，這些看似權威的推薦，是否真的出自專家本人？背後隱藏着什麼祕密？
名醫現身科普視頻
當事人全然不知
一條AI仿冒視頻中，侃侃而談的專家，商家稱是北京協和醫院臨牀營養科主任於康教授，他是我國營養與健康領域的權威專家。
記者在社交平臺上刷到了不少以於康教授形象出鏡的科普視頻，介紹和推銷減肥食譜。記者隨後聯繫北京協和醫院調查覈實。於康教授明確表示，他本人從未參與錄製此類視頻。
北京協和醫院臨牀營養科主任 於康：我幾乎天天收到好朋友和各種有我聯繫方式的人給我發來的消息，有質疑，還有提醒，經常有的一句話就是“這是你嗎？”“這是於康嗎？”我一看這完全是我的形象，聲音相似度完全超乎了我的想象。現在技術能達到這個層級，一方面覺得不可思議，另外一方面覺得有一點後背發涼，挺可怕的。
科普視頻中，商家不僅盜用於康教授的形象，其介紹的營養知識，也是毫無依據，沒有得到科學驗證。
於康教授更爲擔憂的是，視頻裏的錯誤信息，會讓營養學界長期以來的科普努力，付諸東流。
利用AI技術生成假視頻
醫院醫生深受其害
記者注意到，這些短視頻都來自一些自媒體賬號，除了出現於康教授形象，還有一個共同特點是使用虛擬背景。
不僅於康教授有這樣的困擾，北京協和醫院臨牀營養科馬方教授也遭遇了同樣的情況。在一個平臺網店的鏈接裏，視頻裏的“馬教授”分享了自己的減肥經歷。
據北京協和醫院介紹，不少知名專家被AI換臉，用於“養生”“瘦身”等虛假宣傳，甚至還有不法商家利用AI生成假醫生，打着北京協和醫院的旗號，銷售各類商品，誤導消費者。醫院、醫生深受其害。
AI仿冒著名主持人
直播間虛假營銷
隨着AI仿冒視頻的泛濫，司法部門和監管部門已查處多起案件。記者在調查中瞭解到，多位公衆人物的形象被擅自用於商業推廣。
今年年初，北京市海淀區市場監管局接到消費者舉報，一直播間宣稱一款魚油產品具有醫療功效。該賬號發佈的短視頻中，出現了中央廣播電視總檯主持人李梓萌的形象。
記者注意到，發佈仿冒主持人李梓萌短視頻的賬號名爲“廣州白雲深海魚油工廠”，擁有粉絲80多萬。進入直播間後記者看到，這款魚油售價59.9元三瓶，頁面顯示已售出17.7萬單。
北京市海淀區市場監管局海淀街道市監所科員 李欣容：最後當事人承認，這個短視頻當中的李梓萌形象，是他們的員工在網絡上搜集李梓萌播報過的新聞片段，通過AI技術擅自把這些新聞片段進行剪輯加工，最終合成了這個虛構的推薦視頻。
記者實測：
30秒就生成女醫生短視頻
記者調查發現，利用AI技術違規營銷現象越來越多，關鍵原因是相關工具非常容易獲取。而且，無論是換臉還是擬聲，操作起來都十分簡便。
記者發現，各大手機應用商店均充斥着大量換臉App或小程序，大都可以免費使用。記者隨機選取了一個App，僅需上傳自己幾張人臉照片，就能將目標視頻中的知名專家換成自己的面容。
除了換臉、擬聲，有的App還能提供AI對口型、AI文生視頻、AI電商等各種功能。記者體驗了其中的“文生視頻”功能：在對話框中輸入關鍵詞：北京協和醫院，女醫生，在診室坐在桌子前，向患者介紹病情，不到30秒時間就生成了一段女醫生形象的短視頻，還可以選擇“不添加AI生成字樣”。隨後記者輸入減肥產品效果文案，選擇“主播配音”，就生成了一條“北京協和醫院女醫生推廣減肥產品的”營銷視頻。
目前，AI仿冒相關維權難度極大，技術鑑定、證據固定以及溯源追責等環節，面臨不小的阻力。
北京市海淀區市場監管局海淀街道市監所副所長 史建穎：AI深度僞造視頻鑑別難度大，成本高，肉眼難以識別，需要專業技術支持，而此類侵權違法行爲造假成本低。另一方面是大量AI合成僞造視頻湧現在電商平臺，權利人自身不知情或知情後維權週期長，程序複雜，部分權利人選擇放棄維權或配合度較低。
監管新規
AI內容必須加標識
《人工智能生成合成內容標識辦法》在9月1日已經正式實施，明確要求：利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息，必須依法添加相應的聲明標識。
記者調查發現，部分人工AI合成視頻當中，發佈者要麼使用不顯眼的字體，要麼隱藏在畫面邊角，有的二次發佈者甚至隱匿標識。
專家表示，各社交平臺作爲AI生成視頻發佈主要渠道，應在平臺規則、內容審查等方面進一步完善相關措施。
來源：央視新聞
