羊城晚報財經評論員 戚耀琪
據(jù)央視報道，近日，因“AI換臉”導致的詐騙案件引發(fā)關注。伴隨著AI大模型的發(fā)展，“換臉技術”的應用范圍越來越廣，技術的突破還使得換臉后的人物表情、動作細節(jié)更為逼真。報道稱，一旦被不法分子利用，可能帶來嚴重危害。
當前，AI在娛樂領域的滲透作品之一就是換臉。肉眼來看，換臉之后的“數(shù)字人”口型、表情、微小的動作幾乎毫無破綻，原視頻究竟是誰已經無從獲知。面對更具有真實性的視頻，人們會更加傾向于相信這個“會動的人”就是真人。
可以預期的是，隨著技術的成熟，換臉效果更為逼真，同時，不僅可以實現(xiàn)視頻換臉，還支持直播換臉。正是因為AI具有強大的學習與進步能力，因此，只要提供被換臉者(比如某明星)多角度的視頻，就能讓機器學習，并快速地把這些素材植入到原視頻中，達到改頭換面的目的。
隨著算力的提升，日后這種換臉的速度甚至可以在不經意間就能完成替代。這個道理就和美顏如出一轍。多年前PS是很麻煩的，得在電腦完成，而現(xiàn)在手機攝影都能自帶PS， 還實現(xiàn)了即拍即P的無縫對接，毫秒之間讓人無法拒絕，于是就會把這種看成了所見即所得的真實狀況。
移花接木之術如果用在經濟生活中勢必會引發(fā)擔憂。比如刑法中有關于詐騙罪的規(guī)定；民法典明確，公民享有肖像權、姓名權、名譽權等相應的民事權利。也就是說，如發(fā)生使用他人肖像進行詐騙的相關案例，不法分子能夠在事后被法律約束與制裁。但在人工智能技術飛速發(fā)展的當下，事前的規(guī)范就和事后的追責一樣重要。
比如在法律層面，按照有關規(guī)定要求，深度合成服務可能導致公眾混淆或者誤認，深度合成服務提供者應當在生成或者編輯的信息內容的合理位置、區(qū)域進行顯著標識。這就類似于給廣告標明“資訊或推廣”字眼一樣。如果正規(guī)企業(yè)要使用換面術進行傳播推廣，就必須有相應的標識。
然而，由于技術發(fā)展和市場規(guī)模原因，要嚴格控制每一次的再創(chuàng)造并非易事。何況，當大家逐漸習慣了看更美的虛擬人時，絕對真實可能不再是第一位的選擇。
可以想見，更多的機構會利用類似的軟件讓美感最大化，且“真”得無法挑剔。比如美容醫(yī)院用它來對病人加以美化，甚至接近暗示為某明星等。企業(yè)的營銷小視頻，可以用更具有明星樣的狀態(tài)進行多角色銷售，這甚至比專門請網(wǎng)紅要廉價得多。人設是銷售的靈魂，人設如果能具備快速分化的能力，那么對滲透細分市場就會更有利。一旦開啟了這個人設百變千變的魔盒，大量的明星相關產業(yè)可能就會被顛覆和重組，甚至導致傳統(tǒng)的直播崗位變遷也是就在眼前。
翻譯
搜索
復制
寧夏：2024年底實現(xiàn)市級未成年人救助保護機構全覆蓋
東西問·解碼兔年丨高?。罕姸唷吧瘾F”，中國人如何選出“十二生肖”？
德美就“北溪二號”發(fā)表聯(lián)合聲明 德俄對該項目即將完工表示滿意
韓國單日新增病例數(shù)創(chuàng)新高 首爾一監(jiān)獄暴發(fā)群聚感染