值得注意的是，機器前期采集的喜怒哀樂等通用表情信息主要來源於大數據圖庫，而并非換臉人的個人表情信息。這也就意味著，利用對抗生成網絡技術實現的換臉僅需要不多的個人人臉照片即可。該換臉技術誕生最初大概需要300-500張換臉人的圖片，而隨著近年技術的不斷改進，現在僅僅需要3-5張相關照片就可以生成需要的換臉照片或者視頻。
在機器學習中，生成式對抗網絡的應用非常多，其最主要的用途就是生成我們想要的數據。目前大部分應用集中於視頻和圖像創造，例如我們在拍攝中需要一些動畫或者特定場景，原本可能需要制作道具或者耗費人工進行手繪，而現在利用這一技術，則可以變得非常高效。
問：AI換臉是否存在個人隱私洩露風險？偽視頻、偽圖片能攻破人臉識別系統嗎？
宋宇波：任何一種技術都存在兩面性，如果單純是為了搞笑消遣而制作換臉視頻，本身并沒有太多的危害，但如果這一技術被不法分子利用，則會產生極大危害。信息被濫用、個人生物識別特征被洩露等風險，是這類軟件頻繁引發質疑的一個重要原因。對於政治人物或明星來說，將他們的臉移植到一些他們本不該出現的場景中，很有可能造成負面影響；而對於個人來說，目前許多金融場所都依賴於視頻綫上識別來進行身份核實，如果不法分子運用深度合成中的表情操縱方法生成偽視頻，則很可能造成個人金錢損失。
2019年11月底，國家網信辦、文旅部和國家廣電總局等三個部門聯合發布的《網絡音視頻信息服務管理規定》指出，利用基於深度學習、虛擬現實等新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識；不得利用相關的音視頻技術“侵害他人名譽權、肖像權、隱私權、知識產權和其他合法權益”。全國政協十三屆四次會議新聞發言人郭衛民也表示，目前《個人信息保護法》草案已經提請全國人大常委會審議，這一法律的頒布和實施，對保護個人信息安全將發揮重要作用。由此可見，個人信息安全問題已經引起相關部門重視。盡管此類軟件大多聲明不會采集和存儲用戶敏感個人信息，但網友在上傳個人照片給第三方後，第三方自身平台的防護系統是否安全？是否會被惡意攻破從而造成隱私洩露？這些方面都應該得到更多關注。
就目前而言，通過App下載的換臉圖片或者視頻，由於計算量有限，其圖像質量還比較差，仔細觀察後還是存在面部不自然等問題。而那些圖像質量高到可以欺騙人眼的換臉圖片和視頻，在相關檢測算法的判別下通常也都會“原形畢露”，因此，普通用戶不必過於擔心人臉識別系統會被攻破。但隨著技術的不斷改進，未來這類軟件很可能對我們的個人隱私造成較大威脅，因此我們也呼籲相關法規盡快出台。（來源：新華日報） |
