易信資訊

在深偽內容(Deepfake)氾濫的時代,眼見仍為憑嗎?

深度偽造技術(Deepfake)逐漸引起廣泛的關注,該詞源自於英文「deep learning」(深度學習)和「fake」(偽造),主要指的是運用人工智慧深度學習技術,核成某個(不一定真實存在的)圖像、影片、甚至聲音。最常見的應用就是將影片中的一個人的臉替換成另一個人的臉。有了 Deepfake 相關的技術,讓許多原本只能遺憾放棄的事情有了彌補的空間。其中最著名的應用莫過於好萊塢電影《玩命關頭7》與《星際大戰》系列。《玩命關頭7》的主要演員保羅・沃克(Paul William Walker IV)在拍攝期間意外身亡,然而劇組利用 Deepfake 技術,讓保羅的弟弟擔綱演出並進行數位面部合成,使得電影的拍攝得以繼續進行並順利上映。這樣的技術使得以往無法解決的問題獲得了解決,展現了 Deepfake 技術的應用價值與可能性。

傳統軟體演算法主要依靠工程師持續的修改和調整,然而,像Deepfake這樣的技術則使用內部的演算法經過訓練,並持續進化。

當談及提升 Deepfake 技術的欺騙效果時,有著多種技巧和方法被廣泛運用,其中最常見且極具代表性的方式之一就是「生成對抗網路(Generative Adversarial Network, GAN)」。這套技術體系包括了兩個關鍵的神經網路組件,分別是「生成器(Generator)」和「辨識器(Discriminator)」。這兩者彷彿是一對互相影響的角色,如同一個小天使和小惡魔坐在主人的心靈上,彼此交換意見、不斷進化,不斷提高它們各自的技巧和能力。

一開始,當訓練過程開始,這兩組神經網路處於無知的狀態,就像是初生的嬰兒。然而,隨著時間的推移和經驗的積累,它們會逐漸變得越來越聰明。這個訓練過程可以類比為一場精彩的辯論,其中「生成器」和「辨識器」互相較勁,不斷嘗試提出更具說服力的論點,改進彼此的技巧。

「生成器」的工作是不斷地生成偽造的影像,而「辨識器」的任務則是評估這些影像的真實性,給予它們分數。隨著時間的推移,「生成器」變得越來越善於製作逼真的偽造影像,因為它必須不斷地追趕著「辨識器」所定下的門檻,使其難以分辨真偽。

這個相互對抗的過程就像是一場永無止境的訓練,它對於提升偽造影像生成的技術至關重要,同時也推動了對抗偽造技術的發展,使其更加強大和智能。這種競爭和協作之間的平衡,使得 Deepfake 技術能夠持續進步,不斷挑戰著辨識真實和虛偽的界限。

越來越多的手機應用程式和開源軟體已經內建了這些功能,普通大眾現在能夠輕鬆接觸並使用這些技術。透過簡單的操作,即可執行傳統需要複雜步驟的多媒體內容編輯。這樣一來,深度偽造技術的門檻大幅降低,並且可被有心之人用於大量生產偽造的名人色情影片,類似去年底引起社會各界關注的網紅換臉事件。

透過深度偽造技術,我們可以輕鬆地將影片中的人臉替換成我們想要的任何人,並模擬他們的特定表情和動作。這種技術也可以用於製造假新聞、偽造帳號以及進行詐騙活動。舉例來說,Facebook和Instagram已多次發現,許多使用深度偽造技術自動生成的照片的帳戶,粉絲專頁和社團都被用於詐騙或傳播敏感言論。真實案例包括英國一家能源公司的CEO,他因接到德國母公司上司的電話,要求匯款780萬台幣至指定供應商帳戶,而這位CEO認為他非常熟悉上司的聲音,所以毫不猶豫地執行了匯款(新聞來源2019年1月),但實際上上司的聲音是透過聲音轉換(Voice Conversion)技術偽造的。由於不斷有新的深度偽造模型不斷涌現,詐騙行為層出不窮。儘管有些生成的影像和聲音品質不佳,但由於手機屏幕的大小和解析度有限,使用者仍難以判斷內容是否經過修改。傳統的視覺證據不再能夠百分之百保證真實性,這也需要社會各界對深度偽造相關議題有更深入的認識。

Scroll to Top