深度偽造技術（Deepfake）逐漸引起廣泛的關注，該詞源自於英文「deep learning」（深度學習）和「fake」（偽造），主要指的是運用人工智慧深度學習技術，核成某個(不一定真實存在的)圖像、影片、甚至聲音。最常見的應用就是將影片中的一個人的臉替換成另一個人的臉。有了 Deepfake 相關的技術，讓許多原本只能遺憾放棄的事情有了彌補的空間。其中最著名的應用莫過於好萊塢電影《玩命關頭7》與《星際大戰》系列。《玩命關頭7》的主要演員保羅・沃克（Paul William Walker IV）在拍攝期間意外身亡，然而劇組利用 Deepfake 技術，讓保羅的弟弟擔綱演出並進行數位面部合成，使得電影的拍攝得以繼續進行並順利上映。這樣的技術使得以往無法解決的問題獲得了解決，展現了 Deepfake 技術的應用價值與可能性。
傳統軟體演算法主要依靠工程師持續的修改和調整，然而，像Deepfake這樣的技術則使用內部的演算法經過訓練，並持續進化。
當談及提升 Deepfake 技術的欺騙效果時，有著多種技巧和方法被廣泛運用，其中最常見且極具代表性的方式之一就是「生成對抗網路（Generative Adversarial Network, GAN）」。這套技術體系包括了兩個關鍵的神經網路組件，分別是「生成器（Generator）」和「辨識器（Discriminator）」。這兩者彷彿是一對互相影響的角色，如同一個小天使和小惡魔坐在主人的心靈上，彼此交換意見、不斷進化，不斷提高它們各自的技巧和能力。
一開始，當訓練過程開始，這兩組神經網路處於無知的狀態，就像是初生的嬰兒。然而，隨著時間的推移和經驗的積累，它們會逐漸變得越來越聰明。這個訓練過程可以類比為一場精彩的辯論，其中「生成器」和「辨識器」互相較勁，不斷嘗試提出更具說服力的論點，改進彼此的技巧。
「生成器」的工作是不斷地生成偽造的影像，而「辨識器」的任務則是評估這些影像的真實性，給予它們分數。隨著時間的推移，「生成器」變得越來越善於製作逼真的偽造影像，因為它必須不斷地追趕著「辨識器」所定下的門檻，使其難以分辨真偽。
這個相互對抗的過程就像是一場永無止境的訓練，它對於提升偽造影像生成的技術至關重要，同時也推動了對抗偽造技術的發展，使其更加強大和智能。這種競爭和協作之間的平衡，使得 Deepfake 技術能夠持續進步，不斷挑戰著辨識真實和虛偽的界限。
越來越多的手機應用程式和開源軟體已經內建了這些功能，普通大眾現在能夠輕鬆接觸並使用這些技術。透過簡單的操作，即可執行傳統需要複雜步驟的多媒體內容編輯。這樣一來，深度偽造技術的門檻大幅降低，並且可被有心之人用於大量生產偽造的名人色情影片，類似去年底引起社會各界關注的網紅換臉事件。
透過深度偽造技術，我們可以輕鬆地將影片中的人臉替換成我們想要的任何人，並模擬他們的特定表情和動作。這種技術也可以用於製造假新聞、偽造帳號以及進行詐騙活動。舉例來說，Facebook和Instagram已多次發現，許多使用深度偽造技術自動生成的照片的帳戶，粉絲專頁和社團都被用於詐騙或傳播敏感言論。真實案例包括英國一家能源公司的CEO，他因接到德國母公司上司的電話，要求匯款780萬台幣至指定供應商帳戶，而這位CEO認為他非常熟悉上司的聲音，所以毫不猶豫地執行了匯款（新聞來源2019年1月），但實際上上司的聲音是透過聲音轉換（Voice Conversion）技術偽造的。由於不斷有新的深度偽造模型不斷涌現，詐騙行為層出不窮。儘管有些生成的影像和聲音品質不佳，但由於手機屏幕的大小和解析度有限，使用者仍難以判斷內容是否經過修改。傳統的視覺證據不再能夠百分之百保證真實性，這也需要社會各界對深度偽造相關議題有更深入的認識。
