哥倫比亞大學新聞學院旗下的新聞研究中心一直以來都對人工智慧對新聞產業的影響表示關注。近期，該研究中心的資深研究員Priyanjana Bengani指出，有些特定業者利用人工智慧演算法以及政府公布的數據來生成大量的文章內容。這些內容看似真實，但實際上從未在現實世界中發生過。
利用人工智慧演算法生成的文章內容可能會對新聞產業造成不可忽視的影響。這些內容往往具有完整的結構、正確的文法和無可挑剔的用詞，讓人難以辨識其真偽。而且由於人工智慧的高效率，這些內容可以在極短的時間內生成，並且能夠大量分發到各個新聞媒體平台上，進一步模糊真實和虛構之間的界限。
這種利用人工智慧技術生成的虛假文章內容，不僅可能給新聞產業帶來信任危機，也可能對公眾產生負面的影響。如果讀者無法區分何為真實新聞，他們可能會對整個新聞行業產生質疑，導致大量人們對新聞報導的不信任感。這將對新聞自由和民主的核心價值帶來潛在的破壞。
為了應對這一問題，新聞媒體機構以及相關的監管機構需要加強對新聞內容的審查和驗證，並且提升公眾對新聞的媒體素養。同時，人工智慧技術的應用也需要進一步的監管和規範，以防止被濫用和誤導。
今年6月中，歐洲議會通過了一項名為「人工智慧法案」的立法草案。這項法案意在對人工智慧領域進行監管，並對一些可能具有潛在風險的AI技術進行嚴格管理。該法案明確列舉了幾個被禁止發展的項目，包括潛意識操縱、社會信用評分以及大規模遠程人臉辨識等領域。
在這個法案中，潛意識操縱被視為對人們思想自由和意識形態多樣性的一種威脅。通過利用算法和數據收集，人們可能受到人工智慧系統的操縱和影響。這項禁令的出台旨在保護公民的思想獨立性和意識形態自由。同樣地，社會信用評分也被列為嚴禁發展的項目，避免了可能對個人隱私和社會秩序造成損害的風險。
另外，該法案還將大規模遠程人臉辨識技術納入禁止發展的範疇。這一技術在未經授權和未經證實情況下，容易被濫用和濫權。由於大規模遠程人臉辨識可能侵犯個人隱私權，這項技術的發展需要嚴格監管，以確保合法和合乎道德的使用。
「人工智慧法案」的通過，預計將成為首份全面監管AI科技發展的官方法案。這將為AI技術的發展提供一個明確的指導框架，同時確保其符合公眾利益和道德準則。官方政府監督將在適當的範圍內進行，以確保高風險的AI技術不被濫用或滥用。
這項法案的通過在全球範圍內也具有重要的影響力。作為全球第一份監管AI科技發展的法案，歐洲議會顯示出對人工智慧的管理和監管問題的關注。更多國家可能會參考這項法案，在本土推出類似的監管措施，以確保AI技術的合法性和對社會的積極貢獻。
