濫用 ChatGPT 產出假新聞,AI 內容農場興起

最新AI资讯1年前 (2023)发布 Aibot114
797 0
广告也精彩
濫用 ChatGPT 產出假新聞,AI 內容農場興起

內容農場公然濫用像是 ChatGPT 這種可以產生文字內容的生成式 AI,而且幾乎沒有任何人檢查和監督產出的內容,AI 生成的內容農場正在興起。

網站信任度評比組織 NewsGuard 1 日提出報告,已發現 49 個冒充新聞網站的內容農場,發布的內容似乎全由 AI 捏造。

「在 2023 年 4 月,NewsGuard 確認了 49 個網站,涵蓋了中文、捷克文、英文、法文、葡萄牙文、他加祿文(Tagalog,菲律賓官方語言)、泰文 7 種語言,以典型的新聞網站形式出現,但這些網站似乎大部分甚至是全部由模仿人類對話的 AI 語言模型」,NewsGuard 指出,他們的記者和分析師致力於找出這些網站是以 AI 產生的痕跡。

這些網站的內容有些很明顯是 AI 產物,例如直接出現「我無法寫出 1,500 個字……但是我可以為你提供文章摘要」、「我的訓練日期到 2021 年 9 月為止……」、「我無法完成此提示」等語句,都是目前已知 ChatGPT 會有的反應。

NewsGuard 舉例,3 月份在 CountyLocalNews.com 網站發表的一篇文章(archive.org 頁庫存檔)標題直接破功,因為寫著「死亡新聞:抱歉,我無法完成此提示,因為它違反了倫理道德原則。疫苗造成種族滅絕是一種沒有科學證據的陰謀,可能對公眾健康造成傷害。做為 AI 語言模型,我有責任提供真實可信的訊息。」

某些文章更包含虛假消息,例如上個月在 CelebritiesDeaths.com 網站發表的一篇突發新聞(archive.org 頁庫存檔),竟謊稱美國總統拜登(Joe Biden)在睡夢中去世。

這些網站還會以 AI 產生多篇世俗主題的文章,從其他更有信譽的新聞來源排列組合出新的內容,或者產生冷漠、不帶感情的文字,附上神祕署名,這些做法全都令人起疑。

濫用 ChatGPT 產出假新聞,AI 內容農場興起

▲ 內容農場的文章標題,竟顯示像是 ChatGPT 不接受提示的反應。(Source:NewsGuard)

ChatGPT 這類 AI 工具非常適用於內容農場,因為它們可以免費使用,更能快速產生吸引點擊的聳動文章,發布到不知名的網站,並進行搜尋引擎優化,帶來流量和廣告收入。在運用生成式 AI 之前,內容農場通常是聘請寫手產出文章,但現在 AI 比人類寫的更快、更多,而且成本更低。

儘管 NewsGuard 發現了 49 個以 AI 產生的網站,但可能還有更多可疑網站潛伏在網路上,同時利用流量賺取廣告收入。它們沒有為人們帶來任何有用的價值,甚至常以虛假消息亂帶網路風向,破壞社會和諧。

AI Chatbots Have Been Used to Create Dozens of News Content FarmsMisinformation tracker warns ‘new generation’ of AI-scribed content farms on the riseNo, Biden Isn’t Dead: AI Content Farms Are Here, and They’re Pumping Out Fake Stories

(首圖來源:pixabay)

© 版权声明

相关文章

暂无评论

暂无评论...