歐洲刑警組織警告,歹徒利用 ChatGPT 升級犯案手法

最新AI资讯1年前 (2023)发布 Aibot114
3,198 0
广告也精彩
歐洲刑警組織警告,歹徒利用 ChatGPT 升級犯案手法

AI 將為人類社會帶來進步,卻也能助長犯罪行為。歐洲刑警組織(Europol)表示,歹徒正利用 ChatGPT 來犯案。

歐洲刑警組織的最新報告詳細說明像是 ChatGPT 這種大型語言模型(Large Language Models,LLM)如何被濫用在非法目的上,助長詐欺、網路犯罪、恐怖主義等問題。

「這些 AI 模型對執法工作可能產生的影響已能預見」,歐洲刑警組織透過報告表示,歹徒通常願意利用新技術,也很快就被發現具體犯行,像是 ChatGPT 發表數週後就有第一起相關的案例。

ChatGPT 雖會拒絕可能有害的文字提示,但有人已經找出繞過內容過濾機制的方法。比方說,有人試著讓 ChatGPT 説出如何製作管狀炸彈或古柯鹼的方法,還有人向 ChatGPT 詢問如何犯案,並要求詳細的步驟說明。

「如果歹徒對特定犯罪領域一無所知,透過 ChatGPT 提供的關鍵資訊將能加速犯案過程。因此人們可能利用 ChatGPT 接觸事先不了解的犯罪領域,從如何闖入住家,再到兒童性虐待、網路犯罪、恐怖主義」,歐洲刑警組織警告,這些資訊已經公開在網路上,在 AI 模型幫助下更容易取得資訊。而且 AI 模型可能被用來假冒他人,助長詐欺和網路釣魚,或產生虛假消息支持恐怖主義。

「對不懂程式開發的歹徒而言,AI 模型如同是寶貴的資源。與此同時,已有程式能力的人能夠利用 AI 模型進一步完善網路犯罪手法」,歐洲刑警組織指出,ChatGPT 依照人們的提示指令能夠產生程式碼,降低開發惡意軟體所需的技能,進而增加網路犯罪的風險。

大型語言模型處於起步階段,隨著大型科技公司紛紛投入資源進行開發,能夠推出更多 AI 服務和功能,同時卻也轉變成犯案的新途徑,使做案手法手法更複雜。

Europol warns ChatGPT already helping folks commit crimes

(首圖來源:shutterstock)

© 版权声明

相关文章

暂无评论

暂无评论...