ChatGPT 超容易製作惡意軟體,專家:駭客可輕鬆繞過限制

最新AI资讯1年前 (2023)发布 Aibot114
4,027 0
广告也精彩
ChatGPT 超容易製作惡意軟體,專家:駭客可輕鬆繞過限制

最近熱門 ChatGPT 除了以人類語氣回答問題、編寫基本程式和寫文章,更會主動阻止潛在非法內容行動。但有研究人員指,駭客已設計出繞過限制的方法,並利用 ChatGPT 銷售製作惡意軟體和網路釣魚信。

網路安全公司 Check Point Research 研究人員表示,目前版本 OpenAI API 可由外部應用程式使用,且 API 幾乎沒有反制惡意內容的限制,允許惡意內容(如釣魚信件和惡意程式碼),不受 ChatGPT 用戶介面的限制或阻礙。API 本是幫助開發人員將聊天機器人整合的資料放入應用程式。

有用戶在銷售結合 API 和 Telegram 消息傳遞的應用程式,也有用戶分享免費產生惡意內容的程式碼,以繞過 ChatGPT 限制任意使用。

ChatGPT 開發商 OpenAI 還未回應是否知道此結果,或會否修改 API 漏洞。

Hackers are selling a service that bypasses ChatGPT restrictions on malware

© 版权声明

相关文章

暂无评论

暂无评论...