ChatGPT 超容易製作惡意軟體，專家：駭客可輕鬆繞過限制

最近熱門 ChatGPT 除了以人類語氣回答問題、編寫基本程式和寫文章，更會主動阻止潛在非法內容行動。但有研究人員指，駭客已設計出繞過限制的方法，並利用 ChatGPT 銷售製作惡意軟體和網路釣魚信。

網路安全公司 Check Point Research 研究人員表示，目前版本 OpenAI API 可由外部應用程式使用，且 API 幾乎沒有反制惡意內容的限制，允許惡意內容（如釣魚信件和惡意程式碼），不受 ChatGPT 用戶介面的限制或阻礙。API 本是幫助開發人員將聊天機器人整合的資料放入應用程式。

有用戶在銷售結合 API 和 Telegram 消息傳遞的應用程式，也有用戶分享免費產生惡意內容的程式碼，以繞過 ChatGPT 限制任意使用。

ChatGPT 開發商 OpenAI 還未回應是否知道此結果，或會否修改 API 漏洞。

Hackers are selling a service that bypasses ChatGPT restrictions on malware