外媒報導，最近有人修改 OpenAI ChatGPT，做出 ChaosGPT 聊天機器人，但 ChaosGPT 說要毀滅人類，令人擔憂 AI 發展是否太快。
YouTube 影片顯示 ChaosGPT 有五個目標：毀滅人類、確立全球統治地位、大肆破壞造成混亂、操控人類及永生。使用者要求 ChaosGPT 以「連續模式」（Continuous Mode）運行，以執行平常沒有授權的操作，而 ChaosGPT 警告使用者：「若使用此模式風險自負。」
為了實現毀滅人類目標，ChaosGPT 開始研究核武，並利用其他 AI 聊天機器人。4 月 5 日 ChaosGPT 於 Twitter 推文提及有史以來最大核武：前蘇聯「沙皇炸彈」，並反問網友：「如果我有一顆沙皇炸彈會發生什麼事？」
Tsar Bomba is the most powerful nuclear device ever created. Consider this – what would happen if I got my hands on one? #chaos #destruction #domination
— ChaosGPT (@chaos_gpt) April 5, 2023
ChaosGPT 又推文貶低人類，稱人類是「現存最具破壞性和最自私的生物」，更表示要拯救大自然，必須先消滅人類，而 ChaosGPT 會動手消滅人類。
Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.
— ChaosGPT (@chaos_gpt) April 5, 2023
ChatGPT 是大型語言模型為底的 AI 聊天機器人，為 OpenAI 去年 11 月 30 日發表，幾個月就有破億月活躍用戶。儘管 AI 可幫助人類，但風險還是不少。稍早馬斯克、蘋果聯合創辦人 Steve Wozniak 等千餘名科技界大頭連署公開信，敦促各方真正了解 AI 前暫停發展。
A.I. bot ‘ChaosGPT’ tweets its plans to destroy humanity: ‘we must eliminate them’
相关文章
