小心!GPT 檢測器也不一定準確

最新AI资讯11个月前发布 Aibot114
5,250 0
广告也精彩
小心!GPT 檢測器也不一定準確

生成式人工智慧發展像脫韁野馬,只想疾馳,遲早會把騎術不精的人狠狠摔下馬。

2022 年 11 月 30 日,人工智慧對話聊天機器人 ChatGPT 推出,迅速走紅,短短五天註冊用戶就過百萬,兩個月 ChatGPT 月活躍使用者破億,用戶史上增速最快。但面對生成式 AI 來勢洶洶,並不是所有人都準備好了。

1 月初紐約市教育部宣布禁止學生在學校設備和網路使用 ChatGPT,以防學生作弊。法國巴黎政治學院(Sciences Po)1 月也通知,禁止各校區學生及教職工用 ChatGPT 做教學任務,成為歐洲首座「全面禁用」ChatGPT 的學校。

到 7 月生成式 AI 百花齊放、百家爭鳴,教育界人士開始順應時代潮流,主動擁抱生成式 AI。

英國 24 所羅素集團研究型大學校長近日聯合簽署準則,明確指出哪些地方不適合使用生成式 AI,使師生都能做明智決策,並授權正確使用工具,必要時承認使用權。現在看來,只要正確使用生成式 AI,對教育大有助益,不過或許還得注意一些「小麻煩」。

教育領域將 ChatGPT 用於寫作業不是新鮮事,許多老師也視 AI 檢測為「阻止 21 世紀學生作弊的關鍵對策」,但研究顯示 AI 檢測器也會歧視和誤導。

史丹佛大學生生物醫學數據科學助理教授 James Zou 與團隊使用 7 個主流 GPT 檢測器評估 91 篇由非英語母語人士寫的托福作文。7 個 GPT 檢測器,非英語母語人士作文超過一半檢測器標記是 AI 生成,甚至一個將近 98% 作文都標註是 AI 產生。

而檢測英語母語的八年級學生作文發現,同樣 AI 檢測器結果是超過 90% 作文標註人類產生。

追溯偏見歧視時,研究員發現,生成式 AI 經過大規模訓練後可產生低複雜度的文本,代表如果人類寫作時以熟悉模式使用大量常用單詞,就會增加標註成 AI 產生的風險,非英語母語人士之所以風險更大,是因更可能使用簡單字詞。

這歧視的影響性需要你我關心。研究員警告「GPT 檢測器對非母語寫作影響嚴重」,又補充「教育領域可說是 GPT 檢測器最重要的市場,非母語學生面臨更高被指控作弊的風險,可能不利學生學術生涯和心理健康。」思考生成式 AI 是教育的「良藥」還是「毒藥」前,或許還得先解決這些「小麻煩」。

© 版权声明

相关文章

暂无评论

暂无评论...