成為全球最具價值新創,卻被紐約教育局列入黑名單──OpenAI 與 ChatGPT 的兩難

最新AI资讯1年前 (2023)发布 Aibot114
5,383 0
广告也精彩
成為全球最具價值新創,卻被紐約教育局列入黑名單──OpenAI 與 ChatGPT 的兩難

OpenAI 最新推出的對話大模型 ChatGPT 的爆紅帶來許多新應用的想像,卻也帶出 AI 倫理的問題,例如紐約市教育局認為這提供了新的作弊捷徑,宣布要將 ChatGPT 趕出校園。

雖說如此,OpenAI的進展仍沒有停下腳步,除了原有股東微軟要將ChatGPT整合到其作業系統Office 365以及搜尋引擎Bing當中;更傳出與創投Thrive Capital和Founders Fund洽談以公開收購的方式出售現有股份的消息,如果成真,此次交易將使OpenAI的估值來到290億美元,使其成為全球最有價值的美國新創公司之一。成為全球最具價值新創,卻被紐約教育局列入黑名單──OpenAI 與 ChatGPT 的兩難

▲ ChatGPT超過100萬用戶的背後,同時帶給世人諸多想像及爭議。(Source:ChatGPT)

究竟這頭AI巨獸正面臨什麼樣的關卡?教育界反對OpenAI的聲浪又是從何而來?

紐約市教育局將ChatGPT逐出校園、研究人員隨之禁用

紐約市教育局率先開了反彈ChatGPT的第一槍,宣布紐約市公立學校全面禁止師生在校園網路及裝置上使用ChatGPT。紐約市教育局發言人Jenna Lyle表示:「雖然ChatGPT這類AI助理可以提供快速且簡單的答案, 但它不能培養教育所強調的批判性思考和問題解決的能力 。」無獨有偶,國際機器學習會議(ICML)也表明,除非生成的文本做為論文的實驗分析,否則禁止作者使用ChatGPT等人工智慧工具撰寫論文的立場。

總結外界對ChatGPT的質疑,大致有二:

1. 版權歸屬不易

由於ChatGPT所接受的公共數據培訓,通常是在未經原創作者同意的情況下蒐集,使得AI生成的文本究竟是屬於誰的,是提供數據的原創者、生成文本的機器還是下指令的使用者,依然是現行法規下尚未被規制的灰色地帶,版權歸屬的議題尚未有定論。

2. 回答不精準、複製社會刻板印象

ChatGPT是受「從人類反饋中強化學習」的機器學習技術所訓練而成,雖然可以模擬對話、回答問題,但卻難以掌控參考的資料庫從何而來,也就是說ChatGPT編寫的可能只是聽起來似是而非的答案,無法保證真實性,甚至有可能成為假新聞的幫兇。

再者,ChatGPT的技術也尚未純熟,只要稍加改寫問題,就會得到同一問題但截然不同的回答。OpenAI共同創辦人Sam Altman也在推特上表示:「ChatGPT仍有很多限制,並可能產生誤導,全然依賴它的回答是錯誤的。」另外赤裸裸地反映文化或性別偏見、複製並誤用社會刻板印象等原因也鼓動著反對的聲浪。

微軟看好OpenAI持續加碼,將推出推新版Bing搜尋引擎

值得注意的是,即便世人對ChatGPT引發的AI倫理辯論尚未停止,市場上對ChatGPT的反應卻依然熱絡,根據《華爾街日報》的報導,OpenAI正在洽談向Thrive Capital和Founders Fund出售價值3億美元的股票,若此次交易成交,OpenAI的估值可望成長至約290億美元。

而曾於2019年投資OpenAI 10億美元,近期可能再次投資100億美元的微軟,也傳出將把ChatGPT整合至旗下搜尋引擎Bing中的消息,雖然確切導入的時間未知,不過據科技媒體《The Information》的報導,具備AI對話能力的新版Bing搜尋引擎最快可能將在今年3月底前問世,讓人期待占據9%搜尋引擎流量的Bing,是否將步步蠶食占據83%流量的Google,翻寫搜尋引擎的新篇章。成為全球最具價值新創,卻被紐約教育局列入黑名單──OpenAI 與 ChatGPT 的兩難

▲ 曾於2019年投資OpenAI10億美元資金的微軟,傳出將把ChatGPT整合至旗下搜尋引擎Bing中的消息。(Source:Flickr/Schrift-Architekt.de CC BY 2.0)

OpenAI是否朝向它的最終目標──「做人類能做的一切事」邁進,同時謹守AI倫理的分際也值得關注。畢竟從OpenAI曾經為了確保旗下的人工智慧產品能與人類價值觀保持一致,而聘請社會科學家一舉,可以推知OpenAI對於AI倫理議題並非沒有意識。

若從技術中立理論(註)的角度切入思考AI倫理議題,也就是說,技術的好壞是基於使用者如何使用,是相對美好的想像,不論什麼樣的科技都難保有心人士的惡意操弄。雖然不能期待所有使用者積極自律的使用科技,甚至規則也難保誤用的發生,但在AI倫理更明確的落實之前,身為使用者現階段能做的,確實也只有在合理的範圍內享受技術的便利。

誠如ChatGPT針對教育界禁令一事所給出的回答:「重要的是要考慮在教育中使用ChatGPT的風險和好處,並在做出決定之前仔細權衡證據。傾聽教育工作者、學生和家長等利害關係人的觀點,以便做出明智和公平的決定。」

註:技術中立理論是指技術或工具的發明者,無法控制科技或使用者如何使用該項科技工具。Exclusive: ChatGPT owner OpenAI projects $1 billion in revenue by 2024OpenAI Chatbot Spits Out Biased Musings, Despite GuardrailsNYC Bans Students and Teachers from Using ChatGPTTop AI conference bans use of ChatGPT and AI language tools to write academic papersThe scary truth about AI copyright is nobody knows what will happen next

© 版权声明

相关文章

暂无评论

暂无评论...