化工儀器網手機版
移動端訪問更便捷
OpenAI開發反作弊工具 效用如何引發質疑
2024年08月07日 10:16:33
來源：化工儀器網 點擊量：4353
《華爾街日報》消息顯示，反作弊項目在OpenAI內部爭論了大約兩年，準備發布的時間就有大約為一年。
【化工儀器網 時事熱點】《華爾街日報》消息顯示，反作弊項目在OpenAI內部爭論了大約兩年，準備發布的時間就有大約為一年。 OpenAI首席執行官山姆·奧特曼(Sam Altman)和首席技術官米拉·穆拉蒂(Mira Murati)都參與了反作弊工具的討論。知情人士說，奧特曼鼓勵這個項目，但沒有推動發布。
OpenAI內部在透明度承諾和留住用戶之間搖擺不定，它對ChatGPT用戶開展的一項調查發現，近1/3的用戶會因為反作弊技術而關閉服務，這些受訪者表示，如果ChatGPT使用反作弊技術而競爭對手沒有，他們會減少使用ChatGPT。
ChatGPT可以預測句子中接下來會出現的token，OpenAI的反作弊工具將略微改變token的選擇方式，這些變化會留下水印。這些水印對人眼來說是不明顯的，但可以被OpenAI的檢測技術發現。根據內部文件，當ChatGPT創建足夠多的新文本時，水印的有效性為99.9%。
首先，從技術角度來看，OpenAI的反作弊工具利用了一種類似“水印”的方法，在文本中嵌入不可見的標記。這些水印對人眼來說是不明顯的，但可以被OpenAI的檢測技術發現。據稱，當ChatGPT創建足夠多的新文本時，水印的有效性高達99.9%，且不會影響ChatGPT的性能。然而，內部員工擔心這些水印可能通過簡單的技術被刪除，比如將文本翻譯成另一種語言再轉換回來，或者在文本中添加表情符號后手動刪除。此外，如何決定誰可以使用這種檢測器也是一個挑戰。
其次，從用戶角度來看，OpenAI對ChatGPT用戶進行了多次調查，發現近三分之一的用戶表示，如果ChatGPT使用反作弊技術，他們會減少使用ChatGPT。這些用戶擔心，如果ChatGPT使用反作弊技術而競爭對手沒有，他們可能會轉向其他工具。此外，該工具還可能對非英語母語的用戶產生不成比例的影響，這進一步增加了OpenAI在發布該工具時的顧慮。
因此，盡管OpenAI在技術上已經取得了顯著的進展，但在是否發布和使用這一反作弊工具上仍然存在諸多爭議和未解決的問題。目前，OpenAI尚未正式對外公開這一工具，但已有一些外部公司和研究人員正在開發類似的檢測工具，并嘗試在教育和學術領域中使用。
相關閱讀 Related Reading
查看更多+-
近日，中共中央辦公廳、國務院辦公廳印發《關于深入推進深圳綜合改革試點深化改革創新擴大開放的意見》。2025-06-24 14:36:22
-
2025年政府采購領域專項整治工作：重點聚焦“四類”違法違規行為
6月23日，財政部、公安部、市場監管總局聯合發布通知，重點聚焦當前政府采購領域反映突出的采購人設置差別歧視條款、代理機構亂收費、供...2025-06-24 13:36:18 -
工信部現將擬提名的31個項目進行公示。公示期為2025年6月21日至2025年6月25日。2025-06-24 11:06:27
-
福建省2025年大型科研儀器向社會開放共享評價考核工作正式啟動。2025-06-24 10:17:14
-
最高獎勵1500萬元！上海加強國家重大科技基礎設施創新引領作用
6月23日，上海市科委會同市發展改革委聯合制訂了《上海市重大科技基礎設施評價與獎勵辦法(試行)》。其中提出，獲評優秀的設施按150...2025-06-24 09:41:11 -
日前，海南省科學技術廳發布《關于2025年海南省科技人才創新項目“滾動支持”項目擬立項項目和經費安排的公示》。2025-06-24 08:36:30
版權與免責聲明
- ①凡本網注明“來源：化工儀器網”的所有作品，均為浙江興旺寶明通網絡有限公司-化工儀器網合法擁有版權或有權使用的作品，未經本網授權不得轉載、摘編或利用其他方式使用上述作品。已經本網授權使用作品的，應在授權范圍內使用，并注明“來源：化工儀器網”。違反上述聲明者，本網將追究其相關法律責任。
- ②本網轉載并注明自其他來源（非化工儀器網）的作品，目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網站或個人從本網轉載時，必須保留本網注明的作品第一來源，并自負版權等法律責任。
- ③如涉及作品內容、版權等問題，請在作品發表之日起一周內與本網聯系，否則視為放棄相關權利。
