【化工儀器網 時事熱點】《華爾街日報》消息顯示，反作反作弊項目在OpenAI內部爭論了大約兩年，弊工準備發布的具效時間就有大約為一年。 OpenAI首席執行官山姆·奧特曼(Sam Altman)和首席技術官米拉·穆拉蒂(Mira Murati)都參與了反作弊工具的用何引討論。知情人士說，質疑奧特曼鼓勵這個項目，反作但沒有推動發布。弊工 　　OpenAI內部在透明度承諾和留住用戶之間搖擺不定，具效它對ChatGPT用戶開展的用何引一項調查發現，近1/3的質疑用戶會因為反作弊技術而關閉服務，這些受訪者表示，反作如果ChatGPT使用反作弊技術而競爭對手沒有，弊工他們會減少使用ChatGPT。具效
 　　ChatGPT可以預測句子中接下來會出現的用何引token，OpenAI的質疑反作弊工具將略微改變token的選擇方式，這些變化會留下水印。這些水印對人眼來說是不明顯的，但可以被OpenAI的檢測技術發現。根據內部文件，當ChatGPT創建足夠多的新文本時，水印的有效性為99.9%。
 　　首先，從技術角度來看，OpenAI的反作弊工具利用了一種類似“水印”的方法，在文本中嵌入不可見的標記。這些水印對人眼來說是不明顯的，但可以被OpenAI的檢測技術發現。據稱，當ChatGPT創建足夠多的新文本時，水印的有效性高達99.9%，且不會影響ChatGPT的性能。然而，內部員工擔心這些水印可能通過簡單的技術被刪除，比如將文本翻譯成另一種語言再轉換回來，或者在文本中添加表情符號后手動刪除。此外，如何決定誰可以使用這種檢測器也是一個挑戰。
 　　其次，從用戶角度來看，OpenAI對ChatGPT用戶進行了多次調查，發現近三分之一的用戶表示，如果ChatGPT使用反作弊技術，他們會減少使用ChatGPT。這些用戶擔心，如果ChatGPT使用反作弊技術而競爭對手沒有，他們可能會轉向其他工具。此外，該工具還可能對非英語母語的用戶產生不成比例的影響，這進一步增加了OpenAI在發布該工具時的顧慮。
 　　因此，盡管OpenAI在技術上已經取得了顯著的進展，但在是否發布和使用這一反作弊工具上仍然存在諸多爭議和未解決的問題。目前，OpenAI尚未正式對外公開這一工具，但已有一些外部公司和研究人員正在開發類似的檢測工具，并嘗試在教育和學術領域中使用。
 

關注本網官方微信 隨時閱讀專業資訊