創(chuàng)建ChatGPT的公司OpenAI開發(fā)了一種“分類器”工具，可以識別AI編寫的內容，但警告說不應該依賴它。
ChatGPT對各種問題做出回答的能力讓老師們擔心學生可能會將人工智能生成的論文和作業(yè)當作自己的。
OpenAI的這個新分類器有可能通過自動識別AI生成的論文和任務來徹底改變教育部門。限制其使用的可能替代解決方案，就像紐約市學校最近所做的那樣。ChatGPT已被澳大利亞教育機構禁止。
因為它的版主被有時正確的回復淹沒了ChatGPT問題，開發(fā)者問答網站Stack Overflow禁止了他們。分類器可能有助于像Stack Overflow這樣的組織。
OpenAI聲稱很難正確識別AI生成的所有文本，并且分類器具有各種限制，降低了其實用性。
分類器的真正陽性率為 26%(它將 AI 編寫的文本正確分類為“可能是 AI 編寫”的次數(shù)百分比)。在 9% 的情況下，它會錯誤地將人工創(chuàng)作的內容檢測為由 AI 生成。從本質上講，無論哪種方式，它都有相當大的概率錯誤標記文本，并且很有可能丟失由未顯示它是由AI創(chuàng)建的人類提供的內容。然而，該報告稱，分類器“對來自更現(xiàn)代人工智能系統(tǒng)的文本更準確”，而不是以前使用的基于 GPT-2 的檢測器。
OpenAI在一份新聞稿中表示，它預計該工具將“開始討論AI素養(yǎng)”，并且它正在公開分類器，以便獲得有關像這樣的有缺陷的工具是否有益的意見。
在這里，您可以訪問免費的在線分類工具。用戶只需將復制的內容粘貼到文本字段中，然后單擊“提交”即可使用它。它將確定文本是否“極不可能”、“不太可能”、“不清楚它是否”、“可能”或“可能”是由人工智能創(chuàng)建的。
分類器所需的最小輸入長度為 1，000 個字符(約 150-250 個句子)。OpenAI警告說，改變AI生成的文本來欺騙檢測系統(tǒng)很簡單。此外，該工具主要針對成年人制作的英語材料進行培訓，使其更容易錯誤地標記年輕人和非英語語言撰寫的文學作品。
當被問及分類器識別與人類作家一起創(chuàng)建的文本的能力時，OpenAI承認它“沒有正確檢查分類器的性能”。
說明警告說，該軟件“不應用作主要決策工具”，而是作為追蹤給定文本起源的其他技術的補充。