T客邦 July 27, 2023
精準率低於26%,OpenAI的 AI 文字檢測工具不及格。D3e2b21f34c8e762e5e9cd2f556ebe71

OpenAI 官方在他們介紹自家用來驗證文字是否由AI生成的AI檢測工具AI Classifier的頁面下,悄悄宣佈將關閉這項服務,原因是準確率太低。

OpenAI用來驗文章是否由AI生成的工具AI Classifier悄悄關閉,原因是準確率太低還不如用猜的

AI Classifier主要用於區分文字是由人類撰寫還是 AI 生成的,不過在上線之後,OpenAI 發現精準性並不高。

OpenAI 表示, 由於準確率太低,因此從 2023 年 7 月 20 日開始,AI Classifier不再開放。並且正在努力採納回饋意見,研究更有效的文本檢測技術,並承諾將會持續開發和部署相關機制,讓用戶者能夠瞭解音訊或影片內容是否由人工智慧生成。

OpenAI用來驗文章是否由AI生成的工具AI Classifier悄悄關閉,原因是準確率太低還不如用猜的

事實上,當初在發表之初,他們官方就已經先表示AI Classifier有其能力限制,答案並不能完全信任。在他們先前的測試評估中,AI Classifier能挑出AI撰寫文件的比例準確度僅26% ,並且在 9% 的情況下會將人類編寫的內容錯誤地標記為AI編寫。

事實上僅僅26%準確度的比例,已經快要跟用猜的差不多了。而上述的準確度還是在今年一月底當時的測試。AI生成文字在這半年間進化又變得非常大,可想而知AI Classifier的準確度只會更低,還不如用猜的。

所以,如果連OpenAI官方都說他們沒辦法判別文章是否由AI生成了,那麼坊間有一堆號稱能檢驗AI生成的工具,就更不可能做到了。

 

 

 

加入T客邦Facebook粉絲團 固定链接 'OpenAI用來驗證文章是否由AI生成的工具AI Classifier悄悄關閉,原因是準確率太低還不如用猜的' 提交: July 27, 2023, 10:30pm CST