OpenAI 承認正研發 ChatGPT 文本水印技術
近日,據《華爾街日報》報道,OpenAI 已經開發出一款能夠高精度識別 ChatGPT 生成文本的工具,但該工具遲遲未發布。對此,OpenAI 進行了回應,承認正在研究文本水印技術,但表示這項技術仍存在諸多挑戰。
據報道,通過文本水印,OpenAI 將只專注于檢測來自 ChatGPT 的文字,而不是其他公司模型的文字。這項技術通過對 ChatGPT 選擇單詞的方式進行微小的更改來實現,本質上是在文字中創建一個不可見的水印,以后可以被一個單獨的工具檢測到。
盡管在某些情況下,文本水印技術表現出色,但 OpenAI 指出,這項技術在面對以下幾種情況時效果會下降:
1. 翻譯:文本被翻譯成另一種語言時,水印可能丟失。
2. 改寫:文本被重新改寫或重述時,水印可能被破壞。
3. 特殊字符插入:文本中插入特殊字符或符號時,水印可能受到影響。
此外,文本水印技術可能對某些群體產生不成比例的影響,例如非英語母語人士,這也使得這項技術的推廣面臨更多復雜性。
OpenAI 表示,文本水印是他們探索的多種解決方案之一,其他還包括分類器和元數據,旨在確定文本的來源。盡管文本水印在某些場景中表現出色,但由于其局限性和潛在影響,OpenAI 將謹慎推進文本溯源技術的研究,并優先考慮視聽內容的認證工具。